El tío Sam quiere que USTED use IA... le guste o no
Opinión | What Then Studio
Imagina iniciar sesión en tu ordenador un lunes por la mañana. Ni siquiera has tomado tu café. De repente, aparece una ventana emergente en tu pantalla con una imagen del Tío Sam señalándote directamente, con el siguiente mensaje: "Quiero que TÚ uses IA".
Podrías entrar en pánico. ¿Me hackearon? ¿Es una prueba de phishing? Para miles de militares estadounidenses este mes, no fue una estafa, sino una orden directa. El Pentágono lanzó oficialmente GenAI.mil , una iniciativa masiva para poner la Inteligencia Artificial comercial (como Gemini de Google) al alcance de casi todos los militares. Pero, como informó DefenseScoop esta semana , el lanzamiento ha sido... caótico. He aquí por qué la repentina transición del ejército a la IA es a la vez un punto de inflexión y una apuesta arriesgada.
1. El lanzamiento "vertiginoso"
"Literalmente apareció un día"
Solemos esperar que el ejército avance a la velocidad de un glaciar. Si quieres una grapadora nueva, necesitas tres formularios firmados por triplicado. Pero con GenAI.mil , el Departamento de Defensa (DOD) pisó el acelerador. El secretario de Defensa, Pete Hegseth, envió un memorando exigiendo que las tropas "inicien sesión, aprendan el sistema e incorporen el sistema a sus flujos de trabajo de inmediato".
¿El problema? Casi no había capacitación. Un alto mando declaró a DefenseScoop que la herramienta nos fue impuesta sin ninguna guía sobre cómo usarla de forma segura. Las tropas ahora se hacen las preguntas obvias: ¿Puedo introducir información clasificada aquí? (No). ¿Quién es el propietario de los datos? (Es complicado). Cuando se entrega una herramienta potente a la gente sin un manual, no se está innovando, sino arriesgándose.
2. El problema de la "alucinación"
Cuando tu compañero de equipo digital te miente
Todos sabemos que a la IA Generativa le gusta inventar cosas. En el mundo tecnológico, a esto le llamamos "alucinaciones". Si ChatGPT inventa un dato sobre una receta de galletas, te arruina la cena. Si una IA militar inventa un dato sobre un procedimiento operativo estándar (POE) o una evaluación de riesgos, podría haber heridos.
Aunque algunos soldados jóvenes están encantados con la eficiencia (un cabo mencionó que redactaba procedimientos operativos estándar completos en minutos), los veteranos se muestran escépticos. Como señaló un experto: «Un modelo que habla con seguridad puede estar equivocado». En una profesión donde la precisión es literalmente cuestión de vida o muerte, confiar en un chatbot requiere un nivel de confianza que aún no se ha ganado.
3. El dilema de la caja negra
Basura que entra, basura que sale
El mayor temor no es que la IA no funcione, sino que no sabemos cómo funciona. Tyler Saltsman, veterano del ejército y fundador de la IA, llama a la IA comercial una "caja negra". No sabemos qué datos entrenaron estos modelos. ¿Fueron hilos de Reddit? ¿Wikipedia? ¿Propaganda adversaria?
Además, existe el riesgo de fuga de datos. Si un soldado introduce un correo electrónico confidencial en el chatbot para resumirlo, ¿adónde van esos datos? ¿Entrena el modelo? ¿Se envían a un servidor comercial? Sin respuestas claras, el ejército corre el riesgo de entregar su estrategia a los mismos algoritmos que intenta dominar.
El resultado final
La IA es, sin duda, el futuro de la guerra. Pero imponerla al ejército de la noche a la mañana es como darle a un adolescente las llaves de un Ferrari antes de que haya cursado la asignatura de conducir. Es rápida, es potente, pero si no tenemos cuidado, alguien va a sufrir un accidente.
Referencia: Este artículo de opinión hace referencia a un informe original de DefenseScoop .
Dejar un comentario