Un informe de inteligencia elaborado con ayuda de inteligencia artificial (IA) estuvo a punto de provocar un enfrentamiento armado entre Estados Unidos y China. El documento, que circuló por el ejército estadounidense durante la guerra con Irán, afirmaba que un buque chino en Oriente Medio transportaba componentes para un programa de armas nucleares. La alerta activó de inmediato los planes de interceptación, según cuatro fuentes familiarizadas con el episodio.
La operación llegó a un punto crítico: miembros armados del ejército estadounidense se preparaban para abordar el barco y aviones militares ya estaban en el aire, según dos de las fuentes. Sin embargo, justo antes de ejecutar la acción, los responsables profundizaron en el informe —elaborado por un analista de un mando de operaciones especiales— y descubrieron que se había generado con IA y que el chatbot utilizado había identificado erróneamente el material que transportaba la embarcación.
Un error con consecuencias potencialmente catastróficas
El informe, según una de las fuentes, era "completamente falso". Pero también "casi inició una guerra", añadió la misma fuente. Cualquier operación estadounidense contra un buque chino podría haber escalado hasta un conflicto armado entre ambas potencias.
El analista había consultado a un chatbot sobre información de inteligencia relativa al manifiesto del barco, procedente del Mando de Operaciones Especiales del Pacífico de EE.UU., con base en Hawái. No está claro si el chatbot era un producto comercial o una herramienta gubernamental. La herramienta combinó inteligencia de fuentes abiertas con inteligencia de señales clasificada y llegó a la conclusión errónea sobre la carga. Después, el analista volvió a usar IA para empaquetar los hallazgos en un informe de inteligencia estándar y lo distribuyó.
El Mando de Operaciones Especiales del Pacífico y el Pentágono no respondieron a las solicitudes de comentarios.
El episodio refleja un riesgo más inmediato que los debates sobre una IA fuera de control: seres humanos tomando decisiones desastrosas basadas en información inexacta o engañosa generada por sistemas automatizados. Fuentes señalan que el ejército recurre cada vez más a la IA para ayudar en la selección de objetivos, un área con riesgo evidente de errores fatales.
"La IA en la selección de objetivos es algo que definitivamente está aumentando y no hay una guía real sobre cómo tener un humano en el circuito evitará víctimas civiles o fuego amigo", afirmó otra fuente conocedora de las políticas militares actuales.
El tipo de "alucinación" que produjo la herramienta utilizada por el analista no ha sido un incidente aislado en la comunidad de inteligencia desde que estos sistemas comenzaron a proliferar en el gobierno, según una de las fuentes. Para algunos funcionarios de inteligencia veteranos, incluso aquellos que apoyan ampliamente el uso de IA en el ámbito militar, estas herramientas han presionado a los analistas para producir y difundir inteligencia más rápido, abriendo la puerta a errores. Los analistas jóvenes, en particular, son nativos en el uso de estas tecnologías y más propensos a confiar en ellas sin cuestionarlas.
"La IA te permite llegar a una mala idea más rápido", resumió una de las fuentes.
El episodio ocurre mientras el Pentágono impulsa la integración de la IA en casi todos los aspectos de su trabajo, desde el análisis de grandes volúmenes de inteligencia hasta la gestión de presupuestos y cadenas de suministro. En enero, el secretario de Defensa, Pete Hegseth, presentó su "Estrategia de Aceleración de la Inteligencia Artificial" para acelerar el uso militar de esta tecnología. Sin embargo, el esfuerzo es descentralizado: diferentes partes del gobierno utilizan distintas herramientas bajo órdenes y estándares de seguridad dispares, sin un conjunto único de normas para verificar la información generada.