Un informe hecho con IA casi lanza un abordaje a un buque chino
El documento afirmaba que la nave llevaba componentes de un programa nuclear. Los aviones ya estaban en el aire cuando se descubrió que un chatbot había identificado mal la carga.
Un informe de inteligencia que circuló por las fuerzas armadas de Estados Unidos la primavera pasada, en plena guerra con Irán, aseguraba que un buque chino transportaba por Oriente Medio componentes de un programa de armas nucleares. El aparato militar se puso en marcha para interceptarlo: había militares armados preparándose para abordar la nave y aviones ya en el aire.
Poco antes de ejecutar la operación, varios funcionarios revisaron a fondo el documento y encontraron que lo había elaborado un analista del mando de operaciones especiales con ayuda de inteligencia artificial, y que el chatbot consultado había identificado mal la carga. La operación se abortó. Una de las cuatro fuentes conocedoras del episodio calificó el informe de «enteramente falso» y añadió que «casi empieza una guerra».
El analista había preguntado al sistema por unos reportes sobre el manifiesto de carga del barco procedentes del mando de operaciones especiales del Pacífico, con sede en Hawái. El programa fusionó información de fuentes abiertas con inteligencia de señales clasificada y llegó a su conclusión; después el mismo analista volvió a usar la herramienta para empaquetar el resultado en el formato estándar de un informe de inteligencia, de los que los mandos dan por fiables, y lo difundió.
No quedó claro si la herramienta era comercial o un desarrollo del propio Gobierno. «Las herramientas internas son en su mayoría copias de lo comercial con pintalabios», dijo un exalto funcionario familiarizado con los sistemas que usan los analistas militares y de inteligencia. Cualquier acción contra un buque chino podía haber escalado a un conflicto armado entre las dos potencias.
El caso llega mientras el Pentágono acelera la adopción de estas herramientas: en enero el secretario de Defensa, Pete Hegseth, presentó una estrategia para «eliminar barreras burocráticas» y poner modelos de inteligencia artificial en manos de los tres millones de empleados civiles y militares, en todos los niveles de clasificación. El despliegue es descentralizado, con distintas oficinas usando distintas herramientas bajo distintas órdenes, y sin un estándar común para verificar lo que esos sistemas producen.
