Inteligencia artificial generó informe falso que casi llevó a EE.UU. a atacar nave china y desatar una guerra

Un chatbot identificó erróneamente la carga como componentes nucleares; militares estaban listos para abordar el buque antes de detectar el fallo.

El ejército de Estados Unidos estuvo a punto de lanzar una operación militar contra una nave china en aguas de Medio Oriente el pasado mes de mayo, luego de que un informe de inteligencia generado con ayuda de inteligencia artificial (IA) identificara erróneamente su carga como componentes vinculados a un programa de armas nucleares, según reveló la cadena CNN.

El incidente ocurrió en el contexto de la guerra con Irán, cuando un analista del Comando de Operaciones Especiales del Pacífico (SOCPAC), con sede en Hawái, utilizó un chatbot para analizar el manifiesto de la embarcación. La herramienta combinó información de fuentes abiertas con inteligencia clasificada de señales y llegó a una conclusión errónea: que el buque transportaba material relacionado con un programa nuclear.

Con ese informe en mano, que fue distribuido como un documento estándar de inteligencia, los planificadores militares comenzaron a preparar una operación de interceptación. Personal armado se alistaba para abordar la nave y aviones de combate ya estaban en el aire, listos para responder.

Sin embargo, momentos antes de que se ejecutara la operación, oficiales revisaron en profundidad el documento y descubrieron que había sido elaborado con ayuda de un chatbot que había identificado incorrectamente la carga del barco. Una fuente citada por CNN calificó el informe como "completamente falso" y advirtió que la situación "casi inició una guerra", ya que cualquier acción militar contra una nave china podría haber escalado a un conflicto armado entre ambas potencias.

El Pentágono se limitó a señalar que mantiene "su compromiso con la verificación rigurosa de toda la información de Inteligencia" y con la "integración responsable de tecnologías emergentes", sin comentar el incidente específico . El Comando de Operaciones Especiales del Pacífico y el Departamento de Defensa no respondieron a las solicitudes de comentario de CNN.

El caso ha encendido las alertas sobre los riesgos de la rápida integración de la IA en operaciones militares sensibles, especialmente en la selección de objetivos. Una fuente advirtió que "no hay una guía real sobre cómo tener un humano en el circuito para prevenir víctimas civiles o fuego amigo". Otra fuente resumió la situación señalando que "la IA te permite llegar a una mala conclusión más rápido".