Un informe de inteligencia elaborado con ayuda de inteligencia artificial (IA) llevó al Ejército de Estados Unidos a preparar una operación para interceptar y abordar un buque chino en Oriente Medio, después de que un chatbot identificara erróneamente su cargamento como componentes relacionados con un programa de armas nucleares.
El episodio ocurrió durante la guerra entre Estados Unidos e Irán, a comienzos de este año, y fue revelado por CNN con base en el testimonio de cuatro fuentes familiarizadas con el caso.
De acuerdo con dos de ellas, militares armados se prepararon para abordar la embarcación mientras aeronaves estadounidenses ya se encontraban en el aire.
Una revisión detectó el error
La operación fue suspendida poco antes de llevarse a cabo, cuando funcionarios revisaron con mayor detenimiento el informe y descubrieron que había sido elaborado con ayuda de IA.
Según CNN, un analista de un comando de operaciones especiales utilizó un chatbot para analizar información relacionada con el buque.
La herramienta combinó datos de fuentes abiertas con inteligencia clasificada y concluyó equivocadamente que la embarcación transportaba materiales vinculados con un programa de armas nucleares.
La cadena estadounidense no pudo determinar cuál era realmente la carga del buque ni establecer si el chatbot utilizado era una herramienta comercial o un sistema desarrollado específicamente por el Gobierno de Estados Unidos.
Una de las fuentes consultadas por CNN calificó el informe como “completamente falso” y advirtió sobre las consecuencias que pudo haber tenido una intervención militar contra una embarcación china, en un contexto de tensión entre Washington y Pekín.
El caso expone los riesgos del uso militar de la IA
El incidente se conoce mientras el Ejército y los servicios de inteligencia estadounidenses incrementan el uso de herramientas de inteligencia artificial para procesar información y elaborar productos de análisis.
El caso también vuelve a poner sobre la mesa las advertencias sobre los llamados errores o “alucinaciones” de la IA: respuestas que pueden parecer convincentes, pero contienen información incorrecta.
Expertos y especialistas en seguridad han señalado que este tipo de fallos adquiere una dimensión especialmente delicada cuando los sistemas se utilizan para apoyar decisiones militares.
La revelación ocurre además en medio del debate sobre la velocidad con la que avanza la industria de la IA.
Dario Amodei, director ejecutivo de Anthropic, ha planteado públicamente preocupaciones sobre los riesgos de seguridad asociados con el desarrollo de estos sistemas, mientras que otros líderes tecnológicos también han advertido sobre posibles riesgos derivados de una expansión acelerada de la tecnología.
Lee también: Anuncia Trump acuerdo con Dinamarca para tomar “control permanente” sobre seguridad de Groenlandia
El episodio entre Estados Unidos y el buque chino representa, según el reporte de CNN, uno de los casos más delicados conocidos hasta ahora sobre las consecuencias que puede tener un error generado por IA cuando la información llega a niveles de decisión militar.
Con información de EFE
