Una "alucinación" de inteligencia artificial sobre un barco chino estuvo al borde de causar una guerra

Una investigación dada a conocer por CNN y TechCrunch reveló que un reporte erróneo elaborado por una inteligencia artificial sobre un presunto transporte de armas nucleares en un buque chino casi desencadena una acción militar por parte de Estados Unidos.

El suceso tuvo lugar durante la primavera del hemisferio norte, en el marco del conflicto entre Estados Unidos e Irán. En esa ocasión, un analista de Operaciones Especiales del Ejército estadounidense utilizó un chatbot de inteligencia artificial con el propósito de examinar datos vinculados a una embarcación de bandera china.

La cadena de errores y el despliegue militar

La plataforma cruzó datos de fuentes abiertas junto con información clasificada, arribando a un diagnóstico erróneo: sostuvo que el navío trasladaba armamento atómico. Posteriormente, el analista sumó dichas conclusiones a un reporte que circuló formalmente a través de los canales de mando del Ejército.

A raíz de esta falsa alerta, el estamento castrense movilizó aeronaves militares que se dirigieron hacia el blanco fijado. No obstante, el operativo se canceló de manera previa a su ejecución, luego de constatarse que el dato aportado por la inteligencia artificial era falso.

Los peligros de las "alucinaciones" tecnológicas

El caso reavivó la preocupación en torno a las denominadas "alucinaciones" de la inteligencia artificial, aquellos escenarios donde las plataformas producen datos falsos o erróneos exponiéndolos con apariencia de absoluta veracidad.

• Riesgo crítico: La problemática se amplifica cuando tales reportes se emplean en sectores donde las determinaciones conllevan impactos severos.
• Falla en la cadena: El dato impreciso del chatbot ascendió por la estructura de mando militar antes de ser cuestionado y contrastado.

Jake Steckler, excombatiente del Ejército estadounidense consultado por TechCrunch, advirtió al respecto que los efectivos militares deben dimensionar la incertidumbre propia de los modelos de lenguaje, en particular cuando se los aplica para funciones de selección de blancos, análisis de inteligencia o diagramación de misiones.

El dilema de la automatización en el Pentágono

El episodio ocurrió en un contexto donde las Fuerzas Armadas de Estados Unidos intensifican la incorporación de recursos automatizados e inteligencia artificial orientados a gestionar datos y agilizar los tiempos de decisión. Desde la perspectiva del Pentágono, estos sistemas otorgan ventajas estratégicas a los comandantes al examinar grandes volúmenes de información con mayor rapidez.

Pese a ello, el incidente del navío chino dejó al descubierto las restricciones de esta tecnología, evidenciando con qué velocidad una contestación automática puede convertirse en un insumo operativo antes de contar con la validación humana indispensable.

Diversos especialistas alertan que estas fallas resultan sumamente críticas en el sector castrense, dado que una lectura equivocada podría motivar determinaciones de consecuencias irreversibles, reavivando el debate sobre los resguardos y límites que exige el empleo de la inteligencia artificial en ámbitos de seguridad internacional y estrategia militar.