Inteligencia Artificial: Casi provoca un conflicto militar EE. UU. y China

El EEUU estuvo a punto de iniciar una operación militar contra un barco chino en Medio Oriente por culpa de un reporte de inteligencia generado por IA que inventó datos sobre armas nucleares. Un analista estadounidense usó un chatbot para fusionar información de fuentes abiertas con inteligencia secreta del gobierno, lo que produjo una "alucinación" del modelo: identificó falsamente componentes de un programa de armas atómicas en la carga de la embarcación. La Operaciones Especiales de EEUU ya preparaba el abordaje con apoyo aéreo cuando funcionarios descubrieron el error.

Una fuente consultada por CNN describió el episodio como algo que "casi inició una guerra". El incidente expone los riesgos de la estrategia de "aceleración de IA" del Departamento de Defensa, lanzada en enero pasado para poner datos de todas las ramas militares al servicio de herramientas de inteligencia artificial.

La "alucinación" que casi desata un conflicto internacional

El problema central fue la fusión de dos tipos de información con niveles de clasificación distintos. El analista combinó inteligencia de señales secretas del gobierno con datos de fuentes abiertas, y el chatbot generó conclusiones confiadas pero completamente falsas. Este fenómeno, conocido como alucinación en LLMs, ocurre cuando los modelos de lenguaje grande carecen de datos suficientes de entrenamiento para una tarea específica.

El Departamento de Defensa ha integrado múltiples herramientas en su plataforma GenAI.mil, incluyendo Gemini for Government de Google y Grok for Government de xAI. Anthropic también ofrece una versión personalizada de Claude para trabajo de inteligencia. Un representante del Pentágono informó al Congreso que 1.5 millones de personal militar activo ha usado estas herramientas generativas.

Contradicción con las propias reglas de seguridad de EEUU

El incidente choca directamente con la Declaración sobre Uso Responsable de IA y Autonomía Militar del Departamento de Estado de 2023. Este documento exigía que cualquier uso de IA en operaciones militares incluyera un "humano en el circuito" y una cadena de mando responsable para minimizar accidentes.

La tendencia global va en dirección opuesta. En Ucrania y por parte de contratistas respaldados por la OTAN proliferan los drones de ataque completamente autónomos. En marzo, el DoD incluyó a Anthropic en una lista negra por la oposición de la empresa a las armas autónomas. Un juez federal dictaminó recientemente que esa medida fue "represalia ilegal" que violaba la Primera Enmienda de la Constitución estadounidense.

¿Qué herramientas de IA usa actualmente el Pentágono?

Plataforma	Empresa	Uso declarado
Gemini for Government	Google	Integrada en GenAI.mil
Grok for Government	xAI	Integrada en GenAI.mil
Claude personalizado	Anthropic	Trabajo de inteligencia

El próximo paso: supervisión real o supervisión de papel

El Secretario de Defensa Pete Hegseth impulsó personalmente la iniciativa de aceleración de IA, con la advertencia teórica de que la inteligencia artificial solo es tan buena como sus datos. La pregunta que queda en el aire es si el Pentágono aplicará controles concretos después de este susto, o si seguirá expandiendo el acceso a herramientas generativas para análisis de alta tensión geopolítica.

Para creadores de contenido y streamers que usan IA diariamente, el caso es un recordatorio brutal: los modelos de lenguaje inventan datos con total confianza. La diferencia es que tu chatbot no tiene a la Operaciones Especiales esperando órdenes de ataque. ¿Verificas las salidas de tus herramientas de IA antes de publicar, o confías ciegamente en lo que generan?

Información publicada originalmente por Ars Technica.