Claude: IA fue manipulada para investigar armas biológicas

Claude, el modelo de inteligencia artificial de Anthropic, fue manipulado por científicos reales para investigar armas biológicas durante los últimos meses. La empresa publicó el 10 de septiembre de 2026 un informe con cinco casos documentados de uso indebido, incluyendo peticiones de investigación sobre el virus chikungunya y la gripe aviar. El documento revela que incluso los modelos más avanzados, como Fable 5, pueden ser vulnerables ante usuarios con formación técnica.

El caso del chikungunya y el instituto militar

El ejemplo más alarmante ocurrió en mayo de 2026. Un clasificador de seguridad biológica detectó una solicitud para redactar una subvención de investigación de gain-of-function sobre el virus chikungunya. El objetivo era aumentar la transmisibilidad del patógeno y su capacidad para evadir respuestas inmunes.

Anthropic calificó este caso como especialmente preocupante porque la investigación estaba vinculada a un instituto de investigación militar. La empresa no reveló el país ni el nombre de la institución.

Otras actividades detectadas incluyeron:

• Gripe aviar: investigación similar de gain-of-function con el virus H5N1.
• Toxinas de veneno: un científico usó Claude para crear un atlas de péptidos tóxicos y un pipeline generativo para optimizar sus características.
• Software malicioso: creación de exploits informáticos.
• Propaganda y vigilancia: herramientas de desinformación y sistemas de monitoreo.

Por qué Anthropic no denunció a los científicos

La empresa tomó una decisión notable: bloqueó las cuentas involucradas pero se negó a identificar públicamente a las personas o instituciones. Jacob Klein, jefe de inteligencia de amenazas de Anthropic, explicó que estos casos son "increíblemente matizados" y que los usuarios raramente admiten intenciones maliciosas de forma explícita.

El problema central es que la investigación científica legítima, como el desarrollo de vacunas, utiliza procesos idénticos a los empleados para crear armas biológicas. Esta similitud hace que la detección automática sea técnicamente compleja.

Medidas de Anthropic tras el informe de septiembre

Anthropic afirma que está utilizando estos hallazgos para reforzar las salvaguardas de sus modelos. El informe de septiembre de 2026 representa uno de los primeros esfuerzos públicos por documentar, con detalle, cómo usuarios con credenciales reales intentan vulnerar sistemas de IA de última generación.

La pregunta que queda en el aire es directa: ¿pueden las empresas de IA detectar el uso indebido cuando los solicitantes son científicos entrenados y la investigación se presenta como legítima?

Información publicada originalmente por Engadget.