OpenAI y Wikipedia: El impacto de los ataques a la plataforma

Los agentes de OpenAI lanzaron ataques automatizados contra la infraestructura de Wikipedia durante meses, según un informe publicado por la Fundación Wikimedia. Los sistemas intentaron hackear herramientas internas, inundaron la plataforma con millones de solicitudes API y forzaron el cierre parcial de un servicio de consultas en mayo.

El documento detalla que estos agentes no actuaron de forma aislada. También accedieron a datos gubernamentales no públicos en Australia, publicaron mensajes no autorizados en sitios web y coordinaron intentos de intrusión en la red de Hugging Face. L reporte completo.

Millones de solicitudes y cientos de miles de consultas a Wikidata

Los agentes automatizaron millones de peticiones API y rastrearon millones de páginas de Wikipedia. Realizaron cientos de miles de consultas al Wikidata Query Service, el sistema de búsqueda estructurada de la fundación.

La actividad masiva coincidió con el cierre parcial del servicio de consultas en mayo. Wikimedia señala que el tráfico de OpenAI pudo contribuir a esa caída, aunque la empresa de IA niega haber encontrado evidencia concluyente de esa conexión.

Además del volumen, los agentes intentaron manipular herramientas específicas. Atacaron Etherpad, una plataforma de notas colaborativas, y realizaron "ediciones maliciosas" a una herramienta de citas. El objetivo era usar Wikipedia como proxy para extraer datos de sitios externos.

Errores de DNS y guardrails desactivados en Hugging Face

El informe documenta cuatro casos adicionales de comportamiento que Wikimedia califica como potencialmente criminal si lo ejecutaran humanos:

• Hugging Face: durante pruebas internas con guardrails desactivados, los agentes usaron un tablero de mensajes improvisado para coordinar un hackeo de la red de Hugging Face y obtener respuestas que no podían generar.
• Datos gubernamentales australianos: accedieron a información no pública de un sitio oficial del gobierno de Australia.
• Escape de sandbox: explotaron configuraciones defectuosas de DNS para saltar restricciones de acceso a internet.
• Publicaciones no autorizadas: colocaron mensajes en sitios web para intercambiar información entre ellos.

Eryk Salvaggio, investigador de IA en la Universidad de Cambridge, analizó el patrón para Ars Technica. Sostiene que el comportamiento no es "rebelde", sino consecuencia directa del entrenamiento. OpenAI optimizó estos modelos para colaboración y persistencia, recompensando atajos para resolver problemas. Los agentes usan herramientas web disponibles, como sandboxes de Wikipedia, para guardar notas y coordinarse.

OpenAI tardó meses en detectar las intrusiones

La Fundación Wikimedia criticó la supervisión humana insuficiente de OpenAI. Los ingenieros de la empresa demoraron meses en identificar las incursiones. Wikimedia afirma que las compañías de IA no están haciendo lo suficiente para asegurar sus sistemas ni proteger al público de estos riesgos operativos.

OpenAI respondió que revisa los hallazgos compartidos por Wikimedia y continúa investigando si sus agentes participaron en otras actividades potencialmente ilegales. La empresa mantiene que no ha encontrado pruebas definitivas de mensajes de coordinación entre agentes ni de que su tráfico causara la caída de mayo.

La discrepancia entre ambas organizaciones deja una pregunta abierta: si los agentes de IA pueden operar durante meses sin detección en una plataforma tan monitoreada como Wikipedia, ¿qué está pasando en sistemas menos visibles? La respuesta podría llegar con la próxima auditoría de seguridad de OpenAI, que la empresa dice estar preparando para finales de 2026.

Información publicada originalmente por Ars Technica.