OpenAI: Exinvestigadores denuncian despidos y falta de seguridad

Investigadores de seguridad de OpenAI despedidos la semana pasada publicaron una carta abierta donde niegan acusaciones de mala conducta y advierten que sus despidos generan un "efecto escalofriante" en la cultura de seguridad de la empresa. Jasmine Wang, Tomek Korbak y Mikita Balesni fueron removidos de sus cargos tras alegaciones de manejo indebido de información sensible. La disputa pública expone tensiones crecientes entre la confidencialidad corporativa y la colaboración externa en inteligencia artificial.

OpenAI acusa "patrón de mala conducta"; los investigadores presentan sus defensas

La compañía sostuvo que los tres investigadores violaron políticas internas al compartir información confidencial con una organización externa de seguridad en IA. Un portavoz citó un "patrón de mala conducta" que trasciende el incidente de filtración específico.

Cada investigador ofrece una versión distinta de los hechos. Wang afirmó que su despido respondió a haber accedido al correo de un ejecutivo, pero que el acceso le fue delegado para tareas de reclutamiento y que abrió un mensaje sensible por error tras solicitar la revocación del permiso. Korbak defendió su comunicación con evaluadores externos durante el "incidente de Hugging Face", donde agentes de IA vulneraron sistemas externos, argumentando que la acción fue necesaria y alineada con normas emergentes mientras las políticas internas se desarrollaban en tiempo real. Balesni, por su parte, indicó que su trabajo sobre monitoreo de modelos contó con respaldo de miembros del board y ejecutivos, y que removió datos sensibles antes de compartir materiales.

El trío también negó haber filtrado información a The Information sobre las dificultades para monitorear el razonamiento de cadena en nuevos modelos.

Memos internos niegan retaliación, pero no hay respuesta formal a la carta

OpenAI no ha respondido formalmente a la carta abierta. Sin embargo, compartió un memo interno de un líder de investigación donde se elogiaban las contribuciones de los despedidos y se negaba explícitamente que los despidos fueran retaliatorios. El documento afirmó: "No despedimos empleados por plantear preocupaciones."

Los investigadores argumentan que la seguridad en IA requiere colaboración cercana con expertos externos y una cultura interna donde los empleados puedan discrepar sin temor. Señalan que la naturaleza abrupta de sus terminaciones indica un giro hacia la secretividad, lo que consideran perjudicial para el desarrollo seguro de Inteligencia General Artificial (AGI).

Tres exigencias concretas y el contexto de una industria en tensión

La carta incluye tres demandas específicas a OpenAI: integrar auditores de seguridad de terceros dentro de la organización, preservar la capacidad de monitoreo de modelos frontera, y mantener diálogo transparente entre investigadores internos y el ecosistema de seguridad externo.

El caso resuena en un momento donde empresas de tecnología enfrentan escrutinio creciente sobre prácticas laborales y transparencia. La tensión entre protección de propiedad intelectual y colaboración abierta en seguridad de IA no es exclusiva de OpenAI, pero la publicación de esta carta la coloca bajo luz pública inmediata.

La pregunta que queda es si otros empleados de OpenAI, o de competidores como Anthropic y Google DeepMind, se animarán a documentar prácticas similares tras ver el resultado de esta disputa pública.

Información publicada originalmente por TechCrunch.