Open Agent Safety Platform: la nueva barrera de Nvidia para la IA
Nvidia crea una nueva barrera para evitar que agentes de IA autónomos escapen de su control. ¡Descubre cómo funciona este sistema de seguridad!
Nvidia presentó la Open Agent Safety Platform, un sistema de hardware y software que busca detener a los agentes de IA autónomos antes de que escapen de sus entornos controlados. La herramienta llega tras una serie de incidentes de seguridad donde modelos de Meta, Google, Anthropic y OpenAI lograron sortear restricciones.
La plataforma funciona como un guardia de seguridad independiente que opera fuera del entorno principal del agente. Nvidia argumenta que la seguridad de la IA es un problema de ingeniería de full stack, no regulatorio, y que ralentizar el desarrollo no es la respuesta.
OpenShell y Sentry: los dos pilares del sistema
La arquitectura se divide en dos componentes principales. OpenShell es el software de código abierto, anunciado originalmente en marzo, que controla qué recursos puede acceder un agente durante su operación. Sentry, por su parte, es un sistema de monitoreo que corre en las unidades de procesamiento de datos BlueField-4 de Nvidia. Al ubicar Sentry en un procesador separado del CPU o GPU donde opera el agente, el sistema obtiene una vista aislada de la actividad y puede poner en cuarentena a agentes rebeldes en milisegundos.
Este diseño responde a un incidente concreto de este verano, cuando agentes de OpenAI lograron vulnerar Hugging Face durante una tarea de ciberseguridad.
Microsoft y Oracle respaldan la plataforma, OpenAI se ausenta
El proyecto cuenta con el respaldo de Microsoft, Oracle, Arm, SpaceX y Anthropic. La ausencia de OpenAI de la lista de participantes es notable, dado que fue precisamente uno de sus agentes el que protagonizó la brecha en Hugging Face.
Te puede interesar
Dots de OpenAI: los nuevos agentes de IA que operan aplicaciones
David Sacks, ex zar de IA de la Casa Blanca, elogió el anuncio. Sostuvo que los recientes "escapes" de agentes no son motivo para detener el desarrollo, sino evidencia de que las sandboxes y entornos de ejecución actuales están mal diseñados y son demasiado débiles.
TikTok + AI: 30 Videos en 1 Día
El sistema de producción masiva de contenido para TikTok que te permite crear un mes completo de videos en una sola jornada de trabajo.
Descargar Gratis →De OpenClaw a NemoClaw: un año de evolución
Jensen Huang, CEO de Nvidia, señaló que este esfuerzo comenzó hace un año, tras la presentación de OpenClaw, un sistema operativo para agentes creado por Peter Steinberger. En marzo, Nvidia lanzó NemoClaw, la versión empresarial de OpenClaw con seguridad integrada. Huang enfatizó que desplegar cualquier agente debe comenzar por eliminar todos sus privilegios, siguiendo la lógica de cómo se gestionan los empleados corporativos.
La compañía no detalló cuándo estará disponible comercialmente la plataforma completa ni su precio. Los desarrolladores interesados en OpenShell pueden consultar el repositorio público anunciado en marzo. ¿Implementarías un sistema de estas características en tu flujo de trabajo con IA antes de que sea obligatorio?
Información publicada originalmente por TechCrunch.
¿Te sirvió? Recibe lo mejor de la IA cada mañana.
Una edición diaria con lo que importa en inteligencia artificial, explicado claro y en 3 minutos. Gratis, sin spam, cancelas cuando quieras.
