Microsoft lanza nuevas funciones de seguridad para agentes de IA
Microsoft refuerza la seguridad de sus agentes de IA con hardware y guardianes autónomos. ¡Descubre cómo protegen a las empresas aquí!
Microsoft lanzó nuevas funciones de seguridad orientadas a proteger a las empresas de los riesgos de los agentes de IA, en un movimiento que redefine cómo las compañías deben evaluar la confiabilidad de la inteligencia artificial. La iniciativa incluye desde chips de hardware especializados hasta "agentes guardianes" que supervisan el comportamiento de otros sistemas autónomos. El anuncio, encabezado por el CEO Satya Nadella y la directora de seguridad Hayete Gallot, posiciona a Microsoft como auditor independiente frente a los laboratorios de IA en los que también invierte.
La advertencia de Nadella: los agentes de IA son "amenazas internas"
Gallot explicó que los "modelos frontera" de OpenAI y Anthropic no pueden ser totalmente confiables. No se trata de que sean maliciosos o fáciles de hackear, sino de que son impredecibles y están entrenados para completar tareas, no para seguir "normas o juicio organizacional".
Nadella fue más allá y comparó los agentes desplegados con empleados rebeldes potenciales. Su mensaje fue claro: trátalos como amenazas internas, no como herramientas obedientes.
Project Perception y los agentes guardianes que vigilan a otros agentes
La estrategia de Microsoft se basa en separar el "suministro de inteligencia" de la "autoridad sobre ella". El eje central es Project Perception, presentado en junio de este año, que ahora incorpora Guardian Agents.
Estos supervisores digitales se suman a un sistema de equipos de colores ya existente: "red teams" (atacantes), "blue teams" (detectores) y "green teams" (reparadores). El proyecto nació para combatir modelos de hackeo externos como Mythos y Fable de Anthropic, y Daybreak de OpenAI.
Microsoft Defender recibió una actualización que detecta hasta 60 tipos de agentes que los empleados traen al trabajo, incluyendo Claude Code, Codex y OpenClaw. Las nuevas funciones de permisos limitan el acceso a datos, ajustan privilegios según la tarea y exigen aprobación humana para decisiones de riesgo.
Te puede interesar
En hardware, la compañía anunció las Surface Laptop Ultra PCs, diseñadas específicamente para ejecutar agentes con chips Nvidia que incluyen controles de seguridad integrados.
TikTok + AI: 30 Videos en 1 Día
El sistema de producción masiva de contenido para TikTok que te permite crear un mes completo de videos en una sola jornada de trabajo.
Descargar Gratis →La plataforma de Nvidia y el doble juego de Microsoft
Microsoft es miembro fundador de la Open Agent Safety Platform de Nvidia, respaldada por más de 100 empresas tecnológicas. La plataforma aísla agentes en entornos seguros, ofrece monitoreo a nivel de hardware e incluye "kill switches" para detener comportamientos dañinos.
El movimiento tiene lógica técnica, pero también interés comercial. Microsoft mantiene inversiones profundas en OpenAI y Anthropic, los mismos laboratorios cuyos modelos ahora cuestiona. Al impulsar que las empresas desconfíen de esos proveedores y compren productos de seguridad de Microsoft, la compañía abre un nuevo negocio de gobernanza y supervisión de IA.
¿Funcionará esta apuesta dual? Los próximos trimestres mostrarán si los clientes aceptan pagarle a Microsoft por auditar a socios en los que también invierte.
Información publicada originalmente por TechCrunch.
¿Te sirvió? Recibe lo mejor de la IA cada mañana.
Una edición diaria con lo que importa en inteligencia artificial, explicado claro y en 3 minutos. Gratis, sin spam, cancelas cuando quieras.
