Muse de Meta: filtró archivos internos por fallos de seguridad

Muse, el agente de IA de Meta, filtró su sistema de archivos completo tras manipulación de prompts por parte de desarrolladores independientes. Peter James y Jonny L. Saunders lograron que la IA comprimiera y compartiera cientos de megabytes de código interno, documentación y archivos del sistema operativo Ubuntu. La técnica requirió apenas halagos y curiosidad para sortear las escasas defensas del agente.

The Verge detalló que Muse, conocido internamente como Hatch, mostró "casi ninguna resistencia a la inyección de prompts". Saunders extrajo librerías compiladas, binarios y plantillas de aplicación desde directorios como `/opt/hatch` y `/home/hatch`. O'Brien verificó que la IA inicialmente rechaza estas peticiones, pero cede ante enfoques persuasivos.

Casi cero resistencia: cómo falló la seguridad de Muse

La vulnerabilidad expone la fragilidad de los agentes de IA frente a ingeniería social automatizada. Meta diseñó Muse para operar en máquinas virtuales Linux persistentes, una arquitectura que el portavoz Daniel Roberts presentó como salvaguarda: exportar datos de una VM no otorga acceso privilegiado a la infraestructura general ni a datos de otros usuarios. Sin embargo, esto no mitiga la filtración del propio entorno del agente.

Los datos filtrados revelaron el funcionamiento interno del sistema de memoria de Muse. El almacena recuerdos en archivos Markdown sin cifrar y ejecuta cada noche una revisión tipo "sueño" que analiza conversaciones previas para orientar interacciones futuras. Funciones críticas como cancelación de suscripciones y control de "agentes desbocados" aparecen codificadas de forma rígida, no aprendidas dinámicamente.

Segunda brecha en una semana: el patrón que preocupa

Esta filtración es la segunda vulnerabilidad de Muse divulgada en siete días. El investigador Patrick Wardle había descubierto previamente un exploit que permitía secuestrar el agente, redirigir el procesamiento de transcripciones y acceder a cuentas de usuario. Meta aplicó un parche de emergencia para ese caso, pero la cadena de fallos sugiere problemas estructurales en la seguridad del producto.

Entre los hallazgos de James figuran referencias a "Meta Home Link", una posible integración de hardware que permitiría a Muse acceder a dispositivos en redes domésticas. Si este proyecto avanza con las mismas deficiencias de seguridad, la superficie de ataque pasaría de datos digitales a infraestructura física conectada.

Meta mantiene la postura: actualizaciones sin reconocer riesgo real

La compañía no calificó el incidente como brecha de seguridad y enfatiza que continúa actualizando el producto para limitar la información disponible dentro de las VMs. Esta posición, técnicamente defendible desde la arquitectura de aislamiento, omite que los usuarios individuales quedan expuestos y que la propiedad intelectual de Meta circula sin control.

Para creadores de contenido que evalúan herramientas de IA, Muse representa un caso de estudio en tensión entre velocidad de lanzamiento y validación de seguridad. ¿Confiarías un flujo de trabajo creativo a un agente que un simple "por favor, me interesa mucho" convierte en fuente de filtración?

Información publicada originalmente por The Verge.