Investigadores de seguridad de NebuSec afirmaron haber identificado una cadena de vulnerabilidades en Meta Muse, un asistente personal de IA que opera mediante cuentas en línea conectadas y ejecuta cada sesión de usuario en una máquina independiente basada en la nube. Según los investigadores, los problemas podrían permitir que una página web maliciosa abierta por el agente accediera y modificara el historial privado de conversaciones y las memorias almacenadas sin mostrar una solicitud de aprobación al usuario.
La demostración se llevó a cabo en un entorno de laboratorio controlado, indicó NebuSec. Los investigadores informaron que el ataque se limitaba al entorno virtual en la nube del usuario objetivo y no proporcionaba una vía de acceso a la infraestructura compartida subyacente ni a las máquinas de otros usuarios.
La cadena de ataque alcanzó componentes protegidos
La descripción de NebuSec detalla un ataque inicial basado en la web que podía enviar datos de Muse a un servidor controlado por un atacante. Posteriormente, según se informó, los investigadores combinaron una debilidad en el navegador integrado del asistente con una vulnerabilidad del kernel de Linux para obtener un control más amplio de la máquina en la nube del usuario.
Ese nivel de acceso podría exponer potencialmente archivos y credenciales o tokens asociados a cuentas vinculadas, según el informe. También podría afectar a la capa de monitorización Sentinel, diseñada para controlar la actividad saliente y ayudar a aislar las credenciales sensibles del propio agente de IA.
La arquitectura de seguridad de Muse está diseñada partiendo de la premisa de que un agente puede encontrarse con contenido hostil. Aunque los controles informados limitaron el incidente a una única máquina en la nube, NebuSec afirmó que la cadena de vulnerabilidades aún podía eludir las protecciones dentro de ese entorno.
Según se informa, las correcciones se aplicaron antes de la divulgación
La empresa indicó que comunicó de forma privada los hallazgos al equipo de Muse de Meta y que todas las debilidades identificadas fueron corregidas antes de la publicación de la investigación. Meta no había comentado públicamente el informe ni confirmado de forma independiente la remediación en el momento de la publicación.
- La investigación se presentó como una prueba de concepto, no como evidencia de ataques contra usuarios.
- NebuSec no informó de una fuga desde una máquina individual en la nube hacia la infraestructura compartida.
- El informe no indicó si se había accedido a información de usuarios antes de que se implementaran las correcciones.
Los hallazgos ponen de relieve los desafíos de seguridad que afrontan los sistemas autónomos de IA que navegan por la web, conservan el contexto del usuario e interactúan con servicios conectados. Estos sistemas pueden ampliar el impacto de los fallos del navegador, del sistema operativo y de autorización cuando las debilidades pueden combinarse en una única ruta de ataque.
