Una investigación destaca los riesgos de la gobernanza de identidades en los agentes de IA

Una nueva investigación describe una técnica denominada «GhostJacking», mediante la cual los atacantes podrían explotar las alertas de seguridad y los eventos bloqueados para influir en el comportamiento de los agentes de IA. Los hallazgos apuntan a deficiencias en la forma en que se gobiernan las identidades, los permisos y las señales de seguridad de los agentes.

Los agentes de IA operan cada vez más con acceso a aplicaciones, datos y flujos de trabajo automatizados. Como resultado, los sistemas que supervisan su actividad pueden convertirse en una parte importante del perímetro de seguridad. Según la investigación, un atacante podría intentar utilizar alertas o acciones denegadas como entradas que alteren las decisiones de un agente, lo que potencialmente crearía una oportunidad para manipular o secuestrar su funcionamiento.

Por qué es importante el problema

Los controles de identidad tradicionales suelen estar diseñados para usuarios humanos y cuentas de servicio de larga duración. En cambio, los agentes de IA pueden tomar decisiones de forma dinámica, invocar múltiples herramientas y reaccionar a eventos en tiempo real. Si sus identidades y permisos no se gestionan estrictamente, un agente podría recibir más acceso del necesario o responder de forma impredecible a señales maliciosas.

La investigación subraya que la actividad bloqueada no debe tratarse como ruido de fondo inofensivo. Los eventos de seguridad también pueden ser procesados por el propio agente, por sistemas de orquestación conectados o por otros componentes automatizados. Sin una separación clara entre las instrucciones de confianza y los datos de eventos no confiables, los atacantes podrían influir en el contexto o las acciones de un agente.

Consideraciones de seguridad

• Asigne a cada agente una identidad distinta y con un alcance estrictamente definido, y limite el acceso únicamente a las herramientas y los datos que necesite.
• Separe la telemetría de seguridad de las instrucciones que los agentes están autorizados a seguir.
• Revise cómo se validan las alertas, las solicitudes denegadas y otras entradas externas antes de que lleguen a un agente.
• Supervise la actividad de los agentes para detectar usos inesperados de permisos, acciones bloqueadas repetidamente o cambios repentinos en el comportamiento.
• Mantenga la aprobación humana para las operaciones sensibles, especialmente aquellas relacionadas con la identidad, el acceso o cambios irreversibles.

Los hallazgos se suman a la creciente preocupación de que proteger los agentes de IA requiere algo más que salvaguardas para los modelos. Las organizaciones también deben aplicar la gobernanza de identidades, controles de mínimo privilegio y supervisión continua tanto a los agentes como a los sistemas que los dirigen.