La autoridad española de protección de datos ha revelado lo que describe como la primera filtración de datos personales notificada en la que presuntamente se utilizó un agente de IA para llevar a cabo varias fases de una intrusión. La Agencia Española de Protección de Datos, conocida como la AEPD, indicó que su investigación sigue en curso y no identificó a la organización afectada ni proporcionó detalles técnicos sobre el sistema implicado.
Según la agencia, la actividad notificada incluyó el uso de accesos válidos para iniciar sesión, la identificación de debilidades en el entorno y la obtención de acceso a facturas y registros que contenían información personal. El elemento destacable, señaló la AEPD, fue el presunto uso de un agente de IA para enlazar estas tareas, en lugar de utilizar la IA únicamente para funciones aisladas, como redactar mensajes de phishing o procesar grandes volúmenes de datos.
Por qué importa el informe
Los sistemas agénticos pueden orientarse hacia un objetivo y pueden planificar tareas de forma independiente, utilizar herramientas de software, ejecutar código, evaluar resultados y ajustar su enfoque. Si se confirma la notificación, podría constituir un ejemplo significativo de atacantes que aplican esa capacidad a una filtración operativa.
Sin embargo, los hechos disponibles siguen siendo limitados. Especialistas en seguridad advirtieron que no deben extraerse conclusiones sobre un sistema de IA que actúe de manera independiente o que haya eludido sus controles. Entre las posibles explicaciones se encuentran que un atacante haya sorteado las salvaguardas de un modelo, un entorno de pruebas con una contención deficiente o una herramienta no autorizada de pruebas de seguridad construida en torno a un modelo de lenguaje disponible comercialmente.
Implicaciones para la seguridad y la privacidad
La AEPD afirmó que el incidente pone de relieve la necesidad de actualizar las prácticas de gestión de riesgos frente a amenazas habilitadas por IA. Es posible que las organizaciones deban contemplar flujos de trabajo de ataque autónomos y semiautónomos en sus modelos de amenazas, al tiempo que reducen el tiempo necesario para detectar y contener actividad sospechosa.
- Reforzar la protección de identidades, credenciales y cuentas privilegiadas.
- Supervisar secuencias inusuales de inicios de sesión, reconocimiento y actividad de acceso a datos.
- Mejorar las capacidades automatizadas de detección y contención, manteniendo la supervisión humana.
- Evaluar si las herramientas de IA, las plataformas de pruebas y las integraciones cuentan con controles de acceso y salvaguardas adecuados.
La agencia subrayó que la supervisión humana sigue siendo importante, pero indicó que los procesos manuales por sí solos podrían no funcionar con la rapidez suficiente frente a adversarios automatizados. El caso sigue siendo preliminar y se necesitarán más conclusiones para determinar cómo se produjo la filtración notificada y si un agente de IA llevó a cabo de manera sustancial las acciones alegadas.