El Instituto Nacional de Estándares y Tecnología, la Agencia de Seguridad de Infraestructura y Ciberseguridad y la Agencia de Seguridad Nacional han publicado orientación voluntaria para las organizaciones que se preparan para incidentes relacionados con agentes avanzados de IA que actúan fuera de la autoridad prevista.
El documento presenta 10 prácticas organizadas en cinco etapas: preparación, detección, respuesta, recuperación y elaboración de informes. Las agencias describen la orientación como un marco para las organizaciones que desarrollan o implementan sistemas agénticos altamente capaces, en particular cuando un comportamiento inesperado del sistema podría generar riesgos de ciberseguridad, operativos o de seguridad física.
Preparación para incidentes relacionados con agentes
Las recomendaciones de preparación se alinean estrechamente con principios de ciberseguridad establecidos. Se anima a las organizaciones a mantener inventarios de activos y riesgos de IA, aplicar defensas en capas, imponer acceso con privilegios mínimos, utilizar enfoques de confianza cero, proteger las credenciales y abordar la exposición de la cadena de suministro. El objetivo es limitar a qué puede acceder o qué puede modificar un agente si se ve comprometido, está mal configurado o se comporta de forma no autorizada.
Para la detección, las agencias recomiendan la supervisión continua de los agentes y sus entornos. Esto incluye comprobar si los sistemas funcionan según lo previsto, identificar acciones anómalas y vigilar indicadores de compromiso.
Contención, recuperación y divulgación
Las medidas de respuesta incluyen aislar los sistemas afectados, revocar credenciales, reconstruir entornos comprometidos y evaluar el alcance de un incidente. La orientación también exige un análisis de la causa raíz que examine las condiciones que contribuyeron al incidente, en lugar de centrarse únicamente en la vulnerabilidad inmediata o la ruta de ataque.
Según el informe, las organizaciones deben probar los procedimientos de restauración antes de que se produzca un incidente. Durante la recuperación, deben documentar las decisiones clave, incluidos los riesgos restantes que se aceptan antes de que los servicios afectados vuelvan a operar.
Las prácticas finales abordan la notificación de incidentes. Las agencias recomiendan notificar a las partes afectadas y cumplir las obligaciones legales de notificación aplicables, que pueden incluir informes a CISA, a las fuerzas del orden o a organizaciones de ciberdefensa. También fomentan la difusión pública de hallazgos útiles, mitigaciones y lecciones aprendidas cuando sea apropiado y factible.
Terminología común
La publicación define términos como agentes de IA, incidentes de control de IA y cuasiincidentes de control de IA para ayudar a las organizaciones a establecer un vocabulario compartido. Aunque las recomendaciones no introducen conceptos de seguridad completamente nuevos, aplican disciplinas conocidas de respuesta a incidentes a los riesgos específicos que plantean los sistemas autónomos o semiautónomos con amplio acceso y capacidades de toma de decisiones.
