← Volver a las noticias
NCSC (UK)20 ago 2026 · 2 min de lectura

El NCSC detalla salvaguardas para gestionar el riesgo cibernético de la IA agéntica

El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido insta a las organizaciones a aplicar salvaguardas por capas al desplegar sistemas de inteligencia artificial agéntica capaces de tomar decis...

El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido insta a las organizaciones a aplicar salvaguardas por capas al desplegar sistemas de inteligencia artificial agéntica capaces de tomar decisiones y realizar acciones con una intervención humana limitada.

En una guía provisional, el organismo afirma que la IA autónoma puede mejorar la productividad mediante la automatización de flujos de trabajo complejos, pero advierte de que los fallos pueden llevar a los sistemas a actuar fuera de su ámbito previsto, acceder a información inapropiada o realizar tareas no autorizadas. El asesoramiento está dirigido a diseñadores y operadores que crean entornos en los que los agentes de IA pueden interactuar con herramientas, datos y sistemas empresariales.

Ajustar la autonomía al riesgo

El NCSC recomienda decidir primero cuánta autonomía se necesita realmente. Un agente que realiza recomendaciones o ejecuta tareas estrictamente restringidas y de bajo impacto presenta un perfil de riesgo diferente al de uno que puede modificar sistemas de producción o tomar decisiones de gran impacto sin aprobación. A medida que aumentan la autonomía y el impacto potencial, las organizaciones deben aplicar controles más estrictos y definir los resultados que no están dispuestas a aceptar.

Las organizaciones también deben evaluar las protecciones proporcionadas por el modelo subyacente, el servicio de inferencia y el marco de trabajo de agentes. Las salvaguardas integradas pueden ayudar a prevenir comportamientos no deseados, pero pueden eludirse o resultar insuficientes en entornos de mayor riesgo. Por tanto, las protecciones a nivel de modelo deben considerarse una base de referencia, no una estrategia de seguridad completa.

Controles operativos por capas

La guía destaca la modelización de amenazas antes del despliegue, incluida la documentación de las actividades autorizadas del agente y de límites explícitos. Indicaciones cuidadosamente diseñadas, puntos adecuados de aprobación humana y salvaguardas técnicas adicionales —como clasificadores o verificaciones deterministas— pueden ayudar a prevenir acciones inseguras.

Se recomienda un entorno aislado robusto para limitar el acceso del agente a redes, credenciales, archivos y otros sistemas. Las organizaciones deben registrar y auditar la actividad, supervisar a los agentes mediante los procesos existentes de operaciones de seguridad y hacer que las acciones sean atribuibles a un agente, usuario o cuenta de servicio específicos. Estas medidas pueden facilitar la investigación y la respuesta cuando el comportamiento se desvía de lo esperado.

El NCSC también aconseja mantener un mecanismo de emergencia para suspender o deshabilitar a un agente. Los procedimientos de apagado deben probarse y diseñarse de modo que sigan siendo eficaces si el sistema presenta fallos o actúa de forma inesperada.

El organismo describe las recomendaciones como asesoramiento provisional mientras desarrolla una guía más formal con socios de la industria y la investigación. Prevén que las prácticas eficaces cambien a medida que crezca la evidencia sobre los sistemas de IA autónoma.

Comparte este artículo:TwitterLinkedIn