← Volver a las noticias
Dark Reading7 sept 2026 · 2 min de lectura

Aseguradoras y líderes de seguridad evalúan los riesgos de los sistemas de IA autónomos

Los proveedores de seguros y los responsables de seguridad de la información están examinando cómo gestionar las pérdidas vinculadas a sistemas de IA autónomos que actúan de formas inesperadas o perju...

Los proveedores de seguros y los responsables de seguridad de la información están examinando cómo gestionar las pérdidas vinculadas a sistemas de IA autónomos que actúan de formas inesperadas o perjudiciales. A medida que las organizaciones implementan agentes de IA para automatizar tareas empresariales, de atención al cliente y de seguridad, crece la preocupación sobre quién es responsable cuando esos sistemas toman decisiones perjudiciales.

El problema es especialmente complejo cuando un agente de IA tiene autoridad para acceder a datos internos, interactuar con servicios de terceros, aprobar transacciones o modificar entornos en la nube. Los errores de configuración, las instrucciones defectuosas, las entradas manipuladas y los controles de acceso inadecuados pueden permitir que un sistema automatizado genere consecuencias financieras, operativas o de privacidad a gran escala.

Cuestiones de cobertura y responsabilidad

Las pólizas tradicionales de ciberseguro pueden cubrir algunos eventos resultantes, como filtraciones de datos, interrupciones del negocio o costes de respuesta ante incidentes. Sin embargo, es probable que las aseguradoras examinen minuciosamente si un fallo relacionado con la IA entra dentro del lenguaje existente de la póliza, si la supervisión humana fue suficiente y si el evento fue causado por negligencia, un defecto de software o una manipulación maliciosa.

Las organizaciones también pueden enfrentarse a incertidumbre sobre la responsabilidad compartida entre proveedores de modelos de IA, proveedores de software, integradores de sistemas y la empresa que opera el agente. Los términos contractuales, los registros de auditoría y las pruebas técnicas podrían adquirir importancia para determinar la responsabilidad tras un incidente.

Controles en revisión

Se espera cada vez más que los equipos de seguridad apliquen medidas de gobernanza antes de conceder permisos amplios a los agentes de IA. Las salvaguardas habituales incluyen:

  • Limitar el acceso de los agentes mediante permisos de mínimo privilegio y entornos segmentados.
  • Exigir aprobación humana para acciones de alto impacto, incluidos pagos, cambios en producción y exportaciones de datos.
  • Registrar la actividad de los agentes y conservar evidencias de indicaciones, llamadas a herramientas y decisiones.
  • Probar los sistemas frente a inyección de indicaciones, filtración de datos y uso inseguro de herramientas.
  • Establecer procedimientos claros de respuesta ante incidentes para desactivar o contener flujos de trabajo automatizados.

Para las aseguradoras, unos controles más sólidos pueden convertirse en un factor para la suscripción y fijación de precios a medida que se expande el uso de IA autónoma. Para los CISO, el desafío consiste en habilitar ganancias de productividad garantizando al mismo tiempo que los sistemas de IA sigan siendo observables, estén restringidos y rindan cuentas.

Comparte este artículo:TwitterLinkedIn