Los flujos de trabajo impulsados por IA generan preocupación por brechas de seguridad ocultas

Los equipos de seguridad prestan más atención a un riesgo creciente de la automatización moderna: flujos de trabajo creados por herramientas de IA que funcionan correctamente, pero que no son completamente comprendidos por las personas que dependen de ellos. El problema no es si la automatización funciona, sino si alguien puede explicar qué hace, por qué se diseñó de esa manera o cómo podría utilizarse con fines maliciosos.

A medida que las organizaciones adoptan plataformas de desarrollo asistido por IA y de automatización con poco código, pueden generar rápidamente scripts, integraciones y procesos empresariales que ahorran tiempo. Sin embargo, esa velocidad puede producirse a costa de la visibilidad. Cuando un flujo de trabajo se configura con una revisión humana mínima, los controles de seguridad pueden estar incompletos, los permisos pueden ser más amplios de lo necesario y los datos pueden desplazarse entre sistemas de formas difíciles de rastrear.

Por qué importa el riesgo

Los expertos afirman que la principal preocupación no es simplemente que la IA pueda introducir errores. El problema mayor es que estos sistemas pueden crear una especie de punto ciego operativo. Si un flujo de trabajo no está documentado o no se comprende, los equipos de defensa podrían no saber qué servicios utiliza, qué credenciales emplea o dónde se almacena y transmite la información confidencial.

• Una lógica poco clara puede dificultar la identificación de puntos débiles antes de que lo hagan los atacantes.
• Los derechos de acceso excesivos pueden pasar desapercibidos después de implementar un flujo de trabajo.
• Las dependencias ocultas pueden interrumpir la supervisión de la seguridad y las iniciativas de respuesta ante incidentes.

Qué se recomienda hacer a las organizaciones

Los especialistas recomiendan tratar la automatización generada por IA como cualquier otro sistema de producción: revisarla, probarla, documentarla y limitar sus permisos. Las auditorías periódicas pueden ayudar a identificar flujos de trabajo que ya no se ajustan a las necesidades empresariales o que realizan acciones que nadie del equipo puede explicar claramente. También se recomienda a las empresas exigir la aprobación humana para los flujos de trabajo que manejan datos confidenciales o se conectan a sistemas críticos.

A medida que la IA se vuelve más común en las operaciones cotidianas, el desafío para los equipos de seguridad está pasando de crear automatizaciones rápidamente a comprenderlas lo suficiente como para controlarlas. En muchos entornos, esto podría marcar la diferencia entre unas operaciones eficientes y una exposición de seguridad que se amplía silenciosamente.