Una entrevista de SecurityWeek examina las brechas de gobernanza y la IA agéntica en ciberseguridad

Una nueva entrevista en video de SecurityWeek analiza si las prácticas de gobernanza y cumplimiento en ciberseguridad están avanzando al mismo ritmo que la rápida adopción de la inteligencia artificial, especialmente de los sistemas capaces de actuar de forma autónoma en nombre de los equipos de seguridad.

Brian “SchleiF” Schleifer conversa con Clint Bodungen, director de ingeniería de IA y aprendizaje automático de Arcovo y fundador de ThreatGen. Bodungen, quien se ha centrado ampliamente en la ciberseguridad industrial, analiza cómo han cambiado las prácticas de seguridad en los últimos 20 años y por qué los procesos organizativos con frecuencia no reflejan las realidades a las que se enfrentan los profesionales.

Uno de los temas de la conversación es la importancia permanente del comportamiento humano. Aunque las tecnologías emergentes introducen nuevos riesgos y capacidades, la entrevista sostiene que las personas, más que el software por sí solo, siguen siendo un factor central en muchos fallos de seguridad. La conversación también considera cómo los modelos de gobernanza pueden desconectarse de las necesidades operativas, lo que podría limitar la eficacia de los programas de seguridad y cumplimiento.

Proyecto MindStone Agent

Bodungen también ofrece detalles sobre MindStone Agent, un proyecto de inteligencia artificial agéntica de código abierto. Según la entrevista, el proyecto pretende proporcionar a los asistentes de IA memoria persistente, un contexto identificable y continuidad entre interacciones. Estas funciones están diseñadas para favorecer un comportamiento más coherente que el de los sistemas que tratan cada sesión como aislada.

La entrevista presenta el proyecto como un ejemplo de cómo la IA agéntica podría ir más allá de los casos de uso simples de preguntas y respuestas. Al mismo tiempo, la memoria persistente y la acción autónoma plantean cuestiones de gobernanza, identidad, supervisión y seguridad que las organizaciones deberán abordar antes de implementar ampliamente este tipo de sistemas.

Ejemplo de respuesta a un ataque de ransomware

La conversación concluye con un escenario real de respuesta a un ataque de ransomware en el que, según se informa, agentes autónomos de IA ayudaron a coordinar la respuesta al incidente, el trabajo forense, las actividades de recuperación y la migración de la infraestructura con una participación humana limitada. El ejemplo ilustra el potencial de los sistemas agénticos para ayudar en operaciones complejas y urgentes, al tiempo que subraya la necesidad de controles adecuados y de responsabilidad humana.

La conversación completa está disponible a través de SecurityWeek TV y se promociona junto con la programación de conferencias sobre ciberseguridad industrial de la publicación.