Una encuesta revela que la mayoría de las empresas reporta problemas de seguridad relacionados con la IA, mientras la gobernanza se queda atrás

Una nueva encuesta de DigiCert sugiere que muchas organizaciones están avanzando con las implementaciones de IA empresarial más rápido de lo que están estableciendo controles para ellas.

Según la empresa de identidad digital, el 78 % de los 1.001 líderes de TI y ciberseguridad encuestados en Estados Unidos, Reino Unido y Australia afirmó haber experimentado un incidente de seguridad relacionado con la IA o haber identificado una vulnerabilidad relacionada con la IA. La empresa señaló que los resultados apuntan a un problema de gobernanza más amplio, en lugar de a una deficiencia en el código generado por IA.

De los encuestados, el 27,7 % informó de un solo incidente, el 21,9 % afirmó haberse enfrentado a varios incidentes y el 28,4 % no había sufrido un incidente directo, pero sí había identificado vulnerabilidades. DigiCert indicó que los problemas estaban relacionados con agentes de IA que no habían sido autorizados correctamente o que estaban mal configurados.

La gobernanza todavía va a la zaga

La encuesta muestra un alto nivel de concienciación por parte de los directivos, pero una ejecución más débil en los controles cotidianos. DigiCert señaló que el 90 % de las organizaciones ha debatido la gobernanza de la IA a nivel directivo, pero solo la mitad cuenta con presupuestos específicos y programas formales de gobernanza.

Esta brecha parece estar generando problemas de visibilidad. Solo el 53 % de los encuestados afirmó que sus organizaciones podían rastrear las decisiones de la IA hasta los modelos y los datos de origen en los que se basaban. DigiCert señaló que esto resulta especialmente arriesgado cuando un sistema de IA produce un resultado inesperado o cuestionado y las partes interesadas exigen una explicación.

El director ejecutivo Amit Sinha afirmó que los agentes de IA deberían estar sujetos a los mismos estándares de identidad y verificación que los trabajadores humanos. La empresa argumentó que las organizaciones no permitirían que los empleados operaran sin identidades verificadas y que tampoco deberían permitirlo a los sistemas de IA.

Un tema recurrente en investigaciones recientes

El informe coincide con los resultados de otras encuestas recientes que sugieren que las empresas están adoptando la IA antes de haber establecido salvaguardas claras. Un estudio independiente de Spacelift, publicado dos semanas antes, descubrió que el 93 % de las organizaciones había experimentado incidentes de infraestructura relacionados con la IA, mientras que solo el 19 % contaba con un plan de gobernanza.

Al mismo tiempo, los proveedores siguen destacando los beneficios empresariales de la IA. Los datos de DigiCert ofrecen una visión más cautelosa: las empresas están obteniendo valor operativo de la IA, pero muchas también están descubriendo que la seguridad, la supervisión y la rendición de cuentas no han avanzado al mismo ritmo.

Por ahora, el mensaje de la encuesta es sencillo: la IA empresarial se está extendiendo rápidamente, pero los controles en torno a la identidad, la autorización y la trazabilidad siguen siendo incompletos.