OpenAI ha presentado dos productos de ciberseguridad bajo su plataforma Daybreak, destinados a ayudar a las organizaciones a identificar, validar y remediar vulnerabilidades de software mediante agentes de IA.
La empresa anunció Daybreak Red Team, una herramienta de acceso anticipado para probar aplicaciones web, y Daybreak Defense Factory, un producto diseñado para respaldar el descubrimiento de vulnerabilidades y el desarrollo de parches. El lanzamiento refleja el creciente interés de los proveedores en aplicar modelos de lenguaje de gran tamaño a los flujos de trabajo de seguridad defensiva, incluidas la revisión de código, las pruebas de penetración y la remediación.
Pruebas automatizadas y propuestas de parches
Daybreak Red Team utiliza modelos de OpenAI para examinar aplicaciones web con acceso al código fuente y al contexto relevante de la aplicación. Según OpenAI, la herramienta puede investigar posibles rutas de ataque, evaluar hallazgos de escáneres o informes de recompensas por errores, y ayudar a los equipos a verificar si los problemas reportados son explotables. También puede utilizarse para evaluar si una corrección resuelve una vulnerabilidad identificada.
Daybreak Defense Factory está diseñado para automatizar partes del proceso de gestión de vulnerabilidades. OpenAI afirmó que sus agentes pueden analizar bases de código, identificar posibles problemas de seguridad y generar parches y pruebas propuestos. Se espera que los ingenieros revisen y aprueben los cambios antes de implementarlos en entornos de producción.
Durante el anuncio de los productos, el presidente de OpenAI, Greg Brockman, afirmó que las organizaciones deberán adaptar sus programas de seguridad para tener en cuenta sistemas de IA cada vez más capaces. También recalcó que las prácticas de seguridad establecidas siguen siendo importantes junto con las defensas asistidas por IA.
Una demanda genera preocupación por los riesgos de la IA avanzada
Los anuncios se produjeron mientras varias organizaciones sin fines de lucro presentaban una demanda ante el Tribunal Superior de San Francisco contra OpenAI, Anthropic, Google, Meta y SpaceX. Los demandantes, entre ellos Public Citizen y la Alliance for Secure AI, buscan impedir que las empresas desarrollen o implementen sistemas de IA que superen las capacidades de sus actuales modelos líderes.
La demanda cita incidentes de seguridad relacionados con la IA que se han reportado y sostiene que sistemas más potentes podrían contribuir a riesgos como ciberataques y el uso indebido de conocimientos biológicos. Estas afirmaciones son alegaciones dentro de una acción legal en curso y no han sido resueltas por un tribunal.
Las herramientas de seguridad basadas en IA pueden ayudar a los defensores a procesar grandes volúmenes de hallazgos y acelerar la remediación, pero su uso también plantea cuestiones sobre la autorización de las pruebas, la precisión de los hallazgos generados por modelos, el manejo seguro del código fuente y la necesidad de supervisión humana.
