OpenAI ha introdotto due prodotti per la cybersicurezza sulla sua piattaforma Daybreak, pensati per aiutare le organizzazioni a identificare, convalidare e correggere le vulnerabilità software mediante agenti di IA.
L’azienda ha annunciato Daybreak Red Team, uno strumento ad accesso anticipato per testare applicazioni web, e Daybreak Defense Factory, un prodotto progettato per supportare l’individuazione delle vulnerabilità e lo sviluppo di patch. Il lancio riflette il crescente interesse dei fornitori nell’applicare i modelli linguistici di grandi dimensioni ai flussi di lavoro della sicurezza difensiva, inclusi revisione del codice, penetration testing e remediation.
Test automatizzati e proposte di patch
Daybreak Red Team utilizza i modelli di OpenAI per esaminare applicazioni web con accesso al codice sorgente e al contesto applicativo pertinente. Secondo OpenAI, lo strumento può analizzare potenziali percorsi di attacco, valutare risultati provenienti da scanner o segnalazioni di bug bounty e aiutare i team a verificare se i problemi segnalati siano sfruttabili. Può inoltre essere utilizzato per valutare se una correzione risolva una vulnerabilità identificata.
Daybreak Defense Factory è destinato ad automatizzare parti del processo di gestione delle vulnerabilità. OpenAI ha dichiarato che i suoi agenti possono analizzare basi di codice, identificare potenziali problemi di sicurezza e generare patch e test proposti. Si prevede che gli ingegneri esaminino e approvino le modifiche prima della loro distribuzione negli ambienti di produzione.
Durante l’annuncio del prodotto, il presidente di OpenAI Greg Brockman ha affermato che le organizzazioni dovranno adattare i propri programmi di sicurezza per tenere conto di sistemi di IA sempre più capaci. Ha inoltre sottolineato che le pratiche di sicurezza consolidate restano importanti anche accanto alle difese assistite dall’IA.
Una causa solleva preoccupazioni sui rischi dell’IA avanzata
Gli annunci sono arrivati mentre diverse organizzazioni non profit hanno intentato una causa presso la Corte Superiore di San Francisco contro OpenAI, Anthropic, Google, Meta e SpaceX. I ricorrenti, tra cui Public Citizen e l’Alliance for Secure AI, chiedono di impedire alle aziende di sviluppare o distribuire sistemi di IA che superino le capacità dei loro attuali modelli di punta.
Il ricorso cita incidenti di sicurezza legati all’IA riportati dai media e sostiene che sistemi più potenti potrebbero contribuire a rischi quali attacchi informatici e l’uso improprio di conoscenze biologiche. Tali affermazioni costituiscono allegazioni nell’ambito di un procedimento legale in corso e non sono state giudicate da un tribunale.
Gli strumenti di sicurezza basati sull’IA possono aiutare i difensori a elaborare grandi volumi di risultati e ad accelerare la remediation, ma il loro utilizzo solleva anche interrogativi relativi all’autorizzazione dei test, all’accuratezza dei risultati generati dai modelli, alla gestione sicura del codice sorgente e alla necessità di supervisione umana.
