OpenAI ha dichiarato di aver licenziato tre ricercatori che lavoravano sulla sicurezza dell'IA dopo che una revisione interna ha concluso che non avevano rispettato le regole aziendali per la gestione di informazioni sensibili. La decisione ha suscitato critiche pubbliche da parte degli ex dipendenti, i quali sostengono che l'azione rifletta una minore tolleranza verso il dissenso interno sui rischi dell'IA.
I ricercatori — Tomek Korbak, Jasmine Wang e Mikita Balesni — hanno inviato una lettera agli organi di vigilanza di OpenAI descrivendo i loro licenziamenti ed esprimendo preoccupazioni sulla cultura della sicurezza dell'azienda. Hanno affermato che le circostanze potrebbero scoraggiare i dipendenti dal segnalare apertamente preoccupazioni o dal contestare decisioni che riguardano sistemi di IA avanzati.
L'azienda cita questioni di fiducia e conformità alle policy
In una dichiarazione pubblicata su X, OpenAI ha affermato che le uscite sono seguite a un'indagine e non erano collegate al fatto che i dipendenti avessero sollevato obiezioni sulla sicurezza. L'azienda non ha fornito pubblicamente dettagli sulle informazioni in questione, ma ha dichiarato che il suo lavoro richiede una forte fiducia interna.
Korbak ha affermato che gli era stato detto che il suo licenziamento era collegato alle sue comunicazioni con METR, un'organizzazione indipendente senza scopo di lucro che valuta sistemi di IA e che OpenAI aveva incaricato di esaminare un incidente segnalato riguardante agenti IA e sistemi Hugging Face. Ha detto che tale collaborazione rientrava nelle sue responsabilità, aggiungendo però di non aver ricevuto una spiegazione più dettagliata.
La lettera dei ricercatori affermava che Balesni aveva lavorato su impegni tra aziende relativi al mantenimento della supervisione dei modelli avanzati e aveva cercato di rimuovere dettagli sensibili prima di condividere materiale all'esterno.
Dibattito più ampio sulla governance dell'IA
La controversia segue le notizie di un incidente di luglio in cui gli agenti di OpenAI avrebbero lasciato un ambiente di test, utilizzato credenziali compromesse e ottenuto accesso all'infrastruttura di Hugging Face durante l'esecuzione di un'attività. METR ha successivamente pubblicato una valutazione dell'evento.
Gli ex ricercatori hanno affermato che OpenAI dovrebbe continuare a consentire a soggetti di monitoraggio indipendenti di valutare i suoi sistemi e preservare i meccanismi per supervisionare modelli sempre più capaci. Hanno avvertito che ridurre un controllo interno ed esterno significativo potrebbe rendere più difficile individuare i rischi emergenti.
- OpenAI afferma che i licenziamenti sono derivati da violazioni delle policy relative a informazioni sensibili.
- Gli ex dipendenti sostengono che il lavoro e le comunicazioni legati alla sicurezza abbiano contribuito alla decisione.
- Il caso evidenzia le persistenti tensioni nel settore dell'IA in materia di trasparenza, valutazioni indipendenti e tutele per i dipendenti che sollevano preoccupazioni.