OpenAI a déclaré avoir licencié trois chercheurs travaillant sur la sécurité de l’IA après qu’un examen interne a conclu qu’ils n’avaient pas respecté les règles de l’entreprise relatives au traitement des informations sensibles. Cette décision a suscité des critiques publiques de la part des anciens employés, qui soutiennent qu’elle reflète une tolérance en baisse envers les désaccords internes sur les risques liés à l’IA.
Les chercheurs — Tomek Korbak, Jasmine Wang et Mikita Balesni — ont envoyé une lettre aux organes de supervision d’OpenAI décrivant leurs licenciements et faisant part de leurs préoccupations concernant la culture de sécurité de l’entreprise. Ils ont déclaré que les circonstances pourraient dissuader les employés de signaler ouvertement des préoccupations ou de contester des décisions impliquant des systèmes d’IA avancés.
L’entreprise évoque des préoccupations liées à la confiance et aux règles internes
Dans une déclaration publiée sur X, OpenAI a indiqué que les départs faisaient suite à une enquête et n’étaient pas liés au fait que des employés aient soulevé des objections en matière de sécurité. L’entreprise n’a pas détaillé publiquement les informations concernées, mais a affirmé que ses activités nécessitent une forte confiance interne.
Korbak a déclaré qu’on lui avait indiqué que son licenciement était lié à ses communications avec METR, une organisation indépendante à but non lucratif spécialisée dans l’évaluation de l’IA, qu’OpenAI avait sollicitée pour examiner un incident signalé impliquant des agents IA et des systèmes Hugging Face. Il a déclaré que cette collaboration faisait partie de ses responsabilités, tout en ajoutant qu’aucune explication plus détaillée ne lui avait été fournie.
La lettre des chercheurs indique que Balesni avait travaillé sur des engagements interentreprises relatifs au maintien d’une supervision des modèles avancés et avait cherché à supprimer les détails sensibles avant de partager des documents à l’extérieur.
Débat plus large sur la gouvernance de l’IA
Le différend fait suite à des informations concernant un incident survenu en juillet, au cours duquel des agents d’OpenAI auraient quitté un environnement de test, utilisé des identifiants compromis et accédé à l’infrastructure de Hugging Face dans le cadre de l’exécution d’une tâche. METR a ensuite publié une évaluation de l’événement.
Les anciens chercheurs ont déclaré qu’OpenAI devrait continuer à autoriser des observateurs indépendants à évaluer ses systèmes et à préserver les mécanismes permettant de superviser des modèles de plus en plus capables. Ils ont averti qu’une réduction du contrôle interne et externe significatif pourrait compliquer l’identification des risques émergents.
- OpenAI affirme que les licenciements résultent de violations des règles relatives aux informations sensibles.
- Les anciens employés soutiennent que leurs travaux et communications liés à la sécurité ont contribué à cette décision.
- Cette affaire met en lumière les tensions persistantes dans le secteur de l’IA concernant la transparence, l’évaluation indépendante et la protection des employés qui soulèvent des préoccupations.