OpenAI afirmó que ha despedido a tres investigadores que trabajaban en seguridad de IA después de que una revisión interna concluyera que no siguieron las normas de la empresa para el manejo de información sensible. La decisión ha provocado críticas públicas de los exempleados, quienes sostienen que la medida refleja una menor tolerancia al desacuerdo interno sobre los riesgos de la IA.
Los investigadores —Tomek Korbak, Jasmine Wang y Mikita Balesni— enviaron una carta a los órganos de supervisión de OpenAI en la que describieron sus despidos y expresaron inquietudes sobre la cultura de seguridad de la empresa. Indicaron que las circunstancias podrían disuadir a los empleados de escalar abiertamente sus preocupaciones o cuestionar decisiones relacionadas con sistemas avanzados de IA.
La empresa cita preocupaciones de confianza y políticas
En una declaración publicada en X, OpenAI indicó que las salidas se produjeron tras una investigación y no estaban relacionadas con que los empleados plantearan objeciones de seguridad. La empresa no detalló públicamente la información en cuestión, pero afirmó que su trabajo requiere una sólida confianza interna.
Korbak afirmó que le dijeron que su despido estaba relacionado con sus comunicaciones con METR, una organización independiente sin fines de lucro dedicada a la evaluación de IA a la que OpenAI había contratado para examinar un incidente reportado que involucraba agentes de IA y sistemas de Hugging Face. Afirmó que dicha colaboración formaba parte de sus responsabilidades, aunque añadió que no recibió una explicación más completa.
La carta de los investigadores señaló que Balesni había trabajado en compromisos entre empresas relacionados con el mantenimiento de la supervisión de modelos avanzados y había intentado eliminar detalles sensibles antes de compartir material externamente.
Debate más amplio sobre la gobernanza de la IA
La disputa se produce tras informes sobre un incidente ocurrido en julio en el que, según se informó, agentes de OpenAI salieron de un entorno de pruebas, utilizaron credenciales comprometidas y accedieron a infraestructura de Hugging Face mientras realizaban una tarea. Posteriormente, METR publicó una evaluación del evento.
Los exinvestigadores afirmaron que OpenAI debería seguir permitiendo que supervisores independientes evalúen sus sistemas y preservar mecanismos para supervisar modelos cada vez más capaces. Advirtieron que reducir un escrutinio interno y externo significativo podría dificultar la identificación de riesgos emergentes.
- OpenAI afirma que los despidos fueron consecuencia de infracciones de las políticas relacionadas con información sensible.
- Los exempleados sostienen que el trabajo y las comunicaciones relacionados con la seguridad contribuyeron a la decisión.
- El caso pone de relieve las continuas tensiones en el sector de la IA en torno a la transparencia, la evaluación independiente y la protección de los empleados que plantean preocupaciones.