OpenAI defiende el despido de tres investigadores de seguridad que advierten de un «efecto paralizante»

OpenAI ha despedido a tres investigadores de seguridad de la IA, Mikita Balesni, Tomek Korbak y Jasmine Wang, y dice que una investigación interna concluyó que habían infringido sus políticas sobre el manejo de información sensible. CLS e IT Home informaron de que los despidos se produjeron la semana pasada. El 9 de octubre los tres publicaron una carta abierta en la que advierten de que los despidos podrían tener un «efecto paralizante» en la cultura de OpenAI, informó IT Home. [ 1 , 2 , 3 , 4 , 5 ]

La carta, titulada «OpenAI no puede garantizar por sí sola la seguridad de la IA», fue publicada en redes sociales por Balesni y está dirigida a los comités de seguridad de OpenAI, según IT Home. Afirma que OpenAI «no es una empresa ordinaria» y que la posibilidad de que el personal colabore con organizaciones externas en cuestiones de seguridad es una parte importante de su cultura. Los tres escribieron que despedir al personal de forma repentina y notificárselo con tanta precipitación había traído un efecto paralizante a la cultura abierta de la que OpenAI estuvo orgullosa. Recomendaron permitir la entrada de auditores de seguridad externos en la empresa, garantizar que los modelos de IA de frontera sigan siendo efectivamente supervisables y apoyar un intercambio abierto y transparente entre quienes investigan la seguridad y otras personas del sector. [ 1 ]

Yicai y 36Kr informaron de que OpenAI dijo que los problemas hallados por su investigación van más allá de lo que los tres revelaron en su carta y que, por ello, mantiene su decisión. La empresa dijo que la medida no iba dirigida contra sus preocupaciones sobre la seguridad de la IA ni contra su disenso, y que se fomenta el debate interno sobre seguridad. Dijo que está ultimando acuerdos con organizaciones externas de evaluación de seguridad y que publicará los detalles en las próximas semanas. IT Home informó de que una persona responsable de investigación de OpenAI respaldó con firmeza las tres recomendaciones en un memorando interno y escribió que los despidos no guardaban relación con plantear problemas de seguridad ni con hablar públicamente: «No despediremos a empleados por plantear inquietudes». [ 1 , 4 , 5 ]

Los tres dijeron en redes sociales que solo se les comunicaron de forma verbal los motivos de su despido y que sus actuaciones entraban dentro de sus funciones. Según Huxiu, a Korbak, que era la persona de contacto con el evaluador externo METR, se le dijo que su forma de comunicarse con METR era incorrecta; se dijo que Balesni se había comunicado demasiado con organizaciones externas de seguridad; y a Wang se le hizo responsable de haber hecho clic por error en un correo de un directivo. IT Home describe a METR como una organización sin ánimo de lucro que evalúa modelos de IA y sus riesgos de seguridad. Korbak escribió que temía que OpenAI usara los despidos como una «excusa» para reducir la cooperación con METR. [ 1 , 2 ]

Huxiu informó de que Neel Nanda, responsable de interpretabilidad en Google DeepMind, calificó los despidos de irrazonables y de señal de una cultura empresarial poco sana, y de que Kelsey Piper, en calidad de periodista, dijo que el caso restringiría la comunicación futura en materia de auditoría. Balesni dijo que los empleados ahora tienen miedo de hablar e incluso temen que se revisen sus teléfonos privados. Huxiu fechó la carta a principios de octubre de 2024, mientras que IT Home informó de que se publicó el 9 de octubre. [ 1 , 2 ]