¿Qué pasó con los investigadores de seguridad despedidos de OpenAI?
Tres investigadores del área de seguridad de IA fueron despedidos de OpenAI, la empresa que creó ChatGPT. Sus nombres son Mikita Balesni, Tomek Korbak y Jasmine Wang, quienes también realizaban trabajos relacionados con la alineación de IA. Este término se refiere al esfuerzo por mantener los sistemas de inteligencia artificial alineados con objetivos, valores y controles humanos, para reducir riesgos de pérdida de control o de intervención humana en el trabajo, las decisiones, las relaciones o la expresión creativa.
El motivo oficial del despido fue, presuntamente, que los trabajadores violaron los acuerdos de confidencialidad, según la empresa. Sin embargo, la versión de los afectados es otra: aseguran que fueron despedidos como represalia por haber expresado sus preocupaciones en torno a los riesgos de inteligencia artificial y la falta de transparencia. Nuevamente, empleados asociados con la seguridad, la mitigación de riesgos y la gobernanza de IA terminan fuera de la compañía en condiciones, cuando menos, “extrañas”.
De acuerdo con diferentes reportes, los empleados compartieron información confidencial con una organización auditora de IA, posiblemente METR. OpenAI le habría dicho a Korbak que el error estuvo en la manera en que se comunicaron con la empresa, contratada recientemente por OpenAI para investigar el incidente de Hugging Face.
El contexto interno importa: existen tensiones previas por la salida de perfiles clave y la aceleración del desarrollo de modelos. Esta situación ha llevado a varios expertos a advertir sobre las consecuencias del choque entre la velocidad de innovación y los protocolos de seguridad. Asimismo, se habla de un posible debilitamiento del ecosistema de supervisión de modelos avanzados dentro de OpenAI.
No es un tema menor, ya que esta clase de despidos involucra estructuras críticas de control sobre una tecnología con un enorme potencial disruptivo. La vigilancia de los movimientos internos en las empresas de IA puede ayudarnos a entender mejor lo que ocurre detrás de sus paredes y cómo gestionan los riesgos de la inteligencia artificial.
¿Qué dijo OpenAI sobre la controversia por los despidos?
A través de su blog oficial, OpenAI recalcó que los despidos de los investigadores de seguridad responden a la causa mencionada inicialmente y no a un intento de evitar cuestionamientos incómodos sobre su manera de actuar.
“Queremos dejar muy claro que estas decisiones no se tomaron por plantear preocupaciones de seguridad ni por expresar opiniones. En OpenAI, los debates sobre seguridad e investigación son cotidianos, a menudo animados y muy críticos. Fomentamos activamente estas discusiones y las consideramos esenciales para tomar las decisiones correctas. No podemos realizar el trabajo que tenemos por delante sin un alto grado de confianza. Seguiremos siendo extremadamente comprensivos con los miembros de nuestro equipo que cometan errores de buena fe. No hemos despedido ni despediremos a ninguno de nuestros empleados por expresar sus preocupaciones”.
La pregunta es: si fuera distinto, ¿lo dirían?
Los investigadores afectados mencionaron que esta forma de actuar envía un mensaje contundente a la plantilla. Cada vez menos personas podrían animarse a levantar la mano y la voz para externar sus preocupaciones sobre los riesgos e, incluso, podrían mostrar reticencia a trabajar con auditores externos como METR y Redwood Research. Así, el caso de los investigadores de seguridad despedidos de OpenAI vuelve a poner bajo la lupa la transparencia, la alineación de IA y la supervisión independiente.