¿Son demasiado restrictivos los documentos de salida de OpenAI para los empleados que se van?

Los empleados que se van de OpenAI están obligados a firmar un acuerdo restrictivo de salida. El director ejecutivo de OpenAI, Sam Altman, dijo que una parte del acuerdo nunca debería haber ocurrido, y es una de las pocas ocasiones en las que dirigir OpenAI lo ha avergonzado verdaderamente.

Después de la partida de algunos empleados de alto perfil del equipo de seguridad de OpenAI, se hizo evidente que el acuerdo incluye disposiciones de no difamación y confidencialidad que restringen a los empleados salientes de criticar a OpenAI por el resto de sus vidas, informó Vox el sábado.

Y no es solo eso; el acuerdo continúa incluso revocando la participación vestida de los empleados en la empresa si alguna vez critican a su antiguo empleador de una manera que OpenAI considere que disminuye su valor. Además, no pueden hablar sobre los términos de salida, ya que eso también revocaría su participación.

¿Qué está pasando en OpenAI?

En el reciente anuncio de ChatGPT-4o, el producto insignia de la empresa obtuvo la capacidad de hablar y reconocer visuales, pero para los nerds de la tecnología y los seguidores, todo el alboroto en torno a la actualización del producto fue superado por la realidad de que los empleados que se van de la empresa pueden reconocer visuales pero no se les permite hablar.

«durante los últimos años, la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a los productos brillantes.» Jan Leike.

Poco después del debut de ChatGPT-4o, el cofundador y científico jefe de OpenAI, Ilya Sutskever, dejó la empresa. Sutskever también estaba liderando el equipo Superalignment, que se ocupa de los problemas de seguridad relacionados con el producto de IA de la empresa.

También lea: OpenAI presenta Chatgpt-4o: Acceso gratuito con limitaciones

Horas después de la partida de Sutskever, otro co-líder del equipo Superalignment, Jan Leike, también se fue. La partida de ambos expertos en seguridad insinuaba la posibilidad de que OpenAI quizás cambiara sus preferencias de seguridad, y comenzaron las especulaciones de que podrían haber dimitido en protesta.

Altman se ha disculpado por los errores en la política de participación

Muchos observadores acusan a Altman de ser un buen jugador emitiendo declaraciones públicas, pero lo critican por trabajar prácticamente en contra de lo que dice.

Hoy, Altman publicó en X sobre cómo la empresa maneja la participación de sus empleados. Mencionó que había una disposición sobre la posible cancelación de la participación en sus documentos anteriores, pero nunca reclamaron nada. Dijo que nunca debería haber estado allí en ninguno de sus documentos.

Altman también dijo que su equipo ya había estado corrigiendo el papeleo de salida durante el último mes, y cualquiera que se fuera de la empresa con documentos antiguos firmados podría contactarlo para su corrección. También dijo que es una de las pocas veces que se avergüenza de dirigir la empresa.

Pero al mirar la historia, como dijimos antes, se ha acusado a Altman de contradicciones entre sus palabras y sus prácticas; por ejemplo, se le critica por haber convencido a Arabia Saudita para invertir miles de millones en la fabricación de aceleradores de IA. Teniendo en cuenta que el país es una monarquía y que las personas poderosas pueden usar la tecnología para controlar a la sociedad. 

Esto ocurrió al mismo tiempo que aplaudía la seguridad de la IA y firmaba una carta al gobierno de EE. UU. para detener el rápido desarrollo de la IA y salvar a la humanidad de daños. También fue lo suficientemente astuto como para convertir una organización sin fines de lucro en una startup tecnocrática y luego poner la comercialización en turbo. No es simple y requiere algún tipo de engaño para hacerlo realidad.

No todo es simple en OpenAI

También hay algo de historia involucrada. Cuando el CEO Sam Altman fue despedido por la junta directiva de la compañía el año pasado antes de regresar rápidamente a su posición, Sutskever también estaba en la junta que tomó la decisión. 

Pero Sutskever cambió rápidamente de postura y se arrepintió de su decisión; incluso comenzó a trabajar con los empleados que querían que Altman regresara a la empresa. Sutskever también firmó la carta que exigía el regreso de Altman. 

Desde que Altman regresó a la empresa, la posición de Sutskever permaneció poco clara, y también fue eliminado de la junta, al igual que muchos otros después del regreso de Altman. Mientras Altman mostró su pesar por la partida de Sutskever, diciendo:

“Ilya y OpenAI van a separarse. Esto es muy triste para mí; Ilya es fácilmente una de las mentes más grandes de nuestra generación, una luz guía de nuestro campo y un querido amigo.” Fuente: OpenAI.

El ex científico jefe dijo que se va por algo que es personalmente importante para él. Aunque no sabemos cuál es esa cosa o proyecto, parece que quizás sea la preocupación por la seguridad de la IA, que se cree que es el enfoque principal de la preferencia de Sutskever durante todo el tiempo que trabajó en OpenAI.

También lea: El CEO de OpenAI se pronuncia sobre la posible red de seguridad social impulsada por la IA

Por otro lado, el anuncio de Leike fue directo, ya que simplemente dijo: “Renuncié”, y más tarde explicó sus preocupaciones en una serie de publicaciones en X. Altman dice que están trabajando para corregir los documentos de salida, pero otro ex empleado de la empresa, Daniel Kokotaijlo, dijo que renunció a sus acciones por no firmar el acuerdo. Anunció que dejó la empresa porque perdió “la confianza en que se comportaría de manera responsable alrededor del momento de la AGI.”

Mientras Altman ha dicho que cualquier ex empleado puede contactarlos y que investigarán para solucionar el asunto, no podemos estar seguros de cómo se desarrolla esto en un escenario donde hay una fuga de empleados y los trabajadores están planteando preguntas sobre los cambios en las prácticas de seguridad de la IA de la empresa.

Reportaje de Cryptopolitan por Aamir Sheikh