El exdirector de OpenAI dice que despidieron a Sam Altman por 'mentir descaradamente' 

La exmiembro de la junta directiva Helen Toner ha revelado que Sam Altman fue despedido como CEO de OpenAI porque engañó deliberadamente a la junta directiva gobernante sobre el desarrollo de productos de la empresa y los procesos de seguridad.

 También leer: OpenAI prepara el sucesor de GPT-4 ante preocupaciones de seguridad

Toner, investigadora de IA y una de las directoras que despidieron a Altman en noviembre, habló sobre el fallido golpe de estado en la sala de juntas por primera vez en una entrevista del 28 de mayo con El TEDTalk AI Show presentado por Bilawal Sidhu.

‘Sam Altman Mintió Abiertamente a la Junta Directiva’

El consejo de OpenAI se estableció para mantener a la empresa centrada en el bien público antes que en el beneficio, reveló Toner en una entrevista. Dijo: “Durante años, Sam hizo que fuera muy difícil para el consejo cumplir esa función al ocultar información, tergiversar lo que ocurría en la empresa y, en algunos casos, mentir abiertamente al consejo.”

Compartiendo esto, grabado hace unas semanas. La mayor parte del episodio trata sobre la política de IA en general, pero esta fue mi primera entrevista en formato largo desde que cerró la investigación de OpenAI, así que también hablamos un poco sobre noviembre.

Gracias a @bilawalsidhu por una conversación divertida. https://t.co/h0PtK06T0K

— Helen Toner (@hlntnr) 1 de mayo, 28, 2024

Sam Altman fue despedido repentinamente como CEO el 17 de noviembre de 2023, una decisión que envió ondas de choque por toda la industria de la inteligencia artificial. Toner dijo que el secreto alrededor de la decisión fue parte de un plan deliberado de la junta directiva.

Según Toner, “Estaba muy claro para todos nosotros que tan pronto como Sam tuviera la más mínima idea de que podríamos hacer algo que fuera en su contra, haría todo lo posible, haría todo lo que estuviera en su poder para socavar la junta directiva, para impedirnos, ya sabes, incluso llegar al punto de poder despedirlo. Así que fuimos muy cuidadosos, muy deliberados sobre a quién le dijimos, lo cual fue esencialmente casi nadie por adelantado, aparte, obviamente, de nuestro equipo legal.”

Altman prevaleció sobre la junta directiva en la imagen pública de la caída de noviembre, con empleados e inversores de OpenAI, incluyendo Microsoft, condenando su despido. Fue reinstaurado como CEO dentro de una semana, mientras que el científico jefe Ilya Sutskever, Toner y otros ‘conspiradores’ acordaron dejar la junta directiva.

La Reputación del Chico Póster de la IA Sufre un Revés

La reputación de Altman como el ‘chico póster de la IA generativa’ ha sufrido un revés en las últimas semanas, ya que altos mandos anteriores, incluyendo Jan Leike, Gretchen Krueger y Tasha McCauley, cuestionaron su liderazgo.

Hablando sobre el despido de Altman, Toner dijo que la junta directiva solo se enteró del lanzamiento de ChatGPT en noviembre de 2022 en Twitter, ahora X, ya que no había sido informada. También acusó a Altman de retener a la junta directiva el hecho de que poseía el fondo de startups de OpenAI.

También leer: ChatGPT Sigue Difundiendo Falsedades, Dice el Vigía de Datos de la UE

“Cuando salió ChatGPT [en] noviembre de 2022, la junta directiva no fue informada por adelantado sobre eso. Nos enteramos de GPT en Twitter,” alegó Toner.

Continuó diciendo, “Sam no informó a la junta directiva de que poseía el fondo de startups de OpenAI, a pesar de que constantemente afirmaba ser un miembro independiente de la junta sin interés financiero en la empresa.”

Más adelante en la entrevista, Toner habló sobre la divulgación discrecional de Sam en asuntos relacionados con la seguridad. “En múltiples ocasiones nos dio información inexacta sobre el pequeño número de procesos formales de seguridad que la empresa tenía establecidos, lo que significaba que era básicamente imposible para la junta directiva saber qué tan bien funcionaban esos procesos de seguridad o qué podría necesitar cambiar.”

‘Atmósfera Tóxica’ en OpenAI

Según Toner, algunos personal clave sortearon la autocensura inicial y le dijeron a la junta directiva que Sam Altman no podía ser de confianza debido a la ‘atmósfera tóxica’ que estaba creando en la empresa. Reveló:

“Usaron la frase ‘abuso psicológico’, diciéndonos que no creían que fuera la persona adecuada para liderar la empresa hacia la inteligencia artificial general (AGI).”

Los investigadores internos sobre los eventos de noviembre informaron recientemente que la junta directiva actuó de buena fe pero no previó la inestabilidad que seguiría al despido de Altman. El CEO ha estado consolidando su control sobre OpenAI desde noviembre. El ‘equipo de Superalineamiento’ copresidido por el conspirador principal Sutskever fue disuelto a principios de este mes después de una serie de renuncias.

El martes, la startup con sede en San Francisco anunció un nuevo comité de seguridad y protección que será liderado por los directores Altman, Bret Taylor (presidente), Adam D’Angelo y Nicole Seligman.

La nueva entrevista de Toner refuerza su reciente columna de invitado para The Economist, coescrita con la exdirectora de OpenAI, Tasha McCauley. El dúo dijo que la autogobernanza no pudo resistir la presión de los incentivos de lucro en OpenAI.

Reportaje de Cryptopolitan por Jeffrey Gogo