L’ancien directeur d’OpenAI affirme que Sam Altman a été renvoyé pour « mensonge éhonté » 

L'ancienne membre du conseil d'administration Helen Toner a révélé que Sam Altman a été licencié en tant que PDG d'OpenAI parce qu'il a intentionnellement induit le conseil d'administration en erreur sur le développement de produits et les processus de sécurité de l'entreprise.

 À lire également : OpenAI prépare la succession de GPT-4 face aux préoccupations en matière de sécurité

Toner, chercheuse en IA et l'une des administratrices qui ont licencié Altman en novembre, a parlé pour la première fois du coup d'État avorté en conseil d'administration lors d'une interview du 28 mai avec The TEDTalk AI Show l'hôte Bilawal Sidhu.

'Sam Altman a menti ouvertement au Conseil d'administration'

Le conseil d'administration d'OpenAI a été mis en place pour maintenir l'entreprise ancrée dans l'intérêt public avant la motivation du profit, Toner a révélé dans une interview. Elle a déclaré, « Pendant des années, Sam a rendu très difficile pour le conseil de faire ce travail en withholdant des informations, en déformant ce qui se passait dans l'entreprise, dans certains cas en mentant directement au conseil. »

Partageant ceci, enregistré il y a quelques semaines. La majeure partie de l'épisode porte sur la politique de l'IA de manière plus large, mais c'était ma première interview longue depuis la clôture de l'enquête d'OpenAI, nous avons donc également parlé un peu de novembre.

Merci à @bilawalsidhu pour cette conversation amusante ! https://t.co/h0PtK06T0K

— Helen Toner (@hlntnr) mai 28, 2024

Sam Altman a été brutalement licencié de son poste de PDG le 17 novembre 2023, une décision qui a provoqué des secousses dans toute l'industrie de l'intelligence artificielle. Toner a déclaré que le secret entourant cette décision faisait partie d'un plan délibéré du conseil d'administration.

Selon Toner, « Il était très clair pour nous tous que dès que Sam avait le moindre soupçon que nous pourrions faire quelque chose contre lui, il mettrait tout en œuvre, ferait tout ce qui était en son pouvoir pour saper le conseil d'administration, pour nous empêcher, vous savez, même d'atteindre le point de pouvoir le licencier. Nous étions donc très prudents, très délibérés sur les personnes à qui nous parlions, ce qui était essentiellement presque personne en avance, sauf, évidemment, notre équipe juridique. »

Altman a prévalu sur l'image de marque lors de la crise de novembre, les employés d'OpenAI et les investisseurs, y compris Microsoft, déplorant son licenciement. Il a été réintégré en tant que PDG en moins d'une semaine, tandis que le scientifique en chef Ilya Sutskever, Toner et d'autres « conspirateurs » ont accepté de quitter le conseil d'administration.

La réputation du visage de l'IA prend un coup

La réputation d'Altman en tant que « visage de l'IA générative » a pris un coup ces dernières semaines, alors que d'anciens dirigeants, dont Jan Leike, Gretchen Krueger et Tasha McCauley, ont remis en question son leadership.

Parlant du licenciement d'Altman, Toner a déclaré que le conseil d'administration n'a appris la sortie de ChatGPT en novembre 2022 que sur Twitter, maintenant X, car il n'avait pas été informé. Elle a également accusé Altman d'avoir caché au conseil d'administration qu'il possédait le fonds de démarrage OpenAI.

À lire également : ChatGPT continue de propager des fausses informations, selon le régulateur de données de l’UE

« Lorsque ChatGPT est sorti [en] novembre 2022, le conseil d'administration n'a pas été informé à l'avance. Nous avons appris l'existence de GPT sur Twitter », a allégué Toner.

Elle a continué, disant, « Sam n'a pas informé le conseil d'administration qu'il possédait le fonds de démarrage OpenAI, bien qu'il affirmât constamment être un membre indépendant du conseil d'administration sans intérêt financier dans l'entreprise. »

Plus loin dans l'interview, Toner a parlé de la divulgation discrétionnaire de Sam concernant les questions de sécurité. « À plusieurs reprises, il nous a donné des informations inexactes sur le petit nombre de processus de sécurité formels que l'entreprise avait en place, ce qui signifiait qu'il était essentiellement impossible pour le conseil d'administration de savoir dans quelle mesure ces processus de sécurité fonctionnaient ou ce qui pourrait devoir changer. »

'Atmosphère toxique' chez OpenAI

Selon Toner, certaines personnes clés ont contourné l'auto-censure initiale et ont dit au conseil d'administration que Sam Altman ne pouvait pas être fait confiance en raison de l'« atmosphère toxique » qu'il créait dans l'entreprise. Elle a révélé :

« Ils ont utilisé l'expression 'abus psychologique', nous disant qu'ils ne pensaient pas qu'il était la bonne personne pour diriger l'entreprise vers l'intelligence artificielle générale (AGI). »

Les enquêteurs internes sur les événements de novembre ont récemment signalé que le conseil d'administration avait agi de bonne foi mais n'avait pas prévu l'instabilité qui suivrait le licenciement d'Altman. Le PDG a consolidé son emprise sur OpenAI depuis novembre. L'équipe « Superalignment », co-présidée par le principal conspirateur Sutskever, a été dissoute plus tôt ce mois-ci après une série de démissions.

Mardi, la start-up basée à San Francisco a annoncé la création d'un nouveau comité de sécurité et de sûreté, dirigé par les administrateurs Altman, Bret Taylor (président), Adam D’Angelo et Nicole Seligman.

La nouvelle interview de Toner renforce sa récente chronique invitée pour The Economist, co-écrite avec l'ancienne directrice d'OpenAI, Tasha McCauley. Le duo a déclaré que l'auto-gouvernance n'a pas résisté à la pression des incitations au profit chez OpenAI.

Reporting de Cryptopolitan par Jeffrey Gogo