Les documents de départ d'OpenAI sont-ils trop restrictifs pour les employés qui quittent l'entreprise ?

Les employés qui quittent OpenAI sont tenus de signer un accord de départ restrictif. Le directeur général d'OpenAI, Sam Altman, a déclaré qu'une partie de l'accord n'aurait jamais dû se produire, et c'est l'une des rares occasions où la gestion d'OpenAI l'a véritablement embarrassé.

Après le départ de certains membres hautement médiatisés de l'équipe de sécurité d'OpenAI, il est apparu que l'accord comprenait des dispositions de non-diffamation et de non-divulgation qui empêchent les employés partants de critiquer OpenAI pour le reste de leur vie, a rapporté Vox samedi.

Et ce n'est pas tout ; l'accord va jusqu'à révoquer l'équité acquise des employés dans l'entreprise s'ils critiquent leur ancien employeur d'une manière qu'OpenAI considère comme diminuant leur valeur. De plus, ils ne peuvent pas parler des conditions de départ, car cela révoquerait également leur équité.

Que se passe-t-il chez OpenAI ?

Dans la récente annonce de ChatGPT-4o, le produit phare de l'entreprise a obtenu la capacité de parler et de reconnaître des visuels, mais pour les passionnés de technologie et les followers, tout le battage médiatique autour de la mise à niveau du produit a été éclipsé par la réalité que les employés partants de l'entreprise peuvent reconnaître des visuels mais ne sont pas autorisés à parler.

« au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants. » Jan Leike.

Peu après la sortie de ChatGPT-4o, Ilya Sutskever, co-fondateur et scientifique en chef d'OpenAI, a quitté l'entreprise. Sutskever dirigeait également l'équipe Superalignment, qui s'occupe des questions de sécurité liées au produit d'IA de l'entreprise.

À lire également : OpenAI dévoile Chatgpt-4o : Accès gratuit avec des limitations

Quelques heures après le départ de Sutskever, un autre co-leader de l'équipe Superalignment, Jan Leike, a également quitté l'entreprise. Le départ de ces deux experts en sécurité a laissé entendre qu'OpenAI pourrait modifier ses préférences en matière de sécurité, et des spéculations ont commencé à circuler selon lesquelles ils auraient démissionné par protestation.

Altman s'est excusé pour les erreurs de politique d'équité

De nombreux observateurs accusent Altman d'être un bon joueur dans la formulation de déclarations publiques, mais ils le critiquent pour avoir travaillé pratiquement à l'encontre de ce qu'il dit.

Aujourd'hui, Altman a publié sur X comment l'entreprise gère l'équité de ses employés. Il a mentionné qu'il y avait une disposition concernant l'annulation potentielle de l'équité dans leurs documents précédents, mais qu'ils n'ont jamais rien récupéré. Il a déclaré que cela n'aurait jamais dû figurer dans aucun de leurs documents.

Altman a également déclaré que son équipe travaillait déjà à la correction des papiers de départ depuis un mois, et que toute personne ayant quitté l'entreprise avec d'anciens documents signés pouvait le contacter pour obtenir une correction. Il a également déclaré que c'est l'une des rares fois où il est embarrassé de gérer l'entreprise.

Mais en regardant l'histoire, comme nous l'avons dit plus tôt, Altman a été accusé de contradictions entre ses paroles et ses actes ; par exemple, il est critiqué pour avoir convaincu l'Arabie saoudite d'investir des milliards dans la création d'accélérateurs d'IA. Sachant que le pays est une monarchie et que des personnes puissantes peuvent utiliser la technologie pour contrôler la société. 

Cela s'est produit au même moment où il applaudissait la sécurité de l'IA et signait une lettre au gouvernement américain pour arrêter le développement rapide de l'IA afin d'épargner à l'humanité des dommages. Il était également assez malin pour transformer une organisation à but non lucratif en une startup technocratique, puis accélérer la commercialisation. Ce n'est pas simple et nécessite une sorte de tromperie pour que cela se produise.

Tout n'est pas simple chez OpenAI

Il y a aussi un historique. Lorsque le PDG Sam Altman a été viré par le conseil d'administration de l'entreprise l'année dernière avant de revenir rapidement à son poste, Sutskever faisait également partie du conseil qui a pris la décision. 

Mais Sutskever a rapidement changé d'avis et a regretté sa décision ; il a même commencé à travailler avec les employés qui voulaient le retour d'Altman dans l'entreprise. Sutskever a également signé la lettre exigeant le retour d'Altman. 

Depuis le retour d'Altman dans l'entreprise, la position de Sutskever est restée incertaine, et il a également été retiré du conseil, tout comme beaucoup d'autres après le retour d'Altman. Alors qu'Altman a montré son chagrin face au départ de Sutskever, disant :

« Ilya et OpenAI vont se séparer. Cela me rend très triste ; Ilya est facilement l'un des plus grands esprits de notre génération, une lumière guide de notre domaine et un cher ami. » Source : OpenAI.

L'ancien scientifique en chef a déclaré qu'il partait pour quelque chose qui lui tenait personnellement à cœur. Bien que nous ne sachions pas de quoi il s'agit ou quel est ce projet, il semble peut-être que ce soit la préoccupation de la sécurité de l'IA, qui est considérée comme la priorité de Sutskever pendant tout le temps qu'il a travaillé chez OpenAI.

À lire également : Le PDG d'OpenAI se prononce sur un potentiel filet de sécurité social piloté par l'IA

D'autre part, l'annonce de Leike était simple, car il a simplement dit : « J'ai démissionné », et a ensuite expliqué ses préoccupations dans une série de publications sur X. Altman dit qu'ils travaillent à corriger les papiers de départ, mais un autre ancien employé de l'entreprise, Daniel Kokotajlo, a déclaré qu'il a cédé son équité pour ne pas avoir signé l'accord. Il a annoncé qu'il a quitté l'entreprise car il a perdu « la confiance qu'elle se comporterait de manière responsable au moment de l'AGI ».

Alors qu'Altman a déclaré que tout ancien employé peut les contacter et qu'ils examineront la question pour la résoudre, nous ne pouvons pas être certains de la façon dont cela se concrétisera dans un contexte où une vague de départs d'employés est en cours et où les employés posent des questions sur les pratiques changeantes d'OpenAI en matière de sécurité de l'IA.

Article de Cryptopolitan par Aamir Sheikh