Sam Altman démissionne de la Commission de Sécurité d'OpenAI sous les projecteurs

Le PDG d'OpenAI, Sam Altman, a démissionné du comité interne de Sécurité et de Sûreté de l'entreprise, un groupe établi en mai pour superviser les décisions critiques en matière de sécurité. Le départ d'Altman survient alors que les législateurs américains et les anciens employés d'OpenAI ont exprimé des préoccupations concernant la sécurité et la conformité juridique de l'entreprise.

Le comité de Sécurité et de Sûreté fonctionnera désormais en tant que comité distinct de niveau conseil d'administration qui surveille les questions de sécurité et de sûreté. Ce changement a nommé Zico Kolter, professeur à l'Université Carnegie Mellon, en tant que président, aux côtés du PDG de Quora, Adam D’Angelo, du général retraité de l'armée américaine Paul Nakasone et de l'ancienne dirigeante de Sony, Nicole Seligman. Tous sont des membres actuels du conseil d'administration d'OpenAI. Le groupe conservera toujours le pouvoir de bloquer la sortie des modèles d'IA jusqu'à ce que les préoccupations en matière de sécurité soient résolues. 

Les critiques remettent en question les priorités d'OpenAI alors que le personnel clé part

Dans un article de blog après le départ d'Altman, OpenAI a réitéré son accent sur la sécurité et a noté que le comité avait précédemment approuvé la sécurité du nouveau modèle, o1. Le groupe recevra également régulièrement des informations supplémentaires du personnel de sécurité et de sûreté de l'entreprise pour tenir les membres informés des futures sorties de modèles d'IA. Il a également déclaré qu'il entend renforcer les mesures de sécurité en adoptant des revues techniques et des objectifs bien définis pour les lancements de modèles.

Cela fait suite aux critiques, notamment de la part de cinq sénateurs américains qui ont exprimé des inquiétudes concernant les mesures de sécurité de l'entreprise cet été. Les critiques ont également noté que plus de la moitié du personnel chargé de traiter les conséquences à long terme de l'IA a quitté l'entreprise. Certains ont déclaré qu'Altman se soucie davantage de l'aspect commercial de l'IA que de la régulation de la technologie.

Les dépenses d'OpenAI sont en hausse. Au premier semestre 2024, l'entreprise a dépensé 800 000 $ pour le lobbying fédéral, ce qui représente une augmentation significative par rapport aux 260 000 $ dépensés pour l'ensemble de l'année 2023. Plus tôt cette année, Altman est devenu membre du Conseil de sécurité et de sûreté de l'intelligence artificielle du Département de la sécurité intérieure des États-Unis. Le comité est censé conseiller sur l'utilisation de l'IA dans les systèmes critiques du pays. 

Il reste encore des questions concernant l'auto-régulation du géant de l'IA. Dans un article d'opinion pour The Economist, les anciens membres du conseil d'administration d'OpenAI, Helen Toner et Tasha McCauley, ont émis des doutes sur la capacité de l'entreprise à se policer elle-même. Ils ont affirmé que les incitations au profit pourraient compromettre l'auto-gouvernance d'OpenAI, ce qui, selon eux, pourrait être en contradiction avec les objectifs de sécurité à long terme.

OpenAI cherche un financement massif et prévoit de passer à un modèle à but lucratif

OpenAI serait en discussions pour sécuriser un nouveau tour de financement massif qui pourrait porter sa valorisation à 150 milliards de dollars. Dans un récent rapport de Cryptopolitan, OpenAI prévoit de sécuriser 6,5 milliards de dollars auprès des investisseurs à sa valorisation actuelle. OpenAI prévoyerait de transformer son modèle opérationnel actuel vers un modèle traditionnel à but lucratif d'ici 2025.

Le PDG d'OpenAI, Sam Altman, a révélé les changements au personnel lors d'une réunion récente mais n'a pas beaucoup révélé sur ce à quoi s'attendre. Altman a déclaré que l'entreprise était « devenue trop grande » pour la structure actuelle et était prête à s'éloigner du modèle à but non lucratif.