OpenAI prépare un successeur à GPT-4 malgré les inquiétudes liées à la sécurité  

OpenAI développe un nouveau système d'IA pour succéder à GPT-4, dans le cadre d'une stratégie visant à redorer son image. Ce modèle sera précédé d'un comité de sécurité présidé par le PDG Sam Altman et composé de trois autres membres du conseil d'administration. 

À lire également : ChatGPT continue de diffuser de fausses informations, selon l’autorité de surveillance des données de l’UE.

L'entreprise basée à San Francisco est sous pression pour démontrer son engagement en matière de sécurité. Jan Leike et Gretchen Krueger, chercheurs en gestion des risques ayant récemment démissionné, ont dénoncé la culture de sécurité sur X (anciennement Twitter).

OpenAI entraîne un « modèle de nouvelle génération »

Dans un article de blog publié mardi, la société a déclaré:

« OpenAI a récemment commencé à entraîner son prochain modèle de pointe et nous prévoyons que les systèmes qui en résulteront nous permettront d'atteindre un niveau de capacités supérieur sur la voie de l'intelligence artificielle générale (IAG). »

OpenAI n'a pas précisé la date de sortie du successeur de GPT-4 ni ses fonctionnalités. L'entreprise, valorisée à 80 milliards de dollars, a pris le risque de se lancer en premier sur ce marché avec son chatbot IA extrêmement populaire, ChatGPT, à un moment où les géants comme Google se sont mis en retrait pour évaluer les risques liés à leur réputation.

Bien qu'OpenAI soit un chef de file dans la course à l'intelligence artificielle générative, âprement disputée par Anthropic, Google, Microsoft et d'autres, l'entreprise n'a pas toujours résisté à un examen éthique rigoureux.

Dans un message annonçant sa démission d'OpenAI sur X, Leike a révélé que « ces dernières années, la culture et les processus de sécurité sont passés au second plan par rapport aux produits à la mode ».

Krueger a écrit que l'entreprise doit « faire davantage pour améliorer des aspects fondamentaux tels que les processus de prise de décision, la responsabilité, la transparence, l'application des politiques et le soin avec lequel nous utilisons notre propre technologie. »

La semaine dernière, un groupe de travail de l'Union européenne a enfoncé le clou en indiquant que ChatGPT, le produit phare de l'entreprise, ne répond pas aux normes de précision établies.

L'entreprise met en avant la sécurité de l'IA comme argument de vente principal

Parallèlement, la récente mise à jour du modèle GPT-4 a immédiatement suscité une vive polémique, l'actrice Scarlett Johansson accusant la société d'utilisation non autorisée de sa voix.

À lire également : OpenAI abandonne ChatGPT Voice après la polémique avec Scarlett Johansson

L'entreprise accélère désormais letracde son programme d'IA en mettant l'accent sur la sécurité, argument principal de son futur programme. Elle souhaite également être perçue par les autorités de régulation comme développant une IA responsable. Dans un article publié sur son blog, OpenAI ajoute :

« Bien que nous soyons fiers de concevoir et de commercialiser des modèles qui font figure de référence dans le secteur en termes de performances et de sécurité, nous accueillons favorablement un débat constructif en ce moment important. »

Le nouveau comité de sûreté et de sécurité sera dirigé par les directeurs Altman, Bret Taylor (président), Adam D'Angelo et Nicole Seligman. Le responsable de la préparation aux situations d'urgence, le responsable des systèmes de sécurité, le responsable de la science de l'alignement, le responsable de la sécurité et le directeur scientifique de l'entreprise en seront également membres.

OpenAI a déclaré que le comité allait, au cours des trois prochains mois, « évaluer et développer davantage les processus et les garanties » et faire rapport à trois autres administrateurs.

L'entreprise a dissous son équipe de sécurité au début du mois suite au départ de son chef d'équipe et cofondateur d'OpenAI, Ilya Sutskever.

Reportage Cryptopolitan de Jeffrey Gogo