OpenAI prépare la succession de GPT-4 face aux préoccupations en matière de sécurité  

OpenAI entraîne un nouveau système d’IA pour succéder à GPT-4 alors que l’entreprise cherche à obtenir un redressement réputationnel. Le modèle sera précédé par un comité de sécurité et de sécurité dirigé par le PDG Sam Altman et trois autres administrateurs. 

À lire également : ChatGPT continue de propager des fausses informations, selon le régulateur de données de l’UE

L’entreprise basée à San Francisco est sous pression pour démontrer son engagement envers la sécurité. Les chercheurs en risque récemment démissionnaires, Jan Leike et Gretchen Krueger, ont exposé la prétendue mauvaise culture de sécurité d’OpenAI sur X, anciennement Twitter.

OpenAI entraîne le « Modèle de la prochaine frontière »

Dans un article de blog publié mardi, l’entreprise a déclaré :

« OpenAI a récemment commencé à entraîner son modèle de la prochaine frontière et nous anticipons que les systèmes résultants nous porteront au niveau suivant de capacités sur notre chemin vers l’intelligence artificielle générale (AGI). »

OpenAI n’a pas précisé quand le successeur de GPT-4 serait publié ni ce qu’il pourrait faire. L’entreprise, évaluée à 80 milliards de dollars, a pris un pari de premier entrant avec son chatbot IA extrêmement populaire, ChatGPT, à une époque où des favoris comme Google ont pris un temps de recul pour évaluer les risques réputationnels.

Bien qu’OpenAI soit un leader dans la course à l’intelligence artificielle générative, qui est étroitement disputée par Anthropic, Google, Microsoft et d’autres, l’entreprise n’a pas toujours résisté à un examen éthique rigoureux.

Dans un article annonçant sa démission d’OpenAI sur X, Leike a révélé que « ces dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants ».

Krueger a écrit que l’entreprise doit « faire davantage pour améliorer les fondamentaux tels que les processus de prise de décision, la responsabilité, la transparence, l’application des politiques et la manière dont nous utilisons notre propre technologie ».

La semaine dernière, une force de tâche de l’Union européenne a renforcé la critique, signalant que ChatGPT, le produit phare de l’entreprise, ne respecte pas ses normes de précision.

L’entreprise présente la sécurité de l’IA comme un argument de vente clé

Pendant ce temps, la récente mise à jour d’OpenAI pour son modèle GPT-4 a immédiatement provoqué une dispute de haut profil, l’actrice Scarlett Johansson accusant l’entreprise d’utilisation non autorisée de sa voix.

À lire également : OpenAI supprime la voix de ChatGPT après la controverse avec Scarlett Johansson

Maintenant, l’entreprise prend son avance accélérée vers le blanchiment d’image en présentant la sécurité comme l’argument de vente de son programme d’IA à venir. L’entreprise tient également à être perçue par les régulateurs comme développant une IA responsable. Dans son article de blog, OpenAI a ajouté :

« Bien que nous soyons fiers de construire et de publier des modèles qui sont leaders de l’industrie tant en termes de capacités que de sécurité, nous accueillons favorablement un débat robuste à ce moment important. »

Le nouveau comité de sécurité et de sécurité sera dirigé par les administrateurs Altman, Bret Taylor (président), Adam D’Angelo et Nicole Seligman. Le responsable de la préparation, le responsable des systèmes de sécurité, le responsable de la science de l’alignement, le responsable de la sécurité et le scientifique en chef de l’entreprise seront également membres du comité.

OpenAI a déclaré que le comité « évaluera et développera davantage les processus et les sauvegardes » au cours des trois prochains mois et fera rapport à trois autres administrateurs.

L’entreprise a dissous son équipe de sécurité plus tôt ce mois-ci suite au départ du responsable de l’équipe et co-fondateur d’OpenAI, Ilya Sutskever.

Reporting de Cryptopolitan par Jeffrey Gogo