OpenAI présente un comité de sûreté et de sécurité pour superviser ses projets d'IA

Afin de renforcer la sécurité des projets d'apprentissage automatique, OpenAI a annoncé la création d'un Comité de sûreté et de sécurité. Ce nouvel organe de gouvernance voit le jour suite aux récents changements au sein de l'organisation, notamment la suppression de son équipe interne de superalignement chargée des risques liés à l'IA.

L'annonce de la création de ce comité fait suite à une série de changements stratégiques au sein de l'entreprise, ainsi qu'au lancement de la formation pour le modèle de nouvelle génération de l'entreprise, ce qui laisse présager une progression vers l'IA générale.

Le conseil d'administration d'OpenAI crée un comité de sûreté et de sécurité, chargé de formuler des recommandations sur les décisions critiques en matière de sûreté et de sécurité pour tous les projets d'OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 28 mai 2024

OpenAI met en place un nouveau comité pour une meilleure supervision de l'IA

Les développeurs de GPT-4, OpenAI, ont renforcé leurs mesures de sécurité en créant untron. Ce comité inclut les dirigeants de l'organisation : Sam Altman, PDG et président du conseil d'administration, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight et Jakub Pachocki. Leur mission principale sera d'améliorer la gestion des risques liés à l'IA. Un rapport détaillé devrait être présenté au conseil d'administration dans les 90 jours à venir.

À lire également : Amazon peine à contester la suprématie de Nvidia en matière de puces d’IA

Le changement de cap d'OpenAI en matière de sécurité fait suite à plusieurs modifications de sa direction, notamment les départs d'Ilya Sutskever et de Jan Leike, ainsi que la dissolution de l'équipe Superalignment chargée de la sécurité de l'IA. Cette restructuration témoigne de la volonté d'OpenAI d'améliorer ses stratégies de gestion des risques liés à l'IA tout en repoussant les limites de l'innovation dans ce domaine.

OpenAI entraîne le prochain modèle de frontière

En plus de la création de ce nouveau comité, OpenAI a entamé l'entraînement de son modèle de nouvelle génération. Ce modèle vise à surpasser les capacités des modèles actuels et à se rapprocher de l'intelligence artificielle générale (IAG). Cette initiative s'inscrit dans sa mission permanente de créer des solutions d'IA capables d'exécuter efficacement diverses tâches. Mira Murati, directrice technique d'OpenAI, a souligné que les principales mises à jour de GPT-4 apporteront des améliorations majeures au modèle et pourront refléter les progrès technologiques et les cas d'utilisation associés.

À lire également : Les entreprises chinoises spécialisées dans l’IA se livrent à une guerre des prix féroce.

D'après les dernières informations de Microsoft, un partenaire important qui fournit une infrastructure cloud pour la recherche en IA, ce nouveau modèle représentera une avancée majeure, que Tom Warner, le directeur technique de Microsoft, qualifie de passage d'une « orque » à une « baleine » en termes de capacités et de taille.

L'attente autour de GPT-5 s'intensifie

Dans ce contexte, des rumeurs circulent concernant la version préliminaire du modèle de langage nouvelle génération d'OpenAI, baptisée GPT-5. Des rapports datant de mars indiquent qu'un petit nombre d'utilisateurs seulement ont testé ce prototype et ont mentionné des améliorations par rapport à GPT-4. Cet engouement a suscité de grandes attentes chez les experts et le grand public, les parties prenantes souhaitant en savoir plus sur les perspectives offertes par ce nouveau modèle.

Tout ce qu'a entrepris OpenAI, de la restructuration de son conseil de sécurité au développement de sa technologie, témoigne de sa volonté de conserver sa position de leader dans le domaine de l'IA. Son évolution constante et l'intégration de plateformes durables font d'OpenAI l'une des entreprises pionnières qui contribuent à defil'avenir de l'IA.

Reportage Cryptopolitan de Chris Murithi