OpenAI présente un comité de sécurité et de sûreté pour superviser ses projets d’IA

Pour renforcer la sécurité des projets d’apprentissage automatique, OpenAI a annoncé la formation d’un comité de sécurité et de sécurité. Ce nouveau organe de gouvernance émerge à la lumière des changements récents au sein de l’organisation, tels que la suppression de son équipe interne Superalignment traitant des risques posés par l’IA.

L’annonce du comité fait suite à une série de changements stratégiques au sein de l’entreprise, ainsi qu’au début de l’entraînement du modèle de nouvelle génération de l’entreprise, ce qui laisse présager une progression vers l’AGI.

Le conseil d’administration d’OpenAI forme un comité de sécurité et de sécurité, responsable de formuler des recommandations sur les décisions critiques de sécurité et de sécurité pour tous les projets d’OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) Mai 28, 2024

OpenAI introduit un nouveau comité pour une meilleure supervision de l’IA

Les développeurs de GPT-4, OpenAI, ont amélioré leur jeu en constituant un comité de sécurité et de sécurité fort de neuf membres. Ce panel comprend les dirigeants de l’organisation. Sam Altman en tant que PDG et président du conseil, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight et Jakub Pachocki. Leur responsabilité principale sera d’améliorer la gestion du processus de risque d’IA. Un rapport détaillé devrait être présenté au conseil d’administration dans les 90 jours à venir.

À lire également : Amazon peine à contester la suprématie de Nvidia dans les puces IA

Le changement d’OpenAI en matière de supervision de la sécurité fait suite à de nombreux changements de direction, comme le départ d’Ilya Sutskever et de Jan Leike, et la dissolution de l’équipe Superalignment chargée de la sécurité de l’IA. Cette restructuration montre le désir d’OpenAI d’améliorer ses stratégies de gestion des risques d’IA tout en repoussant les frontières de l’innovation en IA.

OpenAI entraîne le modèle de la prochaine frontière

En plus du nouveau comité, OpenAI a commencé à entraîner ce qu’ils appellent leur modèle de la prochaine frontière. Ce modèle vise à surpasser les capacités des modèles actuels et à se rapprocher de la réalisation de l’AGI. Ce mouvement fait partie de leur mission continue de créer des solutions d’IA qui peuvent effectuer efficacement et efficacement diverses tâches. Le directeur technologique d’OpenAI, Mira Murati, a noté que les principales mises à jour de GPT-4 présenteront des améliorations majeures du modèle et pourraient refléter ces développements dans la technologie et les cas d’utilisation connexes.

À lire également : Les entreprises d’IA chinoises lancent une guerre des prix féroce

Les dernières informations de Microsoft, un partenaire important qui fournit l’infrastructure cloud pour la recherche en IA, indiquent que le nouveau modèle représentera une grande avancée, que Tom Warner, le CTO de Microsoft, caractérise comme un passage d’une « orque » à une « baleine » en termes de capacités et de taille.

L'anticipation autour de GPT-5 s'intensifie

Parmi ces tendances, on murmure à propos de la version préliminaire du prochain modèle de langage de nouvelle génération d'OpenAI, baptisé GPT-5. Les rapports de mars indiquent qu'un petit nombre d'utilisateurs ont utilisé ce prototype et ont mentionné des améliorations par rapport à GPT-4. Ce buzz a créé des attentes énormes parmi les technophiles et le grand public, les parties prenantes attendant de connaître davantage les perspectives de ce nouveau modèle.

Tout ce qu'OpenAI a fait, de la restructuration du conseil de sécurité à la promotion de sa technologie, pointe vers une vision globale pour maintenir sa position de leader dans le développement de l'IA. L'évolution constante d'OpenAI et l'intégration de plateformes durables en font l'une des entreprises de premier plan contribuant à définir la voie vers l'avenir de la technologie IA.

Cryptopolitan, reportage de Chris Murithi