L'ouverture du code des grands modèles de langage est-elle un bon moyen de favoriser l'innovation ?

Résumé TL;DR

• Geoffrey Hinton, le parrain de l'IA, exprime ses préoccupations concernant le code des modèles d'IA open source, avertissant des risques accrus et des utilisations abusives.
• Hinton suggère un développement contrôlé dirigé par les grandes entreprises pour garantir une utilisation responsable de l'IA.
• Les défenseurs des LLM open source soutiennent que les restrictions limitent la créativité et l'innovation.

Geoffrey Hinton, une figure renommée dans le domaine de l'intelligence artificielle (IA) et souvent surnommé le « parrain de l'IA », a exprimé ses préoccupations concernant les risques potentiels associés à l'ouverture du code des modèles d'IA, en particulier des grands modèles de langage (LLM). Hinton, connu pour ses contributions révolutionnaires aux réseaux neuronaux, estime que la mise à disposition gratuite de ce code en ligne pourrait avoir des effets néfastes et accroître les dangers associés à l'IA.

La position de Hinton découle de sa conviction que la technologie derrière l'IA, en particulier les LLM, a le potentiel d'être mal utilisée et exploitée si elle tombe entre de mauvaises mains. Les grands modèles de langage, tels que GPT-3 d'OpenAI, sont conçus pour générer du texte semblable à celui d'un humain et possèdent une capacité immense d'apprentissage à partir de vastes quantités de données. Ils ont démontré des capacités impressionnantes dans diverses applications, y compris la traduction de langues, la génération de contenu et même la complétion automatique de code.

Le côté sombre des LLM

Geoffrey Hinton a récemment exprimé ses préoccupations concernant le mouvement open source entourant les grands modèles de langage (LLM) et leurs défis potentiels. Ayant récemment quitté son poste chez Google pour pouvoir exprimer librement ses opinions sur le développement de l'IA, Hinton estime que confiner les LLM aux laboratoires d'entreprises comme OpenAI pourrait s'avérer bénéfique. Il suggère qu'une approche de développement contrôlée, avec quelques grandes entreprises de différents pays prenant les devants, permettrait le développement simultané de la technologie et l'établissement de méthodes pour garantir son utilisation responsable. 

Hinton a souligné que l'IA open source augmente le risque de permettre aux individus ayant de mauvaises intentions d'utiliser la technologie de manière nuisible et imprévisible.

Hinton estime également que le moment où l'IA superintelligente dépassera l'intelligence humaine n'est pas loin, mentionnant qu'il voit des signes d'intelligence dans des modèles comme GPT-4. Il a révisé son estimation précédente de 50 à 100 ans, considérant désormais qu'il est plus probable que cela se produise dans les cinq à vingt prochaines années.

Comment les LLM open source alimentent le succès des entreprises

Les grands modèles de langage (LLM) open source sont devenus de plus en plus nombreux en ligne, offrant un accès à des capacités d'IA puissantes. Parallèlement à cette tendance, les fournisseurs de logiciels capitalisent sur la demande croissante des entreprises pour des LLM personnalisables et installables qui peuvent être entraînés sur des données propriétaires. Une publication notable dans ce domaine a été Dolly 2.0 de Databricks, saluée comme le premier LLM open source suivant des instructions, explicitement conçu pour un usage commercial. Avec des fonctionnalités similaires à celles de ChatGPT, Dolly 2.0 permet aux organisations d'exécuter le modèle sur leur propre infrastructure, offrant ainsi plus de contrôle et de flexibilité.

Atténuer les dangers de l'IA : l'initiative d'alerte précoce de DeepMind

DeepMind, le laboratoire d'IA de Google, l'ancien employeur de Hinton, a annoncé le développement d'un système d'alerte précoce conçu pour identifier les risques potentiels associés à l'IA. Ce système vise à répondre aux préoccupations soulevées par Hinton et à améliorer la capacité de détecter et d'atténuer tout danger potentiel découlant des technologies de l'IA. Cette initiative démontre les efforts continus au sein de l'industrie pour gérer proactivement les risques et assurer un développement et un déploiement responsables de l'IA.

La position des partisans des LLM open source

Les défenseurs des LLM open source soutiennent qu'ils ont le potentiel de démocratiser l'accès aux systèmes d'IA comme ChatGPT, favorisant l'innovation en réduisant les barrières à l'entrée pour l'expérimentation. Ils estiment qu'en rendant ces technologies ouvertement disponibles, une communauté plus large de personnes peut contribuer aux avancées dans ce domaine. Il y a un nombre significatif de personnes enthousiastes désireuses d'explorer et d'innover avec l'IA, et les partisans des modèles open source considèrent cela comme crucial pour autonomiser ces individus et exploiter leur potentiel collectif.