Vitalik Buterin affirme que la bataille pour l'emploi dans le domaine de l'IA repose sur la définition que l'on donne au terme « superintelligence »

Vitalik Buterin, cofondateur Ethereum affirme qu'une grande partie du débat public sur l'IA avancée provient de suppositions que les deux camps ne partagent jamais réellement. 

La proposition de Buterin d'un coupe-circuit pour toutes les applications d'IA a suscité des critiques, alors que la communauté technologique s'engage dans un nouveau débat sur la vitesse de progression de l'IA et ses conséquences pour le marché du travail. 

Qu’est-ce qui alimente le débat sur l’IA ? 

Dans un article publié sur X, Ethereum Vitalik Buterin, cofondateur 

Le concept d'IA 2040 part du principe qu'une forme de superintelligence apparaîtra d'ici 2040 si des mesurestronne sont pas prises pour l'empêcher. Parallèlement, les critiques estiment que les partisans de l'IA 2040 sous-estiment les capacités de coordination humaine et menacent la liberté, mais ils ne perçoivent pas la superintelligence elle-même comme un risque de concentration du pouvoir.

Buterin a admis ne pas savoir quel scénario est le plus proche de la réalité. « Si j'étaisdent que l'IA (de type actuel) est une technologie normale, je serais du côté destrac. Si j'étaisdent que la superintelligence arrivera d'ici 2030, je serais plus proche du camp de l'IA 2040 », a-t-il écrit. 

Mais le cofondateur reste ouvert à l'idée de ralentir ou de suspendre le développement de l'IA si les risques deviennent importants.

Le débat a réuni le chercheur en intelligence artificielle Yann LeCun, l'auteur Daniel Jeffries et l'analyste politique Adam Thierer. 

Yann LeCun, scientifique en chef de Meta (NASDAQ : META) en matière d'IA, soutient que la sécurité de l'IA est fondamentalement un problème d'ingénierie qui peut être résolu par une conception itérative soignée, un peu comme les moteurs à réaction ont été rendus fiables. 

LeCun a souligné qu'il avait fallu 50 ans pour rendre les avions véritablement sûrs, et que la crainte de l'IA est prématurée tant que nous n'avons pas créé de système capable d'une intelligence comparable à celle de l'humain. Il a toujours soutenu que les grands modèles de langage sont des « machines à saisie automatique » limitées, dépourvues de raisonnement et de compréhension causale. 

Harry Hawk, sous le pseudonyme @hhawk, a déclaré partager l'avis de Yann LeCun et être convaincu que les futurs systèmes d'IA seront conçus pour la sécurité, à l'instar des avions. Il a également affirmé ne pas croire que l'IA et les robots accompliront toutes les tâches, au point de supprimer tout travail ou emploi.

Buterin a répliqué que cette perspective niait l'existence d'une « IA si puissante que l'IA seule puisse accomplir n'importe quelle tâche », qu'il appelle ASI.

Comment contrôler les systèmes d'IA puissants ?

Buterin a suggéré un « plan A », qui propose une règle générale obligeant chacun à être transparent sur ce qu'il construit, ainsi qu'un dispositif d'arrêt d'urgence permettant de ralentir ou d'arrêter l'entraînement à grande échelle de l'IA si la situation devient dangereuse.

Il a ajouté que les « intellectuels naïfs et bien intentionnés » qui pensent pouvoir choisir quelles utilisations de l'IA sont acceptables et lesquelles ne le sont pas s'opposeront à ce plan. 

Romeo Dean, à l'origine d'une partie de la discussion avec Buterin, a qualifié l'approche de « plutôt raisonnable », mais a estimé que ses déclencheurs arriveraient trop tard selon sa vision du monde. Il a ajouté ne pas comprendre les « inconvénients majeurs » que les critiques attribuent au plan A.

Buterin a reconnu qu'il n'existe pas de solution parfaite. « Je ne vois aucun plan, pour gérer la transition vers une intelligence artificielle supraluminique, qui ne soit pas naïf », a-t-il écrit. « L'humanité est peut-être confrontée à un choix impossible entre la naïveté et la naïveté au carré. »

Le rapport « AI 2040 : Plan A » provient du projet AI Futures de Daniel Kokotajlo, ancien employé d'OpenAI. 

Le rapport préconise une collaboration entre les États-Unis et la Chine pour repousser l'avènement de la superintelligence jusqu'en 2040. Les deux pays seraient tenus de partager ouvertement l'ensemble de leurs recherches. Il propose également un système inspiré de la logique de la guerre nucléaire, permettant aux deux camps de détruire mutuellement leur puissance de calcul si nécessaire. Ce système est qualifié de « destruction mutuelle assurée des capacités de calcul ».

Richard Ngo, chercheur en intelligence artificielle, estime que le rapport s'inquiète trop de l'arrivée imminente de l'IA. Il ajoute qu'il ne prend pas suffisamment en compte les troubles politiques que l'IA pourrait engendrer au sein de chaque pays.

Les modèles open source sont-ils la solution ?

Au cœur de ce débat se trouve la question du statut des modèles open source. LeCun écrivait le 9 juillet que le plus grand risque pour l'IA réside dans la « concentration du pouvoir » entre les mains de quelques entreprises dominantes. Il affirmait également que « la seule solution à la souveraineté de l'IA est le recours à des modèles open source issus de fondations ». Sa publication a suscité plus de 2 900 mentions « J'aime » et a été partagée plus de 430 fois.

L'auteur Daniel Jeffries, écrivant le même jour, a déclaré que les modèles open source sous-tendent la technologie américaine et a mis en garde contre les « sécuritaires à courte vue et les faucons » qui cherchent à la restreindre. 

Adam Thierer, analyste politique, chercheur principal au R Street Institute et auteur d'un important rapport soumis au groupe de travail de la Chambre sur l'IA, a averti que la gouvernance américaine de l'IA se trouve à un « tournant décisif ». 

Il a souligné que le Congrès utilise actuellement un processus d'examen de l'IA confus, aléatoire et opaque . Il a averti que si ce système informel se développe et que les progrès sont bloqués par des autorisations spéciales, l'IA libre sera anéantie. 

Au lieu de réglementations strictes, Thierer propose une approche d’« innovation sans autorisation », permettant à chacun de concevoir et de diffuser librement des IA. Il suggère d’utiliser les lois existantes pour sanctionner les préjudices lorsque cela s’avère nécessaire, et soutient également des initiatives telles que la création de zones d’expérimentation pour les nouvelles IA, l’obligation de maintenir certains modèles ouverts et un investissement accru dans la recherche en IA.