Vitalik Buterin déclare que le combat pour les emplois liés à l'IA dépend de ce que les gens entendent par superintelligence
- Vitalik Buterin estime que les débats sur l'IA avancée stagnent en raison de désaccords quant à la vitesse et à l'ampleur de la progression de l'IA.
- Le débat inclut des arguments sur la question de savoir si la superintelligence effacerait ou non les emplois.
- Yann LeCun, Daniel Jeffries et Adam Thierer ont lié ce débat à l'avenir des modèles open source et à la régulation de l'IA.
Le cofondateur d'Ethereum, Vitalik Buterin, soutient qu'une grande partie du débat public sur l'IA avancée provient du fait que les deux camps partent d'hypothèses qu'ils ne partagent pas réellement.
La proposition de bouton d'arrêt d'urgence de Buterin pour toutes les applications d'IA a suscité des critiques alors que la communauté technologique s'engage dans un nouveau débat sur la rapidité de progression de l'IA et les implications pour la main-d'œuvre.
Qu'est-ce qui alimente le débat sur l'IA ?
Dans un message sur X, le cofondateur d'Ethereum, Vitalik Buterin, a déclaré que le conflit entre les partisans du scénario « IA 2040 » et ses critiques se résume à la vitesse et à l'ampleur des progrès de l'IA.
Le cadre de l'IA 2040 suppose qu'une superintelligence d'une forme ou d'une autre apparaîtra d'ici 2040, sauf si des mesures fortes l'en empêchent. Pendant ce temps, les critiques estiment que les partisans de l'IA 2040 sous-estiment la capacité de coordination humaine et menacent la liberté, mais ils ne voient pas la superintelligence elle-même comme un risque de concentration du pouvoir.
Buterin a admis qu'il ne savait pas quel scénario était le plus proche de la réalité. « Si j'étais convaincu que l'IA (de style actuel) est une technologie normale, je serais du côté des détracteurs. Si j'étais convaincu que la superintelligence arrivera par défaut en 2030, je serais plus proche du camp de l'IA 2040 », a-t-il écrit.
Mais le cofondateur reste ouvert à un ralentissement ou à une pause du développement de l'IA si les risques deviennent significatifs.
Le débat a attiré le chercheur en IA Yann LeCun, l'auteur Daniel Jeffries et l'analyste politique Adam Thierer.
Yann LeCun, scientifique en chef de l'IA chez Meta (NASDAQ: META), soutient que la sécurité de l'IA est fondamentalement un problème d'ingénierie qui peut être résolu par une conception itérative minutieuse, tout comme les réacteurs d'avion sont devenus fiables.
LeCun a souligné que « cela a pris 50 ans » pour rendre les avions véritablement sûrs, et que la peur de l'IA est prématurée alors que nous n'avons pas encore créé de système capable d'une intelligence de niveau humain. Il a constamment soutenu que les grands modèles de langage sont des « machines de saisie automatique » limitées qui manquent de raisonnement et de compréhension causale.
Harry Hawk, publiant sous le pseudo @hhawk, a déclaré qu'il s'aligne sur Yann LeCun et pense que les futurs systèmes d'IA seraient conçus pour la sécurité comme les avions. Il a également déclaré qu'il ne croit pas que l'IA et les robots feront tout, ne laissant aucun travail ou emploi.
Buterin a répondu que cette perspective niait l'existence d'une « IA si puissante que l'IA seule peut effectuer n'importe quelle tâche », qu'il appelle ASI.
Comment contrôler les systèmes d'IA puissants ?
Buterin a suggéré un « plan A », qui propose une règle large obligeant tout le monde à être ouvert sur ce qu'ils construisent, ainsi qu'un bouton d'arrêt d'urgence qui peut ralentir ou arrêter l'entraînement des grands modèles d'IA si les choses deviennent dangereuses.
Il a ajouté que les « intellectuels naïfs et bien intentionnés » qui pensent pouvoir choisir quelles utilisations de l'IA sont acceptables et lesquelles ne le sont pas s'opposeront à ce plan.
Romeo Dean, qui a initié une partie du fil de discussion de Buterin, a qualifié l'approche « assez raisonnable » mais a déclaré que ses déclencheurs arriveraient trop tard selon sa vision du monde. Il a ajouté qu'il ne comprend pas les « inconvénients massifs » que les critiques attachent au plan A.
Buterin a admis qu'il n'existe pas de solution parfaite. « Je ne vois aucun plan pour gérer la transition vers une ASI qui ne soit pas naïf », a-t-il écrit. « Peut-être que l'humanité est coincée avec un choix entre naïf et naïf au carré. »
Le rapport IA 2040 : Plan A provient du projet AI Futures de Daniel Kokotajlo, ancien employé d'OpenAI.
Le rapport indique que les États-Unis et Chine devraient travailler ensemble pour repousser la superintelligence jusqu'en 2040. Les deux pays devraient partager ouvertement toutes leurs recherches. Il comprend également un système basé sur la logique de la guerre nucléaire, où les deux parties peuvent détruire la puissance de calcul de l'autre si nécessaire. Ils appellent cela une « destruction mutairement assurée du calcul ».
Richard Ngo, un chercheur en IA, a déclaré que le rapport est trop inquiet quant à l'arrivée prochaine de l'IA. Il a également déclaré qu'il ne réfléchit pas suffisamment à la quantité de troubles politiques que l'IA pourrait causer à l'intérieur de chaque pays.
Les modèles open source sont-ils la solution ?
Sous-jacent à tout le débat se trouve le statut des modèles open source. LeCun a écrit le 9 juillet que le plus grand risque de l'IA est la « concentration du pouvoir » entre quelques entreprises dominantes. Il a également écrit que « la seule solution à la souveraineté de l'IA est les modèles de base open source ». Son post a reçu plus de 2 900 likes et plus de 430 partages.
L'auteur Daniel Jeffries, écrivant le même jour, a déclaré que les modèles open source sous-tendent la technologie américaine et a mis en garde contre les « sécuritaristes et faucons à courte vue » qui cherchent à les restreindre.
L'analyste politique Adam Thierer, chercheur associé senior à l'Institut R Street et auteur d'une soumission importante au rapport du groupe de travail sur l'IA de la Chambre des représentants, a mis en garde contre le fait que la gouvernance de l'IA aux États-Unis se trouve à une « croisée de chemins critique ».
Il a souligné que le Congrès emploie actuellement un processus désordonné, aléatoire et secret pour examiner l'IA. Il a mis en garde contre le fait que si ce système informel se développe et que les progrès sont bloqués derrière des approbations spéciales, cela détruira l'IA open source.
Au lieu de règles lourdes, Thierer propose une approche d'« innovation sans permission », où les gens seront autorisés à construire et à publier l'IA librement. Il suggère que les lois existantes devraient être utilisées pour punir les dommages lorsque cela est nécessaire, et soutient également des choses comme des zones de test pour la nouvelle IA, l'obligation pour certains modèles de rester ouverts, et l'augmentation des investissements dans la recherche sur l'IA.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
FAQ
Que a dit Vitalik Buterin concernant l'IA et l'emploi ?
Buterin a répondu à l'affirmation selon laquelle l'IA et les robots ne laisseraient aucun travail ou emploi en écrivant : « Alors vous ne croyez pas en l'ASI », qu'il a définie comme une IA suffisamment puissante pour accomplir seule n'importe quelle tâche.
Quelle est la position de Yann LeCun sur les risques liés à l'IA ?
LeCun a écrit le 9 juillet que le plus grand risque de l'IA réside dans la concentration du pouvoir entre les mains de quelques fournisseurs dominants d'assistants IA propriétaires, et que les modèles de base open source sont la seule solution à la souveraineté de l'IA.
Quel est le « plan A » décrit par Buterin ?
Buterin a présenté une approche de gouvernance qu'il a appelée le plan A, centrée sur un mandat large et neutre de transparence et sur un « bouton d'hiver du calcul », qu'il a dit que des critiques naïfs voudraient remplacer par des règles au cas par cas permettant les bons usages et bloquant les mauvais.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
