Vitalik prévient que l'IA doit renforcer l'humanité et non la déposséder

Vitalik Buterin, cofondateur Ethereum , a plaidé pour un développement prudent de l'intelligence artificielle (IA), affirmant qu'elle devrait aider l'humanité à devenir plustron, et non créer des systèmes susceptibles de priver les gens de leur pouvoir.

Buterin s'est exprimé sur l'avenir de l'intelligence artificielle. Dans une série de publications, le Ethereum cofondateur

L'IA devrait aider les humains, et non les remplacer

Il a averti que « des systèmes d'IA mal conçus pourraient produire quelque chose qui soit plus ou moins une entité incontrôlable et autoréplicatrice »

« Une IA mal maîtrisée crée de nouvelles formes de vie intelligentedent autoréplicatrice », a écrit Buterin. « Une IA bien maîtrisée, en revanche, ce sont des exosquelettes pour l’esprit humain. Si nous optons pour la première solution sans la seconde, nous risquons une dépossession humaine permanente. Si nous choisissons la seconde, nous favoriserons l’épanouissement d’une civilisation humaine superintelligente. »

Il estime que l'IA devrait amplifier la pensée humaine, la créativité, etc., un peu comme une « armure robotisée » qui décuple la force de l'utilisateur. Il oppose cette vision aux dangers que représentent les systèmes d'IA autonomes sans supervision humaine, ce qui pourrait à terme entraîner une perte de contrôle sur les technologies que nous créons.

Buterin suggère en outre d'utiliser le « jugement humain distillé » comme moyen collectif d'amélioration de la prise de décision. Il décrit cela comme la création de systèmes capables d'imiter les processus décisionnels humains de haute qualité, mais plus performants que les humains.

Ainsi, les humains pourraient conserver le contrôle tout en profitant des avantages tirés des capacités de l'IA.

Cette dernière opération peut être réalisée au niveau collectif grâce à un jugement humain distillé, a-t-il expliqué ; l'intelligence humaine collective peut fournir des orientations pour aider l'IA à amplifier, plutôt qu'à remplacer, les capacités humaines.

Les risques liés aux systèmes d'IA non contrôlés

Buterin précise ensuite que les outils d'IA émergents – tels que ce logiciel de génération vidéo en temps réel – constituent un exemple de système d'IA qui donne effectivement du pouvoir, tandis que le « mode de fonctionnement des systèmes passifs, comme par exemple le modèle de conversion de texte en image, où l'influence de l'utilisateur est très minimale »

« Attendre et réagir rapidement ne fonctionne pas ainsi ; il faut viser et s’adapter en permanence en temps réel », explique-t-il, suggérant une dynamique plus intime et plus stimulante entre les humains et l’IA.

Il a ensuite parlé des agents d'IA : ces programmes qui accomplissent des tâches sans intervention humaine. Il a expliqué qu'il en existait deux types : l'un dédié à la planification complexe à long terme, et l'autre, plus simple, comme un chatbot, qui remplace les interfaces graphiques. À ce sujet, a-t-il affirmé, « le chatbot remplace les interfaces graphiques comme interface pour tout. C'est génial ! »

En définitive, Buterin plaide pour un développement responsable de l'IA afin de renforcer l'humanité. Il s'oppose à une course effrénée et incontrôlée vers les systèmes autonomes et envisage plutôt des outils au service de l'amélioration des capacités humaines. « Bien conçue », estime-t-il, « l'IA peut mener à une civilisation superintelligente florissante. »