Le co-fondateur Ethereum Vitalik Buterin, a appelé à un développement prudent de l'intelligence artificielle (IA), affirmant qu'elle devrait aider l'humanité à devenirtron, et non à créer des systèmes qui pourraient retirer le contrôle aux gens.
Buterin a écrit sur l’orientation future que prend l’intelligence artificielle. Dans une série de messages, le Ethereum a clairement indiqué que l’IA devait donner du pouvoir à l’humanité – et non la priver de son pouvoir.
L’IA devrait aider les humains, pas prendre le relais
Il a prévenu que « des systèmes d’IA mal conçus pourraient produire quelque chose qui serait plus ou moins une entité auto-répliquante et incontrôlable ».
L’IA mal utilisée crée de nouvelles formes de vie intelligente,dent auto-reproductrice, a écrit Buterin. « L’IA bien faite est une combinaison mécha pour l’esprit humain. Si nous faisons le premier sans le second, nous risquons une déresponsabilisation humaine permanente. Si nous faisons cette dernière solution, nous pourrons une civilisation humaine superintelligente florissante.
Il pense que l'IA devrait augmenter la pensée humaine, la créativité, etc., un peu comme une « combinaison méca » qui améliore la force de l'utilisateur. Selon lui, cela contraste avec les dangers des systèmes d’IA autonomes sans surveillance humaine, qui pourraient éventuellement conduire à une perte de contrôle sur la technologie que nous créons.
Buterin suggère en outre de recourir au « jugement humain distillé » comme moyen collectif d’amélioration de la prise de décision. Il a en outre décrit cela comme la création de systèmes capables d'imiter des processus décisionnels humains de haute qualité, mais fonctionnant plus efficacement que les humains.
Ainsi, les humains pourraient garder le contrôle grâce aux avantages tirés des capacités de l’IA.
Cette dernière peut être réalisée au niveau collectif grâce au jugement humain distillé, a-t-il expliqué ; l’intelligence humaine collective peut fournir des conseils pour aider l’IA à amplifier, plutôt qu’à remplacer, les capacités humaines.
Les risques des systèmes d’IA incontrôlés
Buterin poursuit en précisant que les outils d'IA émergents – tels que ce logiciel de génération de vidéo en temps réel – disposent d'un exemple de système d'IA qui donne effectivement du pouvoir, tandis que la « voie du « système passif » comme, par exemple, le modèle texte-image , dont les influences des utilisateurs sont très minimes.
Inviter et attendre ne fonctionne pas de cette façon, il suffit de viser et de s'adapter à une base constante en temps réel », ajoute-t-il, suggérant une dynamique plus intime et plus responsabilisante entre les humains et l'IA.
Il a ensuite parlé des agents IA : des programmes qui effectueront des tâches sans intervention humaine. Il en a expliqué deux types : l'un qui effectue une planification complexe à long terme et l'autre, un outil d'IA plus simple, comme un chatbot, remplaçant les interfaces graphiques. Ce dernier, a-t-il déclaré, « Chatbot remplace les interfaces graphiques comme interface pour tout. Ce dernier est génial !
En fin de compte, Buterin plaide pour un développement responsable de l’IA pour responsabiliser l’humanité. Il n’est pas favorable à une tendance incontrôlée et effrénée vers des systèmes autonomes et voit plutôt des outils qui servent à améliorer les capacités humaines. « Si elle est bien utilisée, pense-t-il, l’IA peut conduire à une civilisation superintelligente florissante. »
Cryptopolitan Academy: Vous voulez développer votre argent en 2025? Apprenez à le faire avec DeFi dans notre prochaine webclass. Enregistrez votre place
