Vitalik avertit : l'IA doit autonomiser l'humanité, pas la désautonomiser

Le co-fondateur d'Ethereum, Vitalik Buterin, a exhorté à un développement prudent de l'intelligence artificielle (IA), affirmant qu'elle devrait aider l'humanité à devenir plus forte, et non créer des systèmes qui pourraient lui retirer le contrôle.

Buterin a écrit sur la direction future que prend l'intelligence artificielle. Dans une série de publications, le co-fondateur d'Ethereum a clairement indiqué que l'IA devrait autonomiser l'humanité – et non la désautonomiser.

L'IA doit aider les humains, pas prendre le contrôle

Il a averti que « des systèmes d'IA mal conçus pourraient produire quelque chose qui est plus ou moins une entité auto-reproductrice et incontrôlable ».

« Une IA mal conçue crée de nouvelles formes de vie intelligente auto-reproductrice et indépendante », a écrit Buterin. « Une IA bien conçue, c'est comme des combinaisons mécaniques pour l'esprit humain. Si nous faisons la première sans la seconde, nous risquons une désautonomisation permanente de l'humanité. Si nous faisons la seconde, une civilisation humaine superintelligente florissante ».

Il croit que l'IA devrait augmenter la pensée, la créativité humaines, etc., un peu comme une « combinaison mécanique » qui renforce la force de l'utilisateur. Cela contraste avec les dangers des systèmes d'IA autonomes sans supervision humaine, selon lui, qui pourraient finalement entraîner une perte de contrôle sur la technologie que nous créons.

Buterin suggère en outre qu'il devrait y avoir l'utilisation d'un « jugement humain distillé » comme moyen collectif d'amélioration de la prise de décision. Il a décrit cela comme la création de systèmes capables d'imiter les processus de prise de décision humaine de haute qualité, mais d'être plus efficaces que les humains.

Ainsi, les humains pourraient maintenir le contrôle tout en tirant les bénéfices des capacités de l'IA.

Ce dernier peut être réalisé au niveau collectif par le biais du jugement humain distillé, a-t-il expliqué ; l'intelligence humaine collective peut fournir des orientations pour aider l'IA à amplifier, plutôt qu'à substituer, les capacités humaines.

Les risques des systèmes d'IA incontrôlés

Buterin continue de préciser que les outils d'IA émergents – comme ce logiciel de génération vidéo en temps réel – ont un exemple de système d'IA qui autonomise effectivement, tandis que la « manière de système passif », comme par exemple le modèle texte-image, où l'influence de l'utilisateur est très minimale ».

« Inviter et attendre ne fonctionne pas ainsi, viser et ajuster sur une base en temps réel constante », ajoute-t-il, suggérant une dynamique plus intime et autonomisante entre les humains et l'IA.

Il a ensuite parlé des agents d'IA : les programmes qui effectueront des tâches sans intervention humaine. Il a expliqué deux types : l'un qui effectue une planification à long terme et complexe, et l'autre un outil d'IA plus simple comme un chatbot, remplaçant les interfaces graphiques (GUI). Le dernier, a-t-il dit, « Le chatbot remplace les GUI en tant qu'interface vers tout. Le dernier est génial ! »

En fin de compte, Buterin plaide pour un développement responsable de l'IA pour autonomiser l'humanité. Il n'est pas favorable à une course incontrôlée et débridée vers des systèmes autonomes et voit plutôt des outils qui servent à améliorer les capacités humaines. « Si c'est bien fait », pense-t-il, « l'IA peut conduire à une civilisation superintelligente florissante ».