Vitalik Buterin plaide en faveur de systèmes d'IA guidés par l'humain afin de préserver les valeurs et d'empêcher la centralisation du pouvoir

Vitalik Buterin, cofondateur d'Ether, a dévoilé ce qu'il appelle un plan audacieux pour une intelligence artificielle (IA) contrôlée par l'homme, soulignant qu'une telle chose est nécessaire pour éviter un avenir dystopique dans lequel le pouvoir est centralisé et la survie de l'humanité est soit en jeu, soit irrémédiablement compromise.

Le cofondateur a une vision différente. Il estime que l'IA peut être plus puissante que les humains et, par conséquent, accélérer l'évolution et favoriser les meilleures pratiques d'innovation dans de nombreux secteurs.

Mais Buterin craint toujours que si les IA deviennent trop autonomes, elles ne génèrent de graves conflits avec les intérêts humains. Libérée involontairement, l'intelligence artificielle pourrait progresser rapidement et mettre fin à l'humanité.

L'intelligence artificielle progresse à une vitesse fulgurante et poursuit ses propres objectifs. Ce faisant, elle risque de créer une société qui terrifie certains, mais profite à d'autres. Dans l'histoire de l'évolution, ce schéma est familier et souvent tragique.

Aussi lointaine que puisse paraître cette perspective dans les débats législatifs actuels, cette avenir est rendu plausible par des sondages qui font état d'un risque existentiel non négligeable lié à l'IA. Ces résultats soulignent l'importance cruciale de mettre en place des structures permettant d'orienter judicieusement le développement de l'IA.

L'IA permet à l'humanité d'accomplir de grands exploits intellectuels

Buterin perçoit l'IA comme un outil capable de donner aux individus les moyens d'accomplir de grandes prouesses intellectuelles et pratiques. Cette approche contribue à approfondir la collaboration entre l'IA et les humains et considère la technologie comme un prolongement de l'action humaine.

Dans ce contexte, les interfaces cerveau-ordinateur (ICO) représentent une approche prometteuse. Les ICO permettent une communication neuronale directe entre l'humain et l'intelligence artificielle, réduisant ainsi le temps d'attente entre les échanges entre ces deux entités de quelques secondes à quelques millisecondes.

Ces avancées pourraient garantir que les décisions humaines restent maîtrisées, que la technologie soit utile aux individus et que les systèmes automatisés n'interviennent jamais au-delà de l'autorité humaine. Cette séparation est renforcée par les interfaces cerveau-machine (ICM), qui préserveront l'autonomie à mesure que les systèmes intelligents s'intègrent davantage à la cognition humaine.

Buterin souligne également l'importance cruciale d'un « jugement humain distillé » dans la prise de décision par les systèmes d'IA. Il s'agit d'orienter le comportement de l'IA en mobilisant l'intelligence collective et en fournissant des éléments moraux susceptibles de guider la machine. Il est également essentiel que les développeurs intègrent un jugement humain dans les systèmes d'IA afin que ces technologies reflètent plus fidèlement les normes et les attentes de la société.

Décentralisation de l'IA pour se prémunir contre la concentration du pouvoir

L'argument de Buterin repose également sur la décentralisation du développement et du contrôle de l'IA. Il met en garde contre les situations où les technologies d'IA deviendraient le monopole de quelques puissants acteurs, entraînant une centralisation extrême du pouvoir. De ce fait, le pouvoir d'orienter le développement de l'IA pourrait se concentrer entre les mains de quelques individus seulement, potentiellement au détriment de la société dans son ensemble.

Les blockchains et les preuves à divulgation nulle de connaissance sont des exemples de technologies habilitantes qui contribuent à faire de la décentralisation une réalité, ce qui peut constituer une approche pour un développement de l'IA plus équitable au sein des communautés.

Cela démocratise la recherche en IA, limite la manière dont le pouvoir s'accumule et garantit que l'IA soit un bien collectif et non un bien particulier.

Buterin affirme précisément que l'accélérationnisme décentralisé consiste en un développement rapide des technologies visant à défendre l'autonomie individuelle contre le contrôle centralisé. Il s'agit de renforcer les capacités de défense pour contrer la domination potentielle destronDans systèmes d'IA puissants. optique, le développement de technologies de protection devrait précéder l'avènement d'une société alignée.

Fort de son influence considérable et de son approche pragmatique, Buterindenten lumière la nécessité d'une réorientation stratégique du développement technologique. Il appelle désormais toutes les parties prenantes – chercheurs, décideurs politiques et grand public – à collaborer activement pour façonner l'avenir de l'IA.

En matière de réglementation et de gouvernance du développement technologique, l'élément central de ces priorités est la nécessité de disposer de lignes directrices éthiques et de cadres réglementaires concernant l'IA.