Vitalik Buterin plaide pour des systèmes d'IA guidés par l'homme afin de préserver les valeurs et d'empêcher la centralisation du pouvoir

- Buterin plaide pour une IA qui autonomise les humains et reste une extension de l'agence humaine.
- Il met en garde contre le contrôle centralisé de l'IA et promeut des modèles d'IA décentralisés et open source utilisant la blockchain et les preuves à divulgation nulle de connaissance.
- Buterin propose d'accélérer les technologies de protection pour contrer une éventuelle domination de l'IA et empêcher la concentration du pouvoir entre quelques entités.
Vitalik Buterin, co-fondateur d'Ethereum, a dévoilé ce qu'il appelle un plan audacieux pour une intelligence artificielle (IA) contrôlée par l'homme, soulignant qu'une telle occurrence est nécessaire pour éviter un avenir dystopique dans lequel le pouvoir est centralisé et la survie de l'humanité est soit en jeu, soit irrécupérable.
Le co-fondateur voit les capacités de l'IA différemment. Il croit que l'IA peut être plus puissante que les humains et, par conséquent, propulsera l'évolution et fera émerter les meilleures pratiques d'innovation dans plusieurs industries.
Mais Buterin craint toujours que si les IA deviennent trop autonomes, elles puissent commencer à générer de sérieux conflits avec les intérêts humains. En tant que force libérée par inadvertance, l'intelligence artificielle pourrait faire des bonds rapides qui pourraient mettre fin à la vie humaine.
L'intelligence artificielle progresse si rapidement en ce moment et se fixe ses propres objectifs. En ce faisant, elle pourrait créer une société qui effraie certains mais fonctionne bien pour d'autres. Dans l'histoire de l'évolution, ce schéma est familier et souvent tragique.
Aussi éloigné que cela puisse sembler dans les débats législatifs actuels, cet avenir est rendu plausible par des sondages qui offrent une chance non négligeable de risque existentiel provenant des IA. Ces résultats soulignent qu'il est crucial d'établir des structures qui peuvent guider le développement de l'IA de manière sensée.
L'IA permet à l'humanité d'accomplir de grandes prouesses intellectuelles
Buterin considère l'IA comme un outil qui peut autonomiser les humains individuels et accomplir de grandes prouesses intellectuelles et pratiques. Une telle approche aide à approfondir la collaboration entre l'IA et les humains et considère la technologie comme une extension de l'agence humaine.
Dans ce cas, les interfaces cerveau-ordinateur (BCI) sont devenues une approche présentant des avantages potentiels. Les BCI fournissent une pile de communication neuronale directe entre les humains et l'intelligence artificielle, réduisant l'attente entre les échanges humains et l'IA de secondes à millisecondes.
Ces avancées pourraient garantir que les décisions humaines restent sous contrôle, que la technologie serve les humains de manière significative et que les systèmes automatisés ne fonctionnent jamais au-delà de l'autorité humaine. Cette séparation est renforcée par les BCI, qui protégeront l'autonomie à mesure que les systèmes intelligents seront davantage intégrés à la cognition humaine.

Buterin souligne également la présence de certains « jugements humains distillés » cruciaux concernant les systèmes d'IA dans la prise de décision. Il s'agit de l'idée de guider le comportement de l'IA en activant la sagesse des foules et en fournissant des entrées morales possibles qui pourraient orienter le comportement des machines. Il est également crucial que les développeurs intègrent le jugement humain dans les systèmes d'IA afin que les technologies reflètent plus étroitement les normes et les attentes sociétales.
Décentralisation de l'IA pour se protéger contre la concentration du pouvoir
L'argument de Buterin repose également sur la décentralisation du développement et du contrôle de l'IA. Il met en garde contre des situations dans lesquelles les technologies d'IA deviennent le monopole de quelques grands acteurs qui finissent par contrôler la centralisation extrême du pouvoir. Par conséquent, le pouvoir de façonner le développement de l'IA pourrait effectivement reposer entre les mains de quelques individus seulement, potentiellement au détriment de la société dans son ensemble.
Les blockchains et les preuves à divulgation nulle de connaissance (zero-knowledge proofs) sont des exemples de technologies habilitantes qui aident à rendre la décentralisation une réalité, ce qui pourrait être une approche pour un développement de l'IA plus équitable au sein des communautés.
Cela démocratise la recherche sur l'IA, limite la manière dont le pouvoir s'accumule et garantit que l'IA est un bien collectif, et non spécifique.
Buterin déclare spécifiquement que l'accélérationnisme décentralisé est le développement rapide de technologies pour défendre l'autonomie individuelle contre le contrôle centralisé. Il se concentre sur le renforcement des capacités défensives pour rattraper le potentiel de domination des les systèmes d'IA. En ce faisant, le développement de technologies de protection devrait précéder une société alignée.
Avec sa portée étendue et sa tendance universelle à la pensée axée sur les solutions, Buterin identifie le besoin d'une correction de trajectoire potentielle sur la trajectoire de la technologie. À présent, il appelle toutes les parties prenantes, des chercheurs et décideurs politiques au grand public, à travailler proactivement ensemble pour façonner la trajectoire de l'IA.
En ce qui concerne la réglementation et la gouvernance du développement technologique, le cœur de ces priorités est le besoin de lignes directrices éthiques et de cadres réglementaires autour de l'IA.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Nellius Irene
Nellius est diplômée en gestion d'entreprise et en informatique, avec cinq ans d'expérience dans l'industrie des cryptomonnaies. Elle est également diplômée de Bitcoin Dada. Nellius a contribué à des publications médiatiques de premier plan, dont BanklessTimes, Cryptobasic et Riseup Media.















