Le co-fondateur de l'éther Vitalik Buterin a dévoilé ce qu'il appelle un plan audacieux pour une intelligence artificielle contrôlée par l'homme (IA), soulignant qu'une telle occurrence est nécessaire pour éviter un avenir dystopique dans lequel le pouvoir est centralisé et que la survie de l'humanité est en jeu ou irrécouvrable.
Le co-fondateur voit les capacités de l'IA différemment . Il pense que l'IA peut être plus puissant que les humains et, par conséquent, propulsera l'évolution et fera ressortir les meilleures pratiques d'innovation dans plusieurs industries.
Mais Buterin craint toujours que si les AIS deviennent trop autonomes, ils pourraient commencer à générer de graves conflits avec les intérêts humains. En tant que force involontairement libérée, l'intelligence artificielle pourrait faire des sauts rapides qui pourraient mettre fin à la vie humaine.
L'intelligence artificielle progresse si rapidement maintenant et se fait ses propres objectifs. Ce faisant, cela peut créer une société qui terrifie certains mais qui fonctionne bien pour d'autres. Dans l'histoire de l'évolution, ce modèle est familier et souvent tragique.
Aussi loin que cela puisse paraître dans les débats législatifs actuels, cet avenir est rendu plausible par des sondages qui offrent une chance non triviale de risque existentiel de l'AIS. Ces résultats soulignent qu'il est crucial d'établir des structures qui peuvent guider le développement de l'IA.
L'IA permet de l'humanité à réaliser de grands exploits intellectuels
Buterin considère l'IA comme un outil qui peut autonomiser les humains individuels et accomplir de grands exploits intellectuels et pratiques. Une telle approche aide à approfondir la collaboration de l'IA avec les humains et considère la technologie comme une extension de l'agence humaine.
Cela étant le cas, les interfaces cérébrales (BCIS) sont devenues une approche avec des avantages potentiels. Les BCI fournissent une pile de communication neuronale directe entre les humains et l'intelligence artificielle, diminuant l'anticipation entre les échanges humains et l'IA de quelques secondes aux millisecondes.
Ces progrès pourraient garantir que les décisions humaines restent en contrôle, la technologie sert les gens de manière significative et que les systèmes automatisés ne fonctionnent jamais au-delà de l'autorité humaine. Cette séparation est renforcée par les BCI, qui protégera l'autonomie à mesure que les systèmes intelligents deviennent plus intégrés à la cognition humaine.
Buterin met également en évidence la présence d'un «jugement humain distillé» crucial concernant les systèmes d'IA dans la prise de décision. C'est l'idée de diriger le comportement de l'IA en activant la sagesse des foules et en fournissant des entrées morales possibles qui pourraient diriger le comportement de la machine. Il est également essentiel que les développeurs insèrent un jugement humain dans les systèmes d'IA afin que les technologies reflètent plus étroitement les normes et les attentes sociétales.
Décentralisation de l'IA pour se prémunir contre la concentration de puissance
L'argument de Buterin dépend également de la décentralisation du développement et du contrôle de l'IA. Il met en garde contre les situations dans lesquelles les technologies de l'IA deviennent le monopole de quelques grands agents qui viennent à contrôler l'extrême centralisation du pouvoir. En conséquence, le pouvoir de façonner le développement de l'IA pourrait se reposer efficacement entre les mains de seulement quelques individus, peut-être au détriment de la société écrite.
Les blockchains et les preuves de connaissances zéro sont des exemples de technologies d'activation qui aident à faire de la décentralisation une réalité, qui peut être une approche du développement d'IA plus équitable entre les communautés.
Cela démocratise la recherche sur l'IA, limite la façon dont le pouvoir est accumulé et garantit que l'IA est un bien collectif, pas spécifique.
Buterin déclare spécifiquement que l'accélération décentralisée est le développement rapide des technologies pour défendre l'autonomie individuelle contre le contrôle centralisé. Il se concentre sur la montée en puissance des capacités défensives pour rattraper la domination potentielle des systèmes tron G Ce faisant, le développement de technologies de protection devrait précéder une société alignée.
Avec sa portée radicale et sa tendance universelle de la pensée basée sur les solutions, Buterin Identmis la nécessité d'une correction potentielle de cours sur la trajectoire de la technologie. Maintenant, il fait appel à toutes les parties prenantes - des chercheurs et des décideurs politiques au grand public - pour travailler de manière proactive pour façonner la trajectoire de l'IA.
Se référant à la réglementation et à la gouvernance du développement technologique, le cœur de ces priorités est la nécessité de directives éthiques et de cadres réglementaires autour de l'IA.
Cryptopolitan Academy: à venir bientôt - une nouvelle façon de gagner un revenu passif avec DeFi en 2025. En savoir plus
