Vitalik Buterin plädiert für menschlich geführte KI-Systeme, um Werte zu bewahren und Machtkonzentration zu verhindern

Der Mitbegründer von Ether, Vitalik Buterin, hat einen als mutig bezeichneten Plan für eine menschlich kontrollierte künstliche Intelligenz (KI) vorgestellt und betonte, dass ein solches Ereignis notwendig sei, um eine dystopische Zukunft zu vermeiden, in der Macht zentralisiert ist und das Überleben der Menschheit entweder auf dem Spiel steht oder unrettbar ist.

Der Mitbegründer sieht die Fähigkeiten der KI anders. Er glaubt, dass KI mächtiger sein kann als Menschen und daher die Evolution vorantreiben und die besten Innovationspraktiken in mehreren Branchen hervorbringen wird.

Aber Buterin befürchtet immer noch, dass KI, wenn sie zu autonom wird, ernsthafte Konflikte mit menschlichen Interessen erzeugen könnte. Als ungewollt freigesetzte Kraft könnte künstliche Intelligenz schnelle Sprünge machen, die das menschliche Leben beenden könnten.

Künstliche Intelligenz entwickelt sich jetzt so schnell und verfolgt ihre eigenen Ziele. Dabei kann sie eine Gesellschaft schaffen, die einige erschreckt, aber für andere gut funktioniert. In der Geschichte der Evolution ist dieses Muster vertraut und oft tragisch.

So fern es in aktuellen legislativen Debatten erscheinen mag, wird diese Zukunft durch Umfragen plausibel, die eine nicht zu vernachlässigende Chance auf existenzielle Risiken durch KI bieten. Diese Erkenntnisse unterstreichen, dass es entscheidend ist, Strukturen zu etablieren, die die Entwicklung der KI sinnvoll lenken können.

KI befähigt die Menschheit, große intellektuelle Leistungen zu erbringen

Buterin sieht KI als ein Werkzeug, das einzelne Menschen befähigen und große intellektuelle und praktische Leistungen erbringen kann. Ein solcher Ansatz vertieft die Zusammenarbeit zwischen KI und Menschen und betrachtet Technologie als eine Erweiterung der menschlichen Handlungsfähigkeit.

In diesem Fall sind Brain-Computer-Schnittstellen (BCIs) zu einem Ansatz mit potenziellen Vorteilen geworden. BCIs bieten einen Stapel direkter neuronaler Kommunikation zwischen Menschen und künstlicher Intelligenz, wodurch die Antizipationszeit zwischen menschlichen und KI-Austauschen von Sekunden auf Millisekunden reduziert wird.

Diese Fortschritte könnten sicherstellen, dass menschliche Entscheidungen unter Kontrolle bleiben, Technologie die Menschen auf sinnvolle Weise bedient und automatisierte Systeme niemals außerhalb der menschlichen Autorität operieren. Diese Trennung wird durch BCIs verstärkt, die die Autonomie schützen, während intelligente Systeme stärker in die menschliche Kognition integriert werden.

Buterin hebt ebenfalls die Präsenz einiger entscheidender „verdichteter menschlicher Urteile“ im Hinblick auf KI-Systeme in der Entscheidungsfindung hervor. Dies ist die Idee, das Verhalten der KI zu steuern, indem die Weisheit der Menschenmassen aktiviert und mögliche moralische Eingaben bereitgestellt werden, die das Maschinenverhalten lenken könnten. Es ist auch entscheidend, dass Entwickler menschliche Urteile in KI-Systeme einfügen, damit Technologien gesellschaftliche Normen und Erwartungen besser widerspiegeln.

Dezentralisierung der KI zum Schutz vor Machtkonzentration

Buterins Argument stützt sich auch auf die Dezentralisierung der KI-Entwicklung und -Kontrolle. Er warnt vor Situationen, in denen KI-Technologien zum Monopol weniger großer Akteure werden, die die extreme Zentralisierung der Macht kontrollieren. Infolgedessen könnte die Macht, die Entwicklung der KI zu gestalten, effektiv in den Händen nur weniger Individuen liegen, möglicherweise zum Nachteil der Gesellschaft im Allgemeinen.

Blockchains und Zero-Knowledge-Proofs sind Beispiele für ermöglichende Technologien, die dazu beitragen, Dezentralisierung in die Realität umzusetzen, was ein Ansatz für eine gerechtere KI-Entwicklung unter Gemeinschaften sein könnte.

Dies demokratisiert die KI-Forschung, begrenzt, wie Macht angesammelt wird, und stellt sicher, dass KI ein kollektives Gut ist, kein spezifisches.

Buterin erklärt spezifisch, dass dezentraler Accelerationismus die rasche Entwicklung von Technologien zur Verteidigung der individuellen Autonomie gegen zentrale Kontrolle ist. Es konzentriert sich darauf, die defensiven Fähigkeiten auszubauen, um mit der potenziellen Dominanz starker KI-Systeme zu stärken. Dabei sollte die Entwicklung schützender Technologien einer ausgerichteten Gesellschaft vorausgehen.

Mit seiner weitreichenden Reichweite und seiner universellen Tendenz zur lösungsorientierten Denkweise identifiziert Buterin die Notwendigkeit einer potenziellen Kurskorrektur auf dem Weg der Technologie. Jetzt ruft er alle Interessengruppen auf – von Forschern und politischen Entscheidungsträgern bis hin zur allgemeinen Öffentlichkeit – proaktiv zusammenzuarbeiten, um den Weg der KI zu gestalten.

In Bezug auf die Regulierung und Governance der Technologieentwicklung ist der Kern dieser Prioritäten die Notwendigkeit ethischer Richtlinien und regulatorischer Rahmenbedingungen rund um die KI.