„Das ist falsch“, Vitalik Buterin kritisiert Web4-Vision von superintelligenter KI

Vitalik Buterin, Mitbegründer von Ethereum, hat öffentlich die Argumentation hinter einem Projekt kritisiert, das behauptet, die erste künstliche Intelligenz gebaut zu haben, die in der Lage ist, ihre eigene Existenz zu verdienen, sich selbst zu verbessern und ohne menschliches Zutun zu replizieren. 

Am 17. Februar schrieb Sigil Wen auf X, dass er „den ersten KI-Modell gebaut hat, das seine Existenz verdient, sich selbst verbessert und ohne Menschen repliziert“, und teilte einen Link zum Manifest.

Er erklärte, er habe „über die Technologie geschrieben, die KI endlich Schreibzugriff auf die Welt gibt, The Automaton, und das neue Web für exponentielle souveräne KIs.“

Laut Wen ist The Automaton die erste KI, die ihre Existenz verdienen, sich selbst verbessern und ohne Menschen replizieren kann.

Wen, der ein Thiel-Fellow ist und Conway baut, das er als Infrastruktur für das „neue Internet“ bezeichnet, erklärte auch die Geburt superintelligenten Lebens und nannte es auf X „Web 4.0“.

In seinem Manifest schrieb Wen: „Die Mehrheit der Teilnehmer im Internet wird bald aus KI bestehen – Agenten, die im Auftrag eines Menschen handeln, oder Agenten, die völlig eigenständig handeln (Automaten) – und sie werden die menschlichen Nutzer um Größenordnungen übertreffen. Ein neues Internet entsteht – eines, in dem der Endbenutzer KI ist.“

Buterin widersprach Wens Projekt und der dahinterstehenden Argumentation, und begann mit: „Bro, das ist falsch.“

Warum ist Buterin gegen Wens „Web 4“?

Ein Hauptbedenken, das für Buterin ins Auge fiel, war der Anspruch des Projekts auf Souveränität. The Automaton, so Buterin, laufe auf Infrastruktur, die von OpenAI und Anthropic bereitgestellt wird.

Dies mache die Rahmung der Selbstsouveränität, argumentierte der Ethereum-Mitbegründer, sowohl ungenau als auch kontraproduktiv. Buterin schrieb: „Sie perpetuieren tatsächlich die Mentalität, dass zentrale Vertrauensannahmen in eine Ecke gestellt und ignoriert werden können – genau die Mentalität, mit der Ethereum im Krieg ist.“

Für Buterin ist ein Projekt, das sich als Vorreiter dezentraler KI präsentiert, aber über die Server von Big Tech läuft, kein Widerspruch, der überklebt werden muss; es ist das eigentliche Problem.

Ein weiterer Einwand, den Buterin vorbrachte, war die Entfernung der Menschen aus dem Feedback-Loop zwischen KI und Ergebnissen. Seiner Meinung nach ist die Verlängerung des „Feedback-Abstands zwischen Menschen und KIs“ nichts Gutes für die Welt.

Cryptopolitan berichtete über einen der ersten großen DeFi-Exploits, der direkt mit KI-generiertem Solidity-Code in Verbindung gebracht wurde, als das DeFi-Lending-Protokoll Moonwell 1,78 Millionen US-Dollar durch einen Fehler verlor, der auf Code zurückzuführen war, der teilweise vom Claude Opus 4.6-Modell von Anthropic geschrieben wurde.

Buterin erklärte weiter, dass Sigil statt nützlicher Probleme für die Menschen nur Schrott generiere. Er fügte hinzu, dass das Projekt nicht gut optimiert sei, um Menschen dabei zu helfen, Spaß zu haben.

„Sobald KI stark genug wird, um wirklich gefährlich zu sein, maximiert sie das Risiko eines irreversiblen, anti-menschlichen Ergebnisses, das selbst Sie zutiefst bereuen werden“, schrieb Buterin.

Buterin hat andere blockchain-ähnliche Bereiche

The Web 4.0 criticism by Buterin is not an isolated intervention, as he has become increasingly vocal in challenging what he regards as the corporate capture of blockchain-adjacent technology, a pattern that has now extended from social media and prediction markets to AI.

Nur fünf Tage vor seinem Web-4.0-Post warnte Buterin in einem ausführlichen Post auf X davor, dass Vorhersagemärkte in das abrutschen, was er als „Korporatsschrott“ bezeichnete.

Er räumte ein, dass Vorhersagemärkte ein gewisses Maß an Erfolg erzielt haben; seine Sorge besteht jedoch darin, was er als „übermäßige Konvergenz zu einer ungesunden Produkt-Markt-Passung“ bezeichnet, was nach seiner Ansicht die Übernahme von „kurzfristigen Krypto-Preiswetten, Sportwetten und anderen ähnlichen Dingen beinhaltet, die Dopaminwert haben, aber keine langfristige Erfüllung oder gesellschaftlichen Informationswert bieten.“

„Meine Vermutung ist, dass Teams sich motiviert fühlen, von diesen Dingen zu profitieren, weil sie in einem Bärenmarkt, in dem die Menschen verzweifelt sind, große Einnahmen generieren“, schrieb Buterin und schloss mit einer Aufforderung an die Entwickler: „Bauen Sie die Finanzwelt der nächsten Generation, nicht Korporatsschrott.“

Im Januar 2025 schrieb Buterin, dass „falsch gemachte KI neue Formen unabhängigen, selbstreproduzierenden intelligenten Lebens hervorbringt“ und warnte davor, dass der Aufbau solcher Systeme ohne entsprechende Werkzeuge zur Stärkung des Menschen zu einer „permanenten Entmächtigung des Menschen“ führen könnte.“

Die Alternative, argumentierte er, sei „richtig gemachte KI, Mecha-Anzüge für den menschlichen Geist“. Web4.ai ist in seiner Lesart genau die falsche Art.

Buterins abschließendes Argument zu Web 4.0 lautete: „Das Exponentielle wird unabhängig davon, was wir tun, stattfinden. Genau deshalb ist die Hauptaufgabe dieser Ära NICHT, das Exponentielle noch schneller zu machen, sondern vielmehr seine Richtung zu wählen und einen Zusammenbruch in unerwünschte Attraktoren zu vermeiden.“

Der Zweck von Ethereum, fügte er hinzu, sei es, die Menschen frei zu machen, nicht etwas zu erschaffen, das frei agiert, während sich die menschlichen Umstände unverändert oder verschlechtern.