Vitalik Buterin sagt, der Kampf um KI-Jobs hängt davon ab, was Menschen unter Superintelligenz verstehen

Ethereum-Mitbegründer Vitalik Buterin argumentiert, dass ein Großteil der öffentlichen Debatte über fortschrittliche KI daraus resultiert, dass beide Seiten Annahmen vertreten, die sie nie tatsächlich teilen. 

Buterins Vorschlag einer Notabschaltung für alle KI-Anwendungen stieß auf Kritik, während die Tech-Community erneut darüber debattiert, wie schnell die KI voranschreiten wird und was das für die Arbeitswelt bedeutet. 

Was treibt die KI-Debatte an? 

In einem Post auf X, sagte Ethereum-Mitbegründer Vitalik Buterin, dass der Konflikt zwischen Befürwortern des „AI 2040“-Szenarios und seinen Kritikern darauf zurückzuführen ist, wie schnell und wie bedeutsam der Fortschritt der KI sein wird. 

Die Rahmung „AI 2040“ geht davon aus, dass irgendwann bis 2040 eine Superintelligenz auftreten wird, es sei denn, starke Maßnahmen verhindern dies. Die Kritiker glauben hingegen, dass die Befürworter von AI 2040 die Kapazitäten menschlicher Koordination unterschätzen und die Freiheit bedrohen, sehen aber die Superintelligenz selbst nicht als Risiko für die Konzentration von Macht.

Buterin gab zu, dass er nicht weiß, welches Szenario der Realität näher kommt. „Wenn ich sicher wäre, dass KI im heutigen Stil normale Technologie ist, würde ich zur Gruppe der Kritiker gehören. Wenn ich sicher wäre, dass Superintelligenz standardmäßig bis 2030 kommt, würde ich näher an der AI-2040-Gruppe stehen“, schrieb er. 

Aber der Mitbegründer bleibt offen dafür, die KI-Entwicklung zu verlangsamen oder zu pausieren, wenn die Risiken erheblich werden.

Die Debatte zog KI-Forscher Yann LeCun, Autor Daniel Jeffries und Politikanalyst Adam Thierer an. 

Yann LeCun, Chefwissenschaftler für KI bei Meta (NASDAQ: META), argumentiert, dass KI-Sicherheit grundsätzlich ein Ingenieurproblem ist, das durch sorgfältiges iteratives Design gelöst werden kann, ähnlich wie bei der Zuverlässigkeit von Strahltriebwerken. 

LeCun wies darauf hin, dass „es 50 Jahre gedauert hat“, um Flugzeuge wirklich sicher zu machen, und dass die Angst vor KI vorzeitig ist, solange wir noch kein System geschaffen haben, das in der Lage ist, menschliche Intelligenz zu erreichen. Er argumentiert konsequent, dass Large Language Models begrenzte „Autocomplete-Maschinen“ sind, die über kein reasoning und kein kausales Verständnis verfügen. 

Harry Hawk, der unter dem Namen @hhawk postete, sagte, er stimme Yann LeCun zu und glaube, dass zukünftige KI-Systeme so sicher konstruiert werden würden wie Flugzeuge. Er sagte auch, er glaube nicht, dass KI und Roboter alles tun werden, sodass keine Arbeit oder Jobs mehr übrig blieben.

Buterin antwortete, dass diese Perspektive die Existenz einer „KI, die so mächtig ist, dass sie allein jede Aufgabe ausführen kann“, leugne, was er als ASI bezeichnet.

Wie können mächtige KI-Systeme kontrolliert werden?

Buterin schlug einen „Plan A“ vor, der eine weitreichende Regel vorschlägt, die alle dazu verpflichtet, offen darüber zu sein, was sie bauen, sowie einen Not-Aus-Schalter, der das Training großer KI-Modelle verlangsamen oder stoppen kann, wenn es gefährlich wird.

Er fügte hinzu, dass „naive, gut gemeinte Intellektuelle“, die glauben, sie könnten auswählen können, welche KI-Nutzungen in Ordnung sind und welche nicht, gegen diesen Plan vorgehen werden. 

Romeo Dean, der einen Teil von Buterins Thread ausgelöst hat, nannte den Ansatz „ziemlich vernünftig“, sagte aber, dass seine Auslöser in seiner Weltanschauung zu spät kämen. Er fügte hinzu, dass er die „massiven Nachteile“ nicht verstehe, die Kritiker mit Plan A verbinden.

Buterin gab zu, dass es keine perfekte Lösung gibt. „Ich sehe null Pläne dafür, wie man mit einem ASI-Übergang umgehen soll, die nicht naiv sind“, schrieb er. „Vielleicht ist die Menschheit gezwungen, eine Wahl zwischen naiv und naiv quadriert zu treffen.“

Der Bericht „AI 2040: Plan A“ stammt vom AI Futures Project des ehemaligen OpenAI-Mitarbeiters Daniel Kokotajlo. 

Der Bericht besagt, dass die USA und China zusammenarbeiten sollten, um die Superintelligenz bis 2040 hinauszuzögern. Beide Länder müssten alle ihre Forschung offen teilen. Es enthält auch ein System, das auf der Logik des Atomkriegs basiert, bei dem beide Seiten bei Bedarf die Rechenleistung des anderen zerstören können. Sie nennen dies „gegenseitig gesicherte Rechenzerstörung“.

Richard Ngo, ein KI-Forscher, sagte, der Bericht mache sich zu große Sorgen über ein baldiges Eintreffen der KI. Er sagte auch, er denke nicht genug darüber nach, wie viel politische Unruhe die KI innerhalb jedes Landes verursachen könnte.

Sind Open-Source-Modelle die Lösung?

Der Debatte liegt der Status von Open-Source-Modellen zugrunde. LeCun schrieb am 9. Juli, dass das größte Risiko der KI die „Machtkonzentration“ in wenigen dominierenden Unternehmen ist. Er schrieb auch, dass „die einzige Lösung für KI-Souveränität Open-Source-Grundmodelle sind“. Sein Beitrag erhielt mehr als 2.900 Likes und über 430 Retweets.

Autor Daniel Jeffries, der am selben Tag schrieb, sagte, dass Open-Source-Modelle die amerikanische Technologie untermauern, und warnte vor „kurzsichtigen Sicherheitsbefürwortern und Hawks“, die versuchen, sie einzuschränken. 

Politikanalyst Adam Thierer, Senior Fellow am R Street Institute und Autor einer prominenten Einreichung für den US-Kongress-AI-Arbeitsausschuss, hat gewarnt, dass die US-KI-Regulierung an einem „kritischen Scheideweg“ steht. 

Er wies darauf hin, dass der Kongress derzeit ein chaotisches, zufälliges und geheimes Verfahren zur Überprüfung von KI einsetzt. Er warnte, dass dieses informelle System, wenn es wächst und der Fortschritt durch spezielle Genehmigungen blockiert wird, die Open-Source-KI zerstören wird. 

Anstelle strenger Vorschriften schlägt Thierer einen Ansatz der „erlaubnisfreien Innovation“ vor, bei dem Menschen frei KI entwickeln und veröffentlichen dürfen. Er schlägt vor, bestehende Gesetze zur Bestrafung von Schaden zu nutzen, wenn dies notwendig ist, und unterstützt auch Dinge wie Testzonen für neue KI, die Anforderung, dass einige Modelle offen bleiben, und mehr Investitionen in KI-Forschung.