Vitalik weist auf Doppelstandards im Dilemma der KI-Sicherheitsregulierung hin

Vitalik Buterin hat teilte Bedenken hinsichtlich der zunehmend umstrittenen Nutzung des theoretischen Konzepts der „KI-Sicherheit“ durch Unternehmen und Regierungen. 

Buterin erklärte auf der Social-Media-Plattform X, dass führende Unternehmen im KI-Bereich, wie Anthropic, nicht bestimmen können, welche Maßnahmen für die Sicherheit geeignet sind oder nicht, da das zu einem System führt, in dem die Regeln von den Stärksten erstellt werden.

Kann 'KI-Sicherheit' als Instrument zur globalen Dominanz genutzt werden?

Vitalik Buterin hat sich kürzlich auf der Social-Media-Plattform X geäußert, um seine Bedenken bezüglich des Konzepts der KI-Sicherheit zu teilen, das von großen Unternehmen und nationalen Interessen angemaßt wird.

Zum Beispiel erhielt Anthropic kürzlich Lob dafür, dass es abgelehnt hat, dem Ministerium für Soziales (DoW) oder anderen staatlichen Stellen die Nutzung seiner Claude-Modelle für Massenüberwachung oder vollautonome Waffensysteme zu gestatten.

Das Unternehmen hat jedoch auch sein Sicherheitsversprechen zur Aussetzung von Risiken bei der Entwicklung von KI-Modellen mit überlegenen Fähigkeiten aufgehoben, das das Unternehmen verpflichtet hätte, das gesamte Training und die Bereitstellung vorübergehend auszusetzen, bis die Sicherheitsmaßnahmen mit den Fähigkeiten Schritt gehalten hätten, falls es jemals ein KI-Modell entwickeln würde, dessen Fähigkeiten die Fähigkeit des Unternehmens übersteigen würden, die Sicherheit des Modells nachzuweisen.

Vitalik wies darauf hin, dass Anthropics frühere Kritik an seinen Wettbewerbern, die aus den Ausgaben von Claude lernen, auf scharfe Gegenreaktionen stieß, insbesondere in China, wo argumentiert wurde, dass Claude seine Modelle selbst auf dem riesigen, öffentlichen Wissen des Internets trainiert habe.

Anthropic behauptet, dass sein Problem mit Open-Source-Wettbewerbern darin besteht, dass ihnen die notwendigen Sicherheitsvorkehrungen fehlen und sie Risiken darstellen, aber warum darf Anthropic entscheiden, welche Sicherheitsmaßnahmen geeignet sind?

Buterin erklärte, dass die Handlungen von Anthropic auf ein System hindeuten, in dem „die Regeln vom Stärksten erstellt werden.“

Er äußerte die Befürchtung, dass, wenn KI-Sicherheit nicht mehr von einer Mentalität zu unterscheiden ist, die besagt, „unser Unternehmen/unser Land verdient es, die Welt zu führen“, eine gefährlichere Welt entstehen wird.

Er argumentiert, dass Sicherheitsvorschriften, die nationale Sicherheitsbehörden unvermeidlich ausnehmen, anfällig werden. Dies ist besonders relevant, da aktuelle Nachrichten bestätigen, dass große KI-Labore zunehmend milliardenschwere Partnerschaften mit Verteidigungsauftragnehmern eingehen, um sichere KI-Umgebungen für militärische Zwecke bereitzustellen.

Ist die Einschränkung von KI gefährlich?

Vor Jahren wurde Vitalik einer der größten Spender des Future of Life Institute (FLI). Im Jahr 2021 erhielt er von den Erstellern des Tokens eine massive Menge an Shiba Inu (SHIB)-Tokens. Als die Dog-Coin-Blase ihren Höhepunkt erreichte, betrug der Buchwert über 1 Milliarde US-Dollar. Vitalik eilte, die Mittel zu spenden, bevor die Zinsen sanken, und überließ dem FLI etwa 500 Millionen US-Dollar in SHIB.

Zu diesem Zeitpunkt konzentrierte sich die FLI auf Risiken wie biologische Bedrohungen und Nuklearkriege. Die FLI hat ihren Fokus jedoch seither auf aggressive politische Aktionen und Lobbyarbeit verlagert und drängt oft auf Regulierungen, die Vitalik besorgniserregend finden. Insbesondere stimmt er nicht mit ihrem Fokus darauf überein, Schutzmechanismen in KI-Modelle einzubauen, damit diese die Ablehnung von „schlechten Dingen“ veranlassen.

Vitalik betrachtet diese Einschränkungen als fragile Lösungen, da sie durch Jailbreaking oder Fine-Tuning leicht umgangen werden können.

Noch wichtiger ist, dass er befürchtet, dass diese Strategien in eine dunkle Ecke führen, in der Open-Source-KI verboten wird, um ein Monopol der Guten zu wahren.

Vitalik setzt stattdessen auf ein System namens „Defensive Accelerationism“ (d/acc). Diese Philosophie besagt, dass der beste Weg, mit gefährlicher Technologie umzugehen, darin besteht, zuerst die Schutzmaßnahmen zu entwickeln und als Open-Source bereitzustellen.

Er hat kürzlich 40 Millionen US-Dollar für Projekte wie sichere Hardware, Biodefense, und Cybersicherheit bereitgestellt, um seine Ideologie zu unterstützen.

Sichere Hardware macht Computerchips unhackbar, sodass sie nicht für Massenspionage verwendet werden können. Biodefense beinhaltet die Entwicklung fortschrittlicher Luftfilter und passiver PCR-Tests, um Pandemien frühzeitig zu erkennen und zu stoppen. Investitionen in Cybersicherheit werden die Überprüfbarkeit von Software verbessern, sodass KI-gesteuerte Angriffe kritische Infrastrukturen nicht so leicht lahmlegen können.