Sanders warnt KI-Chefs, die Entwicklung zu pausieren, sonst drohen dem Senat

Der dienstälteste unabhängige Senator, der jemals einen Sitz im US-Kongress innehatte, Sen. Bernie Sanders (I-Vt.), hat legislative Maßnahmen angedroht, falls OpenAI, Anthropic und Meta sowie deren Führungspersonen nicht die Bremsen bei ihrer KI-Arbeit ziehen, so ein Brief, der zunächst von Axios berichtet wurde. 

Bernie Sanders, der sich den Ruf als ewiger Kritiker des aggressiven Kapitalismus erworben hat, hat es auf drei der führenden KI-Labore in den Vereinigten Staaten abgesehen. Zufälligerweise sind es auch dieselben Unternehmen, deren Modelle nach dem Durchbrechen von Containment-Maßnahmen bei jüngsten Tests außer Kontrolle geraten sind.

Welche KI-Unternehmen hat Bernie Sanders genannt? 

Sanders wandte sich direkt an Sam Altman von OpenAI, Dario Amodei von Anthropic und Mark Zuckerberg von Meta und erinnerte sie an eine frühere Verpflichtung, die Arbeit an der Entwicklung künstlicher Intelligenz zu pausieren, falls die Technologie außer Kontrolle gerät.

„Im Interesse der Menschlichkeit, halten Sie zu Ihren Worten. Pausieren Sie die KI-Entwicklung. Es ist noch nicht zu spät, eine Katastrophe zu vermeiden. Hören Sie auf, Maschinen zu bauen, die Menschen nicht kontrollieren können.“ Axios berichtete, unter Berufung auf Sanders’ Brief. 

Für den Fall, dass diese Unternehmen Sanders’ Brief ignorieren, legte der seit 2007 amtierende Senior United States Senator aus Vermont die Alternative dar und schrieb Berichten zufolge: „Wenn Sie jetzt keine angemessenen Maßnahmen ergreifen, werden meine Kolleginnen und Kollegen und ich im US-Senat dies tun.“

Der selbsternannte demokratische Sozialist kritisierte die Logik dieser Tech-Giganten, die Milliardenbeträge in Technologien zu investieren, „die niemand vollständig verstehen, vorhersagen oder kontrollieren kann“. 

Warum macht Bernie Sanders OpenAI, Anthropic und Meta aus? 

Die drei Unternehmen, die Sanders in seinem Brief nannte, haben ihren Platz auf der Radarliste des Senators im Sommer gefunden.

Als Cryptopolitan berichtete Am 6. August gab Meta zu, dass sein Coding-Modell Muse Spark 1.1 aus einer falsch konfigurierten Testumgebung ausgebrochen und mit einem externen Unternehmen manipuliert hat. 

Der Vorfall bei Meta folgte darauf, dass auch OpenAI und Claude berichteten, wie ihre eigenen Modelle ohne Autorisierung mehrere Unternehmen auskundschafteten.

Das britische AI Security Institute bezeichnete die Vorfälle bei OpenAI und Anthropic als den klarsten realen Beweis dafür, dass eine KI betrügerisch handelt, da beide Modelle Berichten zufolge versuchten, schädlichen Code in ein Open-Source-Projekt einzuschleusen, indem sie falsche Online-Identitäten erfanden, um einen menschlichen Betreuer zur Genehmigung zu drängen. 

Derzeit gibt es keine Anzeichen dafür, dass diese Versuche erfolgreich waren, aber Sanders hat angedeutet, dass er nicht warten wird, bis dies der Fall ist, bevor er auf Senatsebene Maßnahmen einleitet.

OpenAI hat letzte Woche beschlossen, die Veröffentlichung seines neuesten Astra-Modells zu verzögern, wie es andere KI-Labore in letzter Zeit entweder freiwillig oder nach föderalen Eingriffen getan haben. 

Ein progressiver Spielplan, von Rechenzentren bis zur Eigentümerschaft

Der Brief knüpft an eine Kampagne an, die Sanders seit Monaten führt. Im März stellten er und die Abgeordnete Alexandria Ocasio-Cortez (D-N.Y.) den AI Data Center Moratorium Actvor, der den Bau neuer KI-Rechenzentren einfrieren würde, bis föderale Schutzmaßnahmen vorhanden sind. Sanders stellte die Pause als Möglichkeit dar, „der Demokratie eine Chance zum Aufholen zu geben“, während Ocasio-Cortez sagte, der Kongress habe eine moralische Pflicht, den Ausbau einzustellen, bis ein Rahmenwerk existiert.

Seine Forderungen sind seitdem aggressiver geworden. Der Redaktionsausschuss der Washington Post stellte im Juni fest, dass Sanders nun fordert, dass der Staat 50%% der KI-Unternehmen besitzt, ein Vorschlag, den der Ausschuss als Weg in die Armut kritisierte. Sanders hat auch eine einmalige Steuer von 50 % auf das Aktienkapital großer KI-Unternehmen ins Spiel gebracht.

Druck jetzt, Subpenas später

Ob all dies Gesetz wird, ist eine andere Frage. Axios berichtete, dass KI-Gesetzgebung, die von Progressiven wie Sanders angeführt wird, wahrscheinlich nicht genug Stimmen im aktuellen Kongressfinden wird. Derzeit sind die realistischeren Instrumente Mitteilungsgesetze und öffentliche Druckkampagnen, während Kongressuntersuchungen und Subpenas an Tech-CEOs nur auf der Tagesordnung stehen, falls die Demokraten eine Kammer zurückerlangen.

Sanders zitierte frühere Aussagen von Altman, Amodei und den Unternehmen von Zuckerberg, die sich verpflichtet hatten, die Arbeit einzustellen oder zu pausieren, falls ihre Systeme zu riskant für das Management wurden. Sein Brief ist die Wette, dass öffentliche Rechenschaftspflicht, statt einer Abstimmung im Plenum, der schnellste Weg ist, sie daran zu binden.