Ein Gesetzesentwurf des Senats würde die Sicherheit von KI-Systemen in der Grenzregion zu einer rechtlichen Verpflichtung und nicht nur zu einem Versprechen machen

Laut Reuters erwägen die Verhandlungsführer des US-Senats ein Gesetz, das die Entwickler der fortschrittlichsten KI-Modelle rechtlich dazu verpflichten würde, sich vor katastrophalen Schäden zu schützen, und der Bundesregierung die Befugnis geben könnte, unsichere Veröffentlichungen zu verhindern .

Für führende KI-Unternehmen wird dies die Sicherheitsstandards von einer weitgehend freiwilligen Verpflichtung zu einer gesetzlichen Pflicht wandeln. Eine übergreifende Marktfrage ist, ob strengere Regulierungen das Vertrauen von Verbrauchern und Investoren stärken oder lediglich die wenigen Unternehmen bestärken, die sich diese leisten können.

Von freiwilligen Zusagen bis hin zur „Sorgfaltspflicht“

Laut Reuters zielt der Vorschlag darauf ab, eine sogenannte „Sorgfaltspflicht“ für Entwickler fortschrittlicher KI-Modelle zu schaffen. Verschiedene Bestimmungen werden zu diesem Zweck geprüft. Der Vorschlag beinhaltet unter anderem folgende Anforderungen: Entwickler müssen KI-Modelle entwickeln, die katastrophale Risiken minimieren; die US-Regierung behält sich das Recht vor, unsichere KI-Modelle zu blockieren; gegen Regierungsentscheidungen kann vor Gericht Berufung eingelegt werden; und nationale Labore sowie staatliche Partner sollen in KI-Tests einbezogen werden. Dieser Vorschlag könnte Vorrang vor bestehenden Landesgesetzen zu denselben Themen haben.

Laut Reuters sind die US-amerikanischen Technologieunternehmen, die sich mit der Entwicklung von Spitzen-KI beschäftigen, Google (Alphabet), Anthropic und OpenAI.

An den Gesprächen nehmen der Mehrheitsführer im Senat, John Thune, der Vorsitzende des Handelsausschusses, Ted Cruz, und Senatorin Amy Klobuchar teil; auch Senatorin Maria Cantwell ist beteiligt.

Klobuchar sagte gegenüber Reuters, ihr Ziel sei:

„staatliche Aufsicht über die größten Risiken, die von KI-Modellen ausgehen“

Diese Aufsicht, so sagte sie, müsse auch die Verpflichtung der Entwickler umfassen, mit Regierungsexperten zusammenzuarbeiten, um fortschrittliche Modelle zu überprüfen und zu testen.

Cruz hat einen ähnlichen Vorschlag unterbreitet, der einige der schlimmsten Szenarien der zukünftigen KI aufzeigt. In einem Beitrag auf Xerklärte Cruz, er arbeite mit Klobuchar und Thune zusammen, um:

„Katastrophale Risiken im Zusammenhang mit biologischen oder nuklearen Bedrohungen angehen“

Diese Bedenken erklären, warum die Verhandlungsführer ihre Bemühungen auf die funktionalsten Modelle konzentrieren, anstatt von der gesamten KI-Branche die gleichen Bestimmungen zu fordern.

Ein weiterer wichtiger Aspekt ist die Frage, ob Bundesvorschriften einige der Beschränkungen auf Landesebene außer Kraft setzen sollten. Dieser Ansatz deckt sich im Allgemeinen mit dem KI-Gesetzgebungsrahmen der Trump-Regierung, der argumentiert, dass ein uneinheitliches Gefüge von Landesgesetzen die Entwicklung von KI-Technologien in Amerika behindern würde und stattdessen einen einheitlicheren nationalen Rahmen fordert.

Warum die Gesetzgeber die Risiken nicht länger als theoretisch behandelten

Die Gesetzgeber reagieren nicht nur auf theoretische Szenarien, sondern auch aufdent, bei denen KI-Agenten eigenständig agieren und in externe Systeme eindringen, sowie auf Bedenken von Forschern, die bei den wichtigsten Akteuren der Branche arbeiten.

Die IAPP gab an, dass die Verhandlungen durch den Rücktritt von Jacob Coxon, einem ehemaligen Anthropozenter, und seine Bedenken hinsichtlich eines Wettlaufs um sich selbst verbessernde KI ausgelöst wurden.

Der Druck auf den Kongress wächst. Senator Josh Hawley untersucht die Rolle von OpenAI bei dem Cyberangriff „Hugging Face“ im Juli, während Senator Bernie Sanders an einem Gesetzentwurf arbeitet, der die Entwicklung von Superintelligenz stoppen soll, wie IAPP berichtet.

OpenAI setzt sich außerdem für durchsetzbare Bundesgesetze ein. In einem am 9. September veröffentlichten Positionsartikelforderte Chris Lehane, Chief Global Affairs Officer, Folgendes:

„verpflichtende, fähigkeitsbasierte nationale KI-Sicherheitsregulierung.“

Damit befinden sich bestimmte Teile der Branche und des Kongresses in einer entscheidenden Frage auf derselben Seite: Reichen freiwillige Schutzmaßnahmen noch aus?.

Europa reguliert bereits seine risikoreichsten Modelle

Die Vereinigten Staaten betreten damit kein Neuland. Die EU-KI-Richtlinie hat neue Pflichten für Anbieter von allgemeinen KI-Modellen mit potenziell systemischen Risiken eingeführt. Diese Pflichten umfassen die Modellbewertung, das Risikomanagement, diedent sowie Fragen der Cybersicherheit.

Modelle mit einer Rechenleistung oberhalb von 10^25 FLOP gelten als potenziell systemrelevant. Die Europäische Kommission behält sich jedoch das Recht vor, auch leistungsschwächere Modelle auf Grundlage anderer Kriterien wie Fähigkeiten oder Auswirkungen ähnlich einzustufen.

Die Kosten für die Einhaltung der Vorschriften könnten den größten Laboren zugutekommen

Es geht um enorme finanzielle Summen. Laut Goldman Sachs Researchwerden die weltweiten Investitionen in KI im Jahr 2026 voraussichtlich rund 1 Billion US-Dollar erreichen, davon 581 Milliarden US-Dollar in den USA.

Neue Test-, Rechts- und Dokumentationsanforderungen können sich auf Veröffentlichungspläne für Modelle, Infrastrukturbudgets, Unternehmensbewertungen und den Zeitpunkt von Börsengängen auswirken. Neue Anforderungen können größeren Unternehmen auch einen Vorteil verschaffen, da kleinere Unternehmen die Kosten möglicherweise nicht tragen können.

Diese Spannungen sind bereits am Kapitalmarkt spürbar. Laut Cryptopolitanforderte David Sacks die Aussetzung des Börsengangs von Anthropic, bis die von Coxon erhobenen Sicherheitsbedenken geklärt seien. Die Investoren von Anthropic diskutierten über die Bewertung von rund 2 Billionen US-Dollar, wodurch die Sicherheit von Zukunftsmodellen nicht nur für die Regulierungsbehörden, sondern auch für die Investoren selbst zu einem besorgniserregenden Thema wurde.

Der Fortschritt des Gesetzesentwurfs ist jedoch ungewiss. Wie Reuters berichtet, tagt das Repräsentantenhaus nur eine Woche lang, um sich auf die Zwischenwahlen am 3. November vorzubereiten, während der Senat voraussichtlich drei Wochen tagen wird. Selbst wenn die beteiligten Parteien in den Verhandlungen eine Einigung erzielen, könnten die verbleibenden wenigen Sitzungstage die größte Hürde für die Verabschiedung des Gesetzes darstellen.