Senatsgesetz würde KI-Sicherheit an der Frontlinie zur gesetzlichen Pflicht, nicht nur zu einer Zusage

US-Senat-Verhandler erwägen Gesetzgebung, die Entwickler der fortschrittlichsten KI-Modelle gesetzlich verpflichten würde, vor katastrophalen Schäden zu schützen, und der Bundesregierung die Macht geben könnte, unsichere Veröffentlichungen zu blockieren, so Reuters.

Für führende KI-Unternehmen wird dies Sicherheitsstandards von einer weitgehend freiwilligen Anstrengung in eine gesetzliche Pflicht verwandeln. Eine breitere Marktfrage ist, ob strengere Regulierungen das Vertrauen bei Verbrauchern und Investoren fördern oder einfach nur die wenigen Unternehmen stärken, die sie sich leisten können.

Von freiwilligen Zusagen zu einer „Sorgfaltspflicht“

Laut Reuters zielt der Vorschlag darauf ab, was als „Sorgfaltspflicht“ für Entwickler von Frontier-KI-Modellen bezeichnet wird. Verschiedene Bestimmungen werden hierfür in Betracht gezogen. Der Vorschlag umfasst Anforderungen für: Entwickler, KI-Modelle zu entwerfen, die katastrophale Risiken minimieren; das Vorbehaltsrecht der US-Regierung, unsichere KI-Modelle zu blockieren; Gerichtsberufungen gegen Regierungsentscheidungen; und die Einbeziehung von nationalen Laboren und staatlichen Partnern in KI-Tests. Dieser Vorschlag wird möglicherweise Vorrang vor einigen bestehenden Staatgesetzen haben, die dieselben Themen regeln.

Laut Reuters sind die US-Technologieunternehmen, die an der Entwicklung von Frontier-KI beteiligt sind, Google (Alphabet), Anthropic und OpenAI.

Die Gespräche beinhalten den Mehrheitsführer des Senats, John Thune, den Vorsitzenden des Handelsausschusses, Ted Cruz, und Senatorin Amy Klobuchar, wobei Senatorin Maria Cantwell ebenfalls involviert ist.

Klobuchar sagte gegenüber Reuters, ihr Ziel sei:

„staatliche Aufsicht über die größten Risiken, die von KI-Modellen ausgehen“

Diese Aufsicht, sagte sie, sollte die Anforderung umfassen, dass Entwickler mit staatlichen Experten zusammenarbeiten, um fortschrittliche Modelle zu verifizieren und zu testen.

Cruz hat einen ähnlichen Vorschlag eingebracht, der einige der schlimmsten Möglichkeiten von Frontier-KI anzeigt. In einem Beitrag auf X sagte Cruz, er arbeite mit Klobuchar und Thune zusammen, um:

„katastrophale Risiken im Zusammenhang mit biologischen oder nuklearen Bedrohungen anzugehen“

Diese Bedenken erklären, warum die Verhandler ihre Bemühungen auf die funktionalsten Modelle konzentrieren, anstatt dieselben Bestimmungen von der gesamten KI-Branche zu verlangen.

Ein weiterer wichtiger Gesichtspunkt ist, ob die bundesweiten Regulierungen einige der Einschränkungen auf Staatsebene außer Kraft setzen sollten. Dieser Ansatz ist im Allgemeinen konsistent mit dem KI-Gesetzgebungsrahmen der Trump-Administration, der darauf beharrt, dass ein unordentlicher Satz von Staatgesetzen die Erfahrung in der Entwicklung von KI-Technologie in Amerika behindern wird, und stattdessen einen konsistenteren nationalen Rahmen fordert.

Warum Gesetzgeber die Risiken nicht mehr als theoretisch behandelten

Gesetzgeber reagieren nicht nur auf theoretische Situationen, sondern auch auf Vorfälle, in denen KI-Agenten eigenständig handeln und externe Systeme durchdringen, zusammen mit Bedenken, die von Forschern geäußert wurden, die bei den großen Branchenspielern arbeiten.

Das IAPP gab an, dass die Verhandlungen durch den Rücktritt von Jacob Coxon, ehemaliger Forscher bei Anthropic, und seine Bedenken bezüglich eines Wettlaufs um selbstverbessernde KI ausgelöst wurden.

Die Forderungen auf dem Capitol Hill steigen. Senator Josh Hawley untersucht die Rolle von OpenAI beim Hugging Face-Cyberangriff im Juli, während Senator Bernie Sanders an einem Gesetz arbeitet, das darauf abzielt, die Entwicklung von Superintelligenz auszusetzen, wie im IAPP berichtet.

OpenAI plädiert ebenfalls für durchsetzbare bundesweite Gesetzgebung. In einem am 9. September veröffentlichten Politikartikel forderte Chris Lehane, Chief Global Affairs Officer, Folgendes:

„obligatorische, fähigkeitsbasierte nationale KI-Sicherheitsregulierung.“

Dies stellt einen bestimmten Teil der Branche und den Kongress auf dieselbe Seite einer entscheidenden Frage, ob freiwillige Schutzmaßnahmen immer noch ausreichen.

Europa reguliert bereits seine risikoreichsten Modelle

Die Vereinigten Staaten werden nicht in unbekanntes Gewässer navigieren. Der KI-Gesetz der Europäischen Union hat neue Pflichten für Anbieter von KI-Modellen mit allgemeinem Zweck auferlegt, die ein mögliches systemisches Risiko bergen. Die Pflichten betreffen die Modellbewertung, Risikomanagement, Incident-Meldung sowie Fragen im Zusammenhang mit Cybersicherheit.

Jedes Modell über der Rechenleistungsschwelle von 10^25 FLOP wird als potenziell systemischer Natur betrachtet. Die Europäische Kommission hat jedoch das Recht, ein weniger leistungsstarkes Modell ähnlich zu klassifizieren, basierend auf anderen Kriterien wie Fähigkeiten oder Auswirkungen.

Compliance-Kosten könnten den größten Laboren zugutekommen

Die finanziellen stakes sind enorm. Laut Goldman Sachs Research wird die geschätzte globale KI-Investition voraussichtlich 2026 etwa 1 Billion US-Dollar erreichen, wovon 581 Milliarden US-Dollar auf die USA entfallen.

Neue Test-, Rechts- und Dokumentationsanforderungen können Veröffentlichungspläne von Modellen, Budgets für Infrastruktur, Bewertungen und den Zeitpunkt von IPOs beeinflussen. Neue Anforderungen können auch größeren Spielern einen Vorteil verschaffen, da kleinere Unternehmen die Kosten möglicherweise nicht tragen können.

Diese Spannung ist bereits an den Kapitalmärkten zu sehen. Laut Cryptopolitan forderte David Sacks die Aussetzung des IPO von Anthropic, bis die von Coxon vorgebrachten Sicherheitsvorwürfe überprüft wurden. Investoren von Anthropic führten Gespräche über eine Bewertung von etwa 2 Billionen US-Dollar, was die Sicherheit von Frontier-Modellen zu einem Anliegen machte, das nicht nur für Regulierungsbehörden, sondern auch für Investoren relevant ist.

Der Fortschritt des Gesetzes ist jedoch ungewiss. Wie von Reuters berichtet, wird das Repräsentantenhaus nur eine Woche in Session sein, um sich auf die Zwischenwahlen am 3. November vorzubereiten, während die Senatoren voraussichtlich drei Wochen bleiben werden. Selbst wenn die beteiligten Parteien während der Verhandlungen eine Einigung erzielen, könnten die begrenzten verbleibenden Gesetzgebungstage sehr wohl die nächste große Hürde bei der Verabschiedung des Gesetzes darstellen.