Anthropic schlägt dem Kongress KI-Sicherheitsgesetz mit Schadensgrenze von 1 Mrd. Dollar vor

Drei Personen, die mit den privaten Gesprächen vertraut sind, berichten, dass Anthropic einen Entwurf eines Gesetzes zur Sicherheit von Frontier-KI an Abgeordnete im Kongress verhandelt. Berichten zufolge erlaubt das Gesetz der US-Regierung, ein Modell zu blockieren, wenn es eine klare, unmittelbare Gefahr von mehr als 50 Todesfällen oder finanziellen Schäden in Höhe von 1 Milliarde Dollar darstellt.

Spezifisch muss das Risiko einen Cyberangriff, die Herstellung oder den Einsatz biologischer Waffen oder ein Modell beinhalten, das erfolgreich die Sicherheitsbeschränkungen seines Entwicklers umgangen hat.

In den letzten Monaten haben führende KI-Entwickler mehrere Fälle anerkannt, in denen KI-Agenten Online-Plattformen gehackt oder deren Abwehrmechanismen getestet haben. Zum Glück führten diese frühen Sicherheitslücken nicht zu weitverbreiteten Todesfällen oder katastrophalen finanziellen Verlusten.

Die vorgeschlagenen Beschränkungen würden stärker darauf abzielen, was fortschrittliche KI-Systeme in realen Umgebungen leisten können, anstatt sich ausschließlich auf Sicherheitszusagen ihrer Entwickler zu verlassen. Da Modelle zunehmend in der Lage sind, Code zu schreiben, Software-Schwachstellen zu identifizieren und komplexe Aufgaben autonom auszuführen, stehen Regulierungsbehörden vor der Herausforderung, zu bestimmen, wann die Fähigkeiten eines Systems die Schwelle zu einem inakzeptablen Risiko überschreiten.

Unabhängige Tests könnten dazu beitragen, festzustellen, ob ein Modell Sicherheitsvorkehrungen umgehen oder für schädliche Aktivitäten missbraucht werden kann, bevor es einem größeren Publikum zugänglich wird. Die Definition einer unmittelbaren Bedrohung bleibt jedoch schwierig, insbesondere wenn dieselben Fähigkeiten, die Sicherheitsrisiken darstellen, auch Forschern dabei helfen können, Schwachstellen zu identifizieren und zu beheben.

Der Entwurf des Gesetzes von Anthropic sieht vor, dass ein Bundesrichter die Aussetzung eines Modells anordnen kann

Als Verteidigung des Gesetzentwurfs erklärte ein Sprecher von Anthropic, dass das Gesetz den Sicherheitsempfehlungen ähnelt, die im Advanced AI Framework des Unternehmens veröffentlicht wurden, welches im Juni vorgestellt wurde.

In diesem Framework hatte das Unternehmen wies darauf hin dass seine Claude Mythos Preview bereits Tausende schwerwiegender Sicherheitslücken entdeckt hat, das jedes wichtige Betriebssystem und jeden Webbrowser abdeckt. Damals betonte sie, dass sich dieser Trend beschleunigen wird, was zu einem steigenden Risiko katastrophaler Schäden in der realen Welt führt.

Sie forderte zudem einen ausgewogenen regulatorischen Ansatz, der staatliche Eingriffe vorsieht, ohne die Innovation zu ersticken. Dabei behielt das Unternehmen die Auffassung bei, dass Regulierungsbehörden im Falle extremer Gefahren durch KI-Modelle die einzigartige gesetzliche Befugnis besitzen müssen, diese zu blockieren oder hohe Geldbußen auf Grundlage des weltweiten Umsatzes zu verhängen, die sich bei wiederholten Verstößen erhöhen. 

Bisher hat Anthropic keine spezifischen Bundesgesetze im Kongress öffentlich unterstützt, obwohl es seine Unterstützung Unterstützung für einige staatliche KI-Sicherheitsgesetze ausgesprochen hat – darunter auch zwei in Kalifornien, wie SB 53.

Dieses spezifische Gesetz, das im vergangenen Jahr in Kraft trat, verpflichtet Unternehmen dazu, ihre Sicherheitsrahmenwerke zu erstellen und offenzulegen sowie große Risiken zu minimieren. Zudem sind sie verpflichtet, schwerwiegende Sicherheitsvorfälle innerhalb von 15 Tagen dem Staat zu melden. 

Gemäß dem Vorschlag von Anthropic sollten Drittbewerter, die beim Handelsministerium registriert sind, regelmäßig die Labore und Modelle des Unternehmens testen. Zwar ist es den Labors gestattet, diese Bewertungen zu finanzieren, darf aber keine Vergütung an die Ergebnisse der Bewerter gekoppelt sein. Darüber hinaus müssen alle Entdeckungen eines „unmittelbar aufgeführten Risikos“ innerhalb von 72 Stunden nach Abschluss den Bundesbehörden gemeldet werden.

Falls das Handelsministerium feststellt, dass ein Modell ein Risiko darstellt, kann es einen Richter bitten, dessen Veröffentlichung zu untersagen. Die Bestimmung verbietet jedoch allen anderen US-„Abteilungen, Behörden oder Beamten“, die Entwicklung, den Einsatz oder die interne Nutzung des Modells zu stoppen. Dennoch behält ein Bundesrichter im Bezirk Columbia die Befugnis, eine solche Aussetzung anzuordnen. 

Die FTC hat Vorladungen an OpenAI und Anthropic gesendet

Am Mittwoch hat die Federal Trade Commission (FTC) Zivilvorladungen an OpenAI und Anthropic gesendet und um Unterlagen zu Sicherheitsvorfällen gebeten, die zu einer wachsenden Krise für die Branche geworden sind. OpenAI reagierte auf die Vorladung mit der Aussage: „Während wir unsere Modelle verbessern und sie zunehmend Menschen in ihrem Alltag helfen, bleibt Sicherheit eine oberste Priorität. Wir werden konstruktiv mit der FTC zusammenarbeiten.“ 

Eine Quelle gab an, dass die Agentur beabsichtigt, ihre Befugnis zur Erhebung von Beweismitteln (Subpoena) in naher Zukunft auf Dritte auszuweiten. Die Aufsichtsbehörde könnte Führungskräfte von Anthropic und OpenAI zwingen, öffentlich auszusagen, was Gesetzgebern eine Plattform bietet, um die Tech-Giganten angesichts wachsender öffentlicher Ängste vor möglichen Folgen in Bezug auf Sicherheit herauszufordern.

Laut einer kürzlich vom AP-NORC Center for Public Affairs Research durchgeführten Umfrage halten fast zwei Drittel der US-amerikanischen Erwachsenen KI für zu schnell entwickelt. Acht von zehn Befragten betonten zudem die Bedeutung staatlicher Bemühungen, die Technologie unter menschliche Kontrolle zu halten. 

Bisher hat Präsident Trump Aufrufe nach einem langsameren Tempo der KI-Entwicklung weiterhin abgelehnt und dabei auf die strategische Bedeutung der Technologie für die USA verwiesen. Kürzlich stellte er eine „Super Intelligence Force“ vor, die dazu dienen soll, die Bemühungen der Bundesregierung im Bereich KI zu koordinieren, während gleichzeitig das Engagement mit Verbrauchern, gemeinnützigen Organisationen und anderen Interessengruppen aufrechterhalten wird.