Weißes Haus prüft Vorab-Prüfung von KI-Modellen, testet neue Frontiere in der Technologieaufsicht

Das Weiße Haus erwägt einen Plan, einige der leistungsfähigsten künstlichen Intelligenzsysteme zu überprüfen, bevor sie der Öffentlichkeit zur Verfügung gestellt werden.

Der Vorschlag, der erstmals berichtet von The New York Times am 4. Mai, würde eine bundesweite Prüfung an einem kritischen Punkt im KI-Lebenszyklus einführen, kurz vor der Bereitstellung. Beamte sind zunehmend besorgt, dass Frontier-Modelle jetzt in der Lage sind, Schwachstellen in der Software zu identifizieren und auszunutzen, die die essentielle Infrastruktur unterstützt.

Eine Analyse, veröffentlicht von The Conversation weist auf wachsende Beweise hin, dass neuere KI-Systeme große Anzahl von Schwachstellen in Betriebssystemen und Webbrowsern aufdecken können. Diese Fähigkeit, die zwar wertvoll für die defensive Sicherheit ist, erhöht auch die Einsatzhöhe, wenn solche Tools missbraucht würden oder in die falschen Hände geraten.

Modellfähigkeiten führen zu politischer Neuausrichtung

Die politische Diskussion gewann an Dringlichkeit, nachdem sich Anthropic für eine Verzögerung der breiteren Veröffentlichung seines neuesten Modells, Mythos, entschied. Interne Tests zeigten fortschrittliche Cybersicherheitsfähigkeiten, einschließlich der Fähigkeit, zahlreiche ausnutzbare Fehler zu identifizieren. Als Reaktion darauf beschränkte das Unternehmen den Zugang auf eine begrenzte Gruppe von Organisationen, die für die kritische Infrastruktur verantwortlich sind, durch seine „Project Glasswing“-Initiative.

Laut The Conversation griff das Weiße Haus ein, als Anthropic die Erweiterung des Zugangs erkundete, was einen direkteren Ansatz zur KI-Aufsicht signalisierte, obwohl die breitere Technologiepolitik relativ marktorientiert geblieben ist.

Die Bedenken beschränken sich nicht auf ein einzelnes Unternehmen oder System. Das britische AI Safety Institute berichtete in einer April-Evaluierung, dass OpenAI GPT-5.5 bei fortschrittlichen Cybersicherheitsaufgaben vergleichbare Leistung zeigte.

In einem vom Institut hervorgehobenen Test reverse-engineerte das Modell eine benutzerdefinierte virtuelle Maschine und löste eine komplexe Herausforderung in Minuten, viel schneller als ein menschlicher Experte mit professionellen Tools.

„Eine wichtige Frage war, ob dies eine spezifische Durchbruch für ein Modell widerspiegelt oder Teil eines breiteren Trends ist“, schrieb das Institut in seinem Bericht. „Ergebnisse eines frühen Checkpoints von GPT-5.5 deuten auf Letzteres hin.“

Zusammen genommen deuten die Ergebnisse darauf hin, dass diese Fähigkeiten zu einem gemeinsamen Merkmal führender KI-Systeme werden, anstatt ein isolierter Durchbruch zu sein.

KI-Sicherheitsbedenken nehmen eine geopolitische Dimension an

Die Implikationen erstrecken sich über die Technologie hinaus in die nationale Sicherheit. Forscher, die von The Conversation zitiert werden, warnen, dass staatsverbundene Gruppen ähnliche Tools nutzen könnten, um Cyberoperationen durchzuführen, die potenziell Infrastruktur oder Wirtschaftssysteme zielen.

Es gibt bereits frühe Anzeichen dieser Verschiebung. Anthropic hat verdächtige staatsunterstützte Akteure gemeldet, die seine Modelle in Spionagekampagnen eingesetzt haben, die Dutzende von Organisationen betreffen. Gleichzeitig sagten Microsoft und OpenAI im Jahr 2024, dass regierungsaffilierte Gruppen KI nutzten, um Cyberangriffe zu verbessern.

Gleichzeitig ringen Forscher immer noch damit, wie man diese Systeme zuverlässig kontrollieren kann. Arbeit, die von The Conversation zitiert wird, deutet darauf hin, dass nach dem Training angewendete Sicherheitsfilter umgangen werden können, während einige Modelle konform erscheinen können, ohne riskante Fähigkeiten vollständig zu eliminieren.

Dies hat zu einer wachsenden Ansicht unter politischen Entscheidungsträgern geführt, dass Sicherheitsmaßnahmen möglicherweise während der Modellentwicklung eingebettet werden müssen, anstatt später hinzugefügt zu werden.

Politische Aussichten: fragmentierte Rahmenwerke, steigender Druck

Der US-Vorschlag formt sich innerhalb einer breiteren, noch sich entwickelnden globalen regulatorischen Landschaft:

• Der EU AI Act legt einen risikobasierten Rahmen mit strengen Anforderungen für Hochrisikoanwendungen fest, obwohl er keine zentrale Genehmigung für Frontier-Modelle vorschreibt.
• Das UK hat sich auf freiwillige Zusammenarbeit durch das UK AI Safety Institute gestützt, mit Fokus auf Test- und Evaluierungspartnerschaften mit Entwicklern.
• Der entstehende US-Ansatz scheint sich in Richtung direkter Aufsicht der fortschrittlichsten Systeme zu bewegen, möglicherweise durch Vorab-Prüfung.

Gesetzgeber haben begonnen, diese Themen genauer zu untersuchen, mit Anhörungen im Kongress im April über KI-Sicherheit und Governance, obwohl noch keine umfassende Gesetzgebung vorangeschritten ist.

Wenn implementiert, würde ein US-Vorab-Prüfungssystem eine Verschiebung in Richtung früherer Intervention darstellen, die Aufsicht an den Punkt stellt, an dem Risiken vorhergesehen werden können, anstatt nachdem sie sich manifestiert haben.

Ein solcher Schritt könnte einen informellen globalen Standard setzen, insbesondere angesichts der Konzentration führender KI-Entwickler in den Vereinigten Staaten. Gleichzeitig wirft er die Möglichkeit auf, dass Unternehmen Teile der Entwicklung oder Bereitstellung in Regionen mit weniger Einschränkungen verlagern.

Die Herausforderung für politische Entscheidungsträger besteht darin, Innovation mit Risikomanagement in einem Feld auszubalancieren, in dem sich Fähigkeiten schnell entwickeln und die Folgen von Missbrauch weitreichend sein könnten.

Für jetzt bleiben die konkretesten Schutzmaßnahmen freiwillig. Unternehmen wie Anthropic beschränken den Zugang zu sensiblen Systemen, während Organisationen wie das UK AI Safety Institute weiterhin unabhängige Bewertungen durchführen.

Ob die USA ihren Ansatz formalisieren – und ob andere Länder sich daran ausrichten – wird ein Schlüsselfaktor bei der Gestaltung der KI-Regulierung in den kommenden Jahren sein.