US-Handelsministerium schlägt neue Meldevorschriften für KI- und Cloud-Anbieter vor

Das US-Handelsministerium hat neue Meldevorschriften für Entwickler fortschrittlicher künstlicher Intelligenz und Cloud-Anbieter vorgeschlagen, um die Sicherheit und den Schutz der Technologie zu gewährleisten.

Das Bureau of Industry and Security (BIS) hat klar gestellt, dass Unternehmen, die an der Spitze der Entwicklung stehen und Engineering-Cluster-Management-Business-Häuser, die in die Erstellung von Supercomputern investieren, die Pflicht haben, bestimmte wesentliche Entwicklungsaktivitäten den Bundesbehörden zu melden. Dieser Trend soll Sicherheitsbedrohungen im Zusammenhang mit Cybersicherheit und der falschen Anwendung von KI-Ressourcen verringern.

Gemäß dem neuen Vorschlag müssen Entwickler detaillierte Informationen über ihre KI-Systeme offenlegen, wobei der Schwerpunkt auf Cybersicherheitsmaßnahmen und Red-Teaming-Bemühungen liegt. Red-Teaming ist eine Technik in der Cybersicherheit, die die schädlichen Anwendungen einer KI bewertet, wie etwa die Ermöglichung von Cyberterrorismus oder die Erleichterung der Herstellung von Massenvernichtungswaffen.

KI-Entwickler stehen vor neuen Verpflichtungen, Cybersicherheitsmaßnahmen und Risikotests zu melden

Der Vorschlag des Handelsministeriums würde KI-Entwicklern auch vorschreiben, die Ergebnisse von Red-Teaming-Aktivitäten in ihre Berichte aufzunehmen, insbesondere solche, die mit gefährlichen Fähigkeiten wie Cyberangriffen zusammenhängen. Diese Methode, die aus Simulationen des Kalten Krieges stammt, identifiziert Risiken durch die Simulation von Angriffen oder Sicherheitsverletzungen.

Organisationen wären verpflichtet, zu aktualisieren, wie gut ihre KI-Systeme Angriffen standhalten, selbst von ausländischen Interessen oder nicht-staatlichen Akteuren, die das System für kritische bösartige Zwecke missbrauchen möchten.

Generative KI, die Texte, Bilder oder Videos basierend auf Benutzeranfragen erstellen kann, hat Bedenken ausgelöst. Obwohl die Technologie in vielen Bereichen Fortschritte bietet, hat sie auch die Angst vor möglichen Bedrohungen wie Jobverlusten, Wahlmanipulation und dem Risiko der Dominanz der künstlichen Intelligenz über den Menschen verstärkt.

Die neuen Meldevorschriften zielen darauf ab, die sichere und zuverlässige Entwicklung von KI-Modellen zu gewährleisten und die Wahrscheinlichkeit zu verringern, dass diese Risiken real werden.

Cloud-Anbieter müssen neuen Meldestandards für Sicherheit und KI-Entwicklung entsprechen

Zusätzlich zu KI-Entwicklern werden die vorgeschlagenen Regeln auch Cloud-Diensteanbieter wie Amazon Web Services (AWS), Google Cloud und Microsoft Azure betreffen. Diese Plattformen, die für die Vorantreibung der Entwicklung künstlicher Intelligenz unerlässlich sind, müssen strenge Standards für die Cybersicherheit ihrer Infrastruktur einhalten. Das Handelsministerium betonte, dass diese Informationen wichtig sind, um den Missbrauch US-amerikanischer Technologie durch andere Länder zu vermeiden.

Der regulatorische Schub folgt dem Exekutivbeschluss von Präsident Joe Biden, der im Oktober 2023 unterzeichnet wurde. Der Befehl verlangt von Entwicklern von KI-Technologie, dass sie ihre Sicherheitstestergebnisse der US-Regierung vor der Veröffentlichung ihrer Technologien an die Öffentlichkeit melden. Der vom Handelsministerium herausgegebene Entwurf steht im Einklang mit diesem übergeordneten Ziel, das darauf abzielt, die nationale Sicherheit, die öffentliche Gesundheit und die Wirtschaft des Landes vor den von künstlicher Intelligenz ausgehenden Bedrohungen zu schützen.

Dieser Vorschlag folgt auch den früheren Bemühungen der Biden-Administration, weitere Maßnahmen zu ergreifen, um China den Zugang zu US-Technologie für die KI-Entwicklung zu verwehren, was auf zunehmende Sicherheitsbedenken in dieser sich ständig erweiternden Branche hindeutet.