Das US-Handelsministerium schlägt neue Meldepflichten für KI- und Cloud-Anbieter vor

Das US-Handelsministerium hat neue Berichtspflichten für Entwickler fortschrittlicher künstlicher Intelligenz und Cloud-Anbieter vorgeschlagen, um die Sicherheit der Technologie zu gewährleisten.

Das Bureau of Industry and Security (BIS) hat klargestellt, dass innovative Unternehmen und Cluster-Management-Unternehmen, die in die Entwicklung von Supercomputern investieren, verpflichtet sind, bestimmte wesentliche Entwicklungsaktivitäten den Bundesbehörden zu melden. Diese Maßnahme soll die mit Cybersicherheit und dem Missbrauch künstlicher Intelligenz verbundenen Sicherheitsrisiken verringern.

Dem neuen Vorschlag zufolge müssen Entwickler detaillierte Informationen über ihre Systeme künstlicher Intelligenz offenlegen, insbesondere zu Cybersicherheitsmaßnahmen und Red-Teaming-Aktivitäten. Red Teaming ist eine Technik der Cybersicherheit, die schädliche Einsatzmöglichkeiten von KI untersucht, beispielsweise die Unterstützung von Cyberterrorismus oder die Entwicklung von Massenvernichtungswaffen.

KI-Entwickler stehen vor neuen Vorgaben zur Meldung von Cybersicherheitsmaßnahmen und Risikotests

Der Vorschlag des Handelsministeriums sieht außerdem vor, dass KI-Entwickler die Ergebnisse von Red-Teaming-Aktivitäten in ihre Berichte aufnehmen, insbesondere solche im Zusammenhang mit gefährlichen Fähigkeiten wie Cyberangriffen. Diese Methode, die ihren Ursprung in Simulationen des Kalten Krieges hat,dentRisiken durch die Simulation von Angriffen oder Sicherheitslücken.

Organisationen wären verpflichtet, regelmäßig zu aktualisieren, wie gut ihre KI-Systeme Angriffen standhalten, auch solchen von ausländischen Interessen oder nichtstaatlichen Akteuren, die das System für kritische, böswillige Zwecke missbrauchen könnten.

Generative KI, die auf Basis von Nutzereingaben Texte, Bilder oder Videos erstellen kann, hat Besorgnis ausgelöst. Obwohl die Technologie in vielen Bereichen Fortschritte ermöglicht, hat sie auch die Angst vor möglichen Gefahren wie Arbeitsplatzverlusten, Wahlbeeinflussung und der Gefahr einer Herrschaft der künstlichen Intelligenz über den Menschen verstärkt.

Die neuen Berichtsrichtlinien zielen darauf ab, eine sichere und zuverlässige Entwicklung von KI-Modellen zu gewährleisten und die Wahrscheinlichkeit des Eintretens dieser Risiken zu verringern.

Cloud-Anbieter müssen neue Berichtsstandards in Bezug auf Sicherheit und KI-Entwicklung erfüllen

Die vorgeschlagenen Regeln betreffen neben Entwicklern künstlicher Intelligenz auch Cloud-Dienstleister wie Amazon Web Services (AWS), Google Cloud und Microsoft Azure. Diese Plattformen, die für die Weiterentwicklung künstlicher Intelligenz unerlässlich sind, müssen strenge Standards für die Cybersicherheit ihrer Infrastruktur einhalten. Das US-Handelsministerium betonte, dass diese Informationen wichtig seien, um den Missbrauch US-amerikanischer Technologie durch andere Länder zu verhindern.

Die regulatorischen Bemühungen folgen einer vondent Joe Biden im Oktober 2023 unterzeichneten Exekutivanordnung. Diese verpflichtet Entwickler von Technologien der künstlichen Intelligenz, ihre Sicherheitsprüfungsergebnisse der US-Regierung vorzulegen, bevor sie ihre Technologien veröffentlichen dürfen. Der vom Handelsministerium veröffentlichte Entwurf steht im Einklang mit diesem übergeordneten Ziel, die nationale Sicherheit, die öffentliche Gesundheit und die Wirtschaft des Landes vor den von künstlicher Intelligenz ausgehenden Bedrohungen zu schützen.

Dieser Vorschlag knüpft an frühere Bemühungen der Biden-Administration an, Maßnahmen zu ergreifen, die China den Zugang zu US-Technologie für die Entwicklung künstlicher Intelligenz verwehren sollen, was auf wachsende Sicherheitsbedenken in dieser stetig expandierenden Branche hindeutet.