Senator aus Colorado will Sicherheitsrichtlinien für die Nutzung von KI festlegen

Senator John Hickenlooper aus Colorado hat einen wichtigen Schritt hin zu einer sichereren Nutzung von KI unternommen und einen Plan zur Entwicklung von Richtlinien für KI-Audits initiiert. Mit dem Ziel, klare Standards für die Überprüfung von KI-Systemen zu schaffen, hat Hickenlooper Branchenexperten und wichtige Akteure um ihre Einschätzung gebeten. Diese Initiative soll die Ausarbeitung von Gesetzen unterstützen, die die Effektivität und Sicherheit von KI-Technologien gewährleisten.

Handwerksstandards in Colorado

Hickenloopers Strategie sieht eine Kooperation unter der Leitung des Handelsministeriums vor. Ziel ist die Entwicklung freiwilliger Standards, die als Leitfaden für unabhängigedent von KI-Technologien dienen sollen. In einer Rede im Februar betonte Hickenlooper die Bedeutung externer Aufsicht für die KI-Branche und verwies auf die Notwendigkeit, Selbstregulierung angesichts der damit verbundenen potenziellen Risiken zu vermeiden. 

„Wenn wir nicht aufpassen und die KI nicht in diese Richtung lenken, könnte sie letztendlich unzählige Arbeitsplätze verdrängen, ohne zu berücksichtigen, was diese Menschen als Nächstes tun werden. Das ist nur ein Beispiel von Tausenden von Entscheidungen, die heute getroffen werden und die Folgen für Generationen haben werden“, sagte Senator Hickenlooper. 

Durch die Einbeziehung qualifizierter Dritter in die Prüfung von KI-Systemen will die Initiative die Einhaltung der Bundesgesetze sicherstellen und vor unvorhergesehenen Schäden schützen. 

Details zum Fragebogen

Das Büro des Senators hat einen Fragebogen verteilt, der wichtige Aspekte der Prüfung von KI-Systemen abdeckt, darunter Häufigkeit, Umfang der Prüfungen, Transparenzanforderungen, Compliance und das gesamte Prüfökosystem.

Dieser von Nextgov/FCW erhobene Fragebogen dient der Erfassung detaillierter Informationen, die defieffektiver und praxisnaher Prüfstandards beitragen. Ein Schwerpunkt liegt darauf, wie diese Standards an verschiedene Phasen der Softwareentwicklung angepasst werden können, um den spezifischen Herausforderungen vorgelagerter und nachgelagerter Entwicklungsprozesse gerecht zu werden.

Die Praxis, die Eingaben und Ausgaben eines KI-Systems durch einen unabhängigen Dritten auf hohe Qualität und Sicherheit zu prüfen, wird als KI-Audit bezeichnet. Hickenloopers Büro bestätigte die Herkunft der Fragen und erklärte, dass diese als Grundlage für künftige Gesetzesinitiativen sowie für den Anfang Februar vorgestellten Regulierungsrahmen dienen werden.

Hickenlooper stellt eine sehr detaillierte Frage zum Umfang der Prüfung. Der Abgeordnete geht dabei vor allem auf die Unterschiede zwischen Upstream- und Downstream-Entwicklung ein und fragt, wie die zukünftigen Prüfkriterien für Entwickler, die entlang der gesamten Softwarearchitektur tätig sind, angepasst werden sollten.

Darüber hinaus wird auch gefragt, ob zusätzliche Anforderungen, wie der Zugang zu Trainingsdaten von KI-Modellen, direkte Auswertungen der Systemausgaben, interne Verifizierungstests und qualitative Bewertungen, in die KI-Auditstandards aufgenommen werden können. 

Mit diesem proaktiven Ansatz schafft Hickenlooper die Grundlage für einen Regulierungsrahmen, der KI-Technologien sicherer und zuverlässiger machen soll. Indem Transparenz, Compliance und das Wohl der Gesellschaft Priorität haben, ist diese Initiative ein entscheidender Schritt hin zu einer verantwortungsvollen Entwicklung und Anwendung von KI.