Colorado-Senator wird Sicherheitsrichtlinien für KI-Nutzung etablieren

In einem bedeutenden Schritt hin zu einer sichereren KI-Nutzung hat Senator John Hickenlooper aus Colorado einen Plan zur Erstellung von KI-Auditing-Richtlinien initiiert. Mit dem Fokus auf die Schaffung klarer Standards für KI-Systemprüfungen hat Hickenlooper Branchenexperten und wichtige Akteure um Einblicke gebeten. Diese Bemühungen zielen darauf ab, die Ausarbeitung von Gesetzen zu leiten, die sicherstellen, dass KI-Technologien sowohl effektiv als auch sicher sind.

Erstellung von Standards in Colorado

Hickenloopers Strategie beinhaltet eine kollaborative Bemühung, angeführt vom Handelsministerium. Das Ziel ist die Entwicklung freiwilliger Standards, die als Leitfaden für unabhängige Audits von KI-Technologien dienen würden. In einer Rede im Februar betonte Hickenlooper die Bedeutung externer Aufsicht für die KI-Branche und verwies auf die Notwendigkeit, Selbstregulierung angesichts der potenziellen Risiken zu vermeiden. 

„Wenn wir nicht aufpassen und die KI nicht in diese Richtung steuern, könnte sie tatsächlich dazu führen, dass eine enorme Anzahl von Arbeitskräften verdrängt wird, ohne zu berücksichtigen, was diese als Nächstes tun werden. Das ist nur eines von Tausenden von Entscheidungen, die heute getroffen werden und die Generationen lang Konsequenzen haben werden.“ sagte Senator Hickenlooper. 

Durch die Einbeziehung qualifizierter Dritter bei der Prüfung von KI-Systemen zielt die Initiative darauf ab, die Einhaltung federaler Gesetze sicherzustellen und sich vor unvorhergesehenen Schäden zu schützen. 

Details zum Fragebogen

Das Büro des Senators hat einen Fragebogen verbreitet, der wichtige Aspekte der Prüfung von KI-Systemen abdeckt, einschließlich der Häufigkeit, des Umfangs der Prüfungen, der Transparenzanforderungen, der Compliance und des gesamten Prüfungsökosystems.

Dieser Fragebogen, gesammelt von Nextgov/FCW, ist darauf ausgelegt, detaillierte Informationen zu sammeln, die helfen werden, wirksame und praktische Prüfstandards zu definieren. Einer der Schwerpunkte liegt darauf, wie diese Standards an verschiedene Phasen der Softwareentwicklung angepasst werden können, um den einzigartigen Herausforderungen, die durch Upstream- und Downstream-Entwicklungsprozesse entstehen, zu begegnen.

Die Praxis, die Eingaben und Ausgaben eines KI-Systems auf hochwertige, sichere Ergebnisse durch eine dritte Partei zu bewerten, wird als KI-Prüfung bezeichnet. Das Büro von Hickenlooper hat die Herkunft der Fragen bestätigt und erklärt, dass sie zur Steuerung künftiger gesetzgeberischer Initiativen sowie des regulatorischen Rahmens dienen werden, den er Anfang Februar vorgestellt hat.

Hickenlooper stellt eine sehr gründliche Frage bezüglich des Prüfungsumfangs. Der Gesetzgeber bezieht sich hauptsächlich auf die Entwicklung im Upstream- versus Downstream-Bereich, wenn er die Frage stellt, wie zukünftige Prüfungsrichtlinien für Entwickler modifiziert werden sollten, die in der gesamten Architektur der Software tätig sind.

Darüber hinaus wird auch erfragt, ob zusätzliche Anforderungen, wie der Zugang zu den Trainingsdaten des KI-Modells, direkte Bewertungen der Systemausgaben, interne Verifikationstests und qualitative Bewertungen, in die Standards der KI-Prüfung aufgenommen werden können. 

Durch diesen proaktiven Ansatz legt Hickenlooper das Fundament für einen regulatorischen Rahmen, der verspricht, KI-Technologien sicherer und zuverlässiger zu machen. Durch die Priorisierung von Transparenz, Compliance und dem Wohlergehen der Gesellschaft ist diese Initiative ein entscheidender Schritt vorwärts in der verantwortungsvollen Entwicklung und dem Einsatz von KI.