Kalifornien führt bei der Umgestaltung der KI-Beschaffung im Bereich verantwortungsvoller Nutzung

Kalifornien leitet mit einem bahnbrechenden Schritt eine transformative Umgestaltung der öffentlichen Beschaffungsprozesse hin zu verantwortungsvoller KI-Governance ein. Mit einem jährlichen, für die Beschaffung bereitgestellten Budget von 310,8 Milliarden US-Dollar erkennt der Staat das immense Potenzial an, seine Kaufkraft zu nutzen, um KI-Märkte zum Wohle der Allgemeinheit zu gestalten.

Innovation auf subnationaler Ebene treibt den Wandel voran

Kalifornien, bekannt für seine fortschrittliche Haltung in der Technologie regulation, hat sich als Zentrum subnationaler Innovationen in der KI-Governance etabliert. Die Exekutivverordnung des Staates zu KI weist verschiedene Behörden und Zentren an, die öffentlichen Beschaffungsprozesse zu reformieren, wobei der Fokus auf Anwendungen, Risiken und notwendiger Schulung liegt, um die Praxis der KI-Beschaffung zu verbessern.

Im Mittelpunkt dieser Bewegung steht die GovAI Coalition, angeführt von der Stadt San José und bestehend aus über 150 lokalen, kreisweiten und staatlichen Behörden. Dieses gemeinsame Vorhaben zielt darauf ab, innovative Prozesse für eine verantwortungsvolle KI-Beschaffung im öffentlichen Sektor zu entwickeln. Die kürzlich veröffentlichten Mustervorlagen der Coalition, einschließlich des AI FactSheet und standardisierter Vertragsklauseln für KI-Systeme, markieren einen bedeutenden Schritt hin zu mehr Transparenz und Verantwortlichkeit bei der KI-Beschaffung.

Transparenz und Verantwortlichkeit fördern

Das KI-FactSheet, das von Anbietern während des Beschaffungsprozesses auszufüllen ist, stellt ein standardisiertes Dokument dar, das technische Details zu KI-Systemen erfasst. Dazu gehören wesentliche Informationen wie Trainings- und Testdaten, Leistungskennzahlen sowie algorithmische Verzerrungen. Durch die Bereitstellung umfassender Einblicke in die Fähigkeiten und Grenzen von KI-Systemen ermöglicht das FactSheet eine fundierte Entscheidungsfindung und fördert die Verantwortung der Anbieter.

Um verantwortungsvolle KI-Standards zu formalisieren, hat die GovAI-Koalition standardisierte Vertragsklauseln eingeführt, die Anforderungen für Anbieter festlegen. Diese Klauseln fungieren als rechtliche Zusatzvereinbarungen zu Einkaufsverträgen und verpflichten Anbieter zur Einhaltung definierter Standards sowie zur Transparenz hinsichtlich der Fähigkeiten und Verzerrungen von KI-Systemen. Durch die Rechenschaftspflicht der Anbieter über vertragliche Verpflichtungen können öffentliche Behörden den ethischen Einsatz von KI-Technologien sicherstellen.

Die umfassende Reform der Beschaffung in Kalifornien wirkt sich wellenförmig auf die KI-Märkte aus und motiviert Unternehmen dazu, ihre Produkte an gemeinsamen Standards über verschiedene Rechtsgebiete hinweg auszurichten. Da staatliche und lokale Behörden eine bedeutende Kundengruppe für KI-Unternehmen darstellen, treibt der Druck, die von diesen Stellen festgelegten Beschaffungsspezifikationen zu erfüllen, einen Wandel hin zu mehr Transparenz und Verantwortlichkeit bei der Entwicklung und dem Vertrieb von KI-Systemen voran.

Ein globaler Einfluss

Während Kaliforniens Initiativen sich primär auf die subnationale Ebene konzentrieren, reicht ihre Wirkung weit über geografische Grenzen hinaus. In Abwesenheit klarer nationaler Leitlinien können die von Kalifornien auferlegten Standards zu de-facto-nationalen oder sogar globalen Maßstäben werden. Dies ist angesichts der erheblichen Kaufkraft des Staates und seiner Rolle als Trendsetter in der Technologiegesetzgebung besonders bedeutsam.

Da Kalifornien die Führung bei der Neugestaltung der Landschaft der KI-Beschaffung übernimmt, rückt die Förderung von Transparenz, Rechenschaftspflicht und ethischen Überlegungen beim Einsatz von KI-Technologien in den Fokus. Mit innovativen Maßnahmen wie dem AI FactSheet und standardisierten Vertragsklauseln setzt der Staat einen Präzedenzfall für verantwortungsvolle KI-Governance und ebnet den Weg für eine Zukunft, in der Technologie dem Gemeinwohl dient und gleichzeitig ethische Standards wahrt.