EU-Gesetzgeber einigen sich auf den AI Act

In einer entscheidenden Entwicklung haben die Gesetzgeber der Europäischen Union in Brüssel einen bedeutenden Durchschuss erzielt, indem sie eine „vorläufige Einigung“ über den lang erwarteten Artificial Intelligence Act (AI Act) erzielt haben. Diese wegweisende Gesetzgebung ist darauf ausgerichtet, einen umfassenden Satz von Regeln zu etablieren, die die KI in der EU regeln werden, und könnte möglicherweise als Präzedenzfall für andere Nationen dienen, die sich in der sich wandelnden Landschaft der KI-Regulierung bewegen.

Der AI Act der EU war Gegenstand intensiver Verhandlungen, wobei die neueste Runde in einer vorläufigen Einigung mündete, die strenge Verpflichtungen für hochwirksame General-Purpose-AI-Systeme (GPAI) umreißt. Diese Verpflichtungen umfassen entscheidende Benchmarks wie Risikobewertungen, adversariales Testen, Incident-Meldungen und ein Transparenzgebot, das technische Dokumente und detaillierte Zusammenfassungen der Trainingsdaten erfordert – eine Forderung, der einige KI-Unternehmen, darunter ChatGPT-Hersteller OpenAI, zuvor widerstanden haben.

Verpflichtungen für hochwirksame KI-Systeme

Innerhalb dieses legislativen Rahmens haben die Verhandlungsführer die Verpflichtungen, die hochwirksame GPAI-Systeme einhalten müssen, sorgfältig abgegrenzt. Diese Verpflichtungen umfassen ein Spektrum an Benchmarks, darunter rigorose Risikobewertungen und adversariales Testen, um die Zuverlässigkeit und den ethischen Einsatz dieser fortschrittlichen KI-Systeme sicherzustellen. Darüber hinaus erfordert das Transparenzgebot die Erstellung technischer Dokumente und detaillierter Zusammenfassungen bezüglich der für das Training verwendeten Inhalte – ein Aspekt, der darauf abzielt, Bedenken hinsichtlich der Rechenschaftspflicht und Offenlegung anzusprechen.

Darüber hinaus führt der AI Act eine bemerkenswerte Bestimmung ein, die Bürgern das Recht einräumt, Beschwerden über KI-Systeme einzureichen, insbesondere über solche, die als „hochriskant“ eingestuft sind und direkten Einfluss auf individuelle Rechte haben. Diese Betonung der Bürgerbefähigung spiegelt das Engagement wider, Rechenschaftspflicht sicherzustellen und Transparenz bei der Bereitstellung von KI-Technologien zu fördern.

Die Pressemitteilung geht zwar nicht auf detaillierte Angaben zu den Benchmarks ein, skizziert jedoch einen Rahmen für die Verhängung von Geldbußen im Falle von Regelverstößen. Die Geldbußen, die je nach Art und Größe des Unternehmens variieren, reichen von 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes bis hin zu 7,5 Millionen Euro oder 1,5 Prozent des weltweiten Umsatzes.

Verbotene KI-Anwendungen und laufende Verhandlungen

Der AI Act verbietet auch ausdrücklich mehrere Anwendungen der KI-Technologie und geht dabei auf Bedenken im Zusammenhang mit Privatsphäre, Diskriminierung und Manipulation ein. Zu den verbotenen Aktivitäten gehören das Scrapen von Gesichtsbildern aus CCTV-Aufnahmen, die Kategorisierung auf der Grundlage sensibler Merkmale wie Rasse oder sexuelle Orientierung, die Emotionserkennung in Arbeits- oder Schulumgebungen sowie die Erstellung von Social-Score-Systemen. Darüber hinaus sind KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen zu umgehen, oder die Ausnutzung von Verwundbarkeiten, strikt verboten.

Trotz der vorläufigen Einigung bestehen die Verhandlungen auf wichtigen Fronten fort, einschließlich der Regulierung der Echtzeit-Biometrieüberwachung, insbesondere der Gesichtserkennung, und der Governance von General-Purpose-Grundlagen-KI-Modellen wie ChatGPT von OpenAI. Diese Diskussionen waren von spaltenden Debatten geprägt, die die Ankündigung der vorläufigen Einigung verzögert haben. Bemerkenswerterweise haben EU-Gesetzgeber für ein vollständiges Verbot von KI in der biometrischen Überwachung plädiert, während Regierungen Ausnahmen für militärische, polizeiliche und nationale Sicherheitsanwendungen suchen. Späte Vorschläge aus Frankreich, Deutschland und Italien, die darauf abzielen, die Selbstregulierung für generative KI-Modelle zu ermöglichen, haben die laufenden Beratungen weiter vorangetrieben.

Während die Verhandlungen andauern, wird die Finalisierung eines umfassenden Deals voraussichtlich vor Ende des Jahres erwartet. Die Umsetzung des AI Act wird jedoch voraussichtlich frühestens bis 2025 verschoben, um zusätzliche Beratungen und Abstimmungen durch die Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des Parlaments zu ermöglichen.

Die Zukunft mit dem AI Act der EU gestalten

Während Europa einen wegweisenden Schritt hin zu umfassenden KI-Regulierungen unternimmt, wirft die vorläufige Einigung über den AI Act kritische Fragen zur künftigen Entwicklung der KI-Regulierung auf. Wie wird die laufende Verhandlung das endgültige Landschaftsbild der KI-Regulierungen in der EU prägen, und welche globalen Auswirkungen könnten aus dieser bahnbrechenden Gesetzgebung entstehen? Die Antworten auf diese Fragen sind der Schlüssel zur Schaffung eines ausgewogenen und rechenschaftspflichtigen Rahmens für den Einsatz von KI und setzen möglicherweise einen Maßstab für Nationen, die mit den Herausforderungen und Chancen der künstlichen Intelligenz kämpfen.