Europas KI-Gesetz erhält endgültige Genehmigung mit Bußgeldern bis zu $38M 

Die Europäische Union hat am Dienstag die endgültige Fassung ihres lang erwarteten Artificial Intelligence (AI) Act genehmigt und ist damit die erste große Wirtschaftsmacht, die umfassende Regeln für die junge Branche einführt. 

Die neuen Regeln, die darauf abzielen, die öffentliche Nutzung von als hochriskant eingestufter KI, wie Deepfakes und Gesichtserkennungssoftware, einzuschränken, gelten für alle Unternehmen, die solche Anwendungen in den 27 EU-Mitgliedstaaten einsetzen.

Insgesamt repräsentiert der EU-Block etwa 20 % der Weltwirtschaft. KI-Unternehmen, die gegen das neue Gesetz verstoßen, riskieren Geldstrafen von bis zu 35 Millionen Euro [$38 Millionen] oder 7 % ihres jährlichen weltweiten Umsatzes, laut dem EU-Rat.

Auch lesen: OpenAI streicht ChatGPT-Stimme nach Scarlett-Johansson-Kontroverse

Neue Gesetzgebung zielt auf „sichere KI“ ab

„Die Verabschiedung des KI-Gesetzes ist ein bedeutender Meilenstein für die Europäische Union“, erklärte Mathieu Michel, belgischer Staatssekretär für Digitalisierung und Datenschutz, in einer Erklärung.

Mit dem KI-Gesetz betont Europa die Bedeutung von Vertrauen, Transparenz und Rechenschaftspflicht im Umgang mit neuen Technologien und stellt gleichzeitig sicher, dass sich diese sich schnell verändernde Technologie entfalten und die europäische Innovation vorantreiben kann.

Mathieu Michel

Die drei Machtzweige der EU – die Kommission, das Parlament und der Rat – mussten alle der endgültigen Fassung des Gesetzes zustimmen. Die EU-Kommission und das Europäische Parlament hatten das Gesetz bereits genehmigt, und der EU-Rat gab am 22. Mai die endgültige Zustimmung.

Der KI-Gesetzentwurf definiert verschiedene Risikokategorien für den Einsatz von künstlicher Intelligenz, von „geringem Risiko“ bis hin zu „hohem“ und „unakzeptablem Risiko“. Die Kategorisierung basiert auf dem Potenzial der Systeme, Verbraucher zu schädigen.

KI-Anwendungen, die als Bedrohung für individuelle Rechte gelten, wie Gesichtserkennungssoftware an öffentlichen Orten und Social Scoring – eine Praxis, bei der Personen basierend auf ihrem Verhalten Punktzahlen für Kredite oder Wohnraum zugewiesen werden – werden vollständig verboten.

Die Kategorie mit dem geringsten Risiko bezieht sich auf KI in Videospielen oder Spam-Filtern. Sensible „hochriskante“ Anwendungsfälle, die erlaubt sein werden, umfassen Dinge wie Grenzmanagement, Bildung und Rekrutierung.

Unternehmen, die solche Technologien einsetzen, müssen mehr Informationen über die zur Schulung ihrer Systeme verwendeten Daten offenlegen. Laut der EU wird ihr Parlament befugt sein, Geldstrafen gegen Unternehmen, die gegen das KI-Gesetz verstoßen, in Höhe von 38 Millionen US-Dollar oder 7 % ihres jährlichen weltweiten Umsatzes zu verhängen.

#TTE | 🇪🇺Telekomminister haben heute das KI-Gesetz verabschiedet🤖

Sie diskutierten zudem die Umsetzung der EU-Vorschriften im digitalen Bereich und verabschiedeten Schlussfolgerungen zur digitalen Politik der EU sowie zur Cybersicherheit.

Lesen Sie die wichtigsten Ergebnisse ➡️https://t.co/Q4eWvrgslw pic.twitter.com/Ayf6EF5NS9

— EU-Rat (@EUCouncil) Mai 21, 2024

KI-Gesetz riskiert, Investitionen zu ersticken

Matthijs de Vries, Gründer des KI-Daten-Ökosystems Nuklai, sagte, die Regeln seien dazu gedacht, persönliche Informationen zu schützen, insbesondere in sensiblen Sektoren wie Gesundheitswesen und Finanzen.

„Indem sichergestellt wird, dass KI-Systeme strikten Datenverwendungsprotokollen entsprechen, hilft das KI-Gesetz, die Privatsphäre und Sicherheit der Verbraucher zu schützen“, sagte de Vries gegenüber Cryptopolitan.

„Die Offenlegung von Praktiken zur Datenerfassung, -verarbeitung und -nutzung, die im EU-Datenschutzgesetz vorgeschrieben sind, hilft, zu entschlüsseln, auf welche Daten KI trainiert wird und welche Daten sie zur Erstellung ihrer Aussagen und Schlussfolgerungen verwendet. Dies trägt dazu bei, das Vertrauen, die Überprüfbarkeit und die Zuverlässigkeit von KI-Systemen zu stärken“, fügte er hinzu.

Es gab Bedenken, dass Startups Schwierigkeiten haben könnten, das KI-Gesetz einzuhalten. Gründer befürchten, dass die Maßnahmen kleinere Unternehmen schädigen und Investitionen sowie Innovationen behindern könnten, was Europa im KI-Wettlauf weiter hinter die USA und China zurückwerfen würde.

Im Oktober sagte Cedric O, Gründer des französischen KI-Startups Mistral, das Gesetz würde seine Firma „töten“. Der Unternehmer befürchtete, dass das Gesetz große Sprachmodelle übermäßig unter die Lupe nahm, selbst wenn sie nicht für sensible Anwendungsfälle wie Einstellungen eingesetzt wurden, wie Sifted berichtete.

Jonas Andrulis, CEO von Aleph Alpha, dem deutschen Konkurrenten von OpenAI, sagte, dass die Einstufung von „Allzweck-KI“ wie LLMs als hochriskant unbeabsichtigte Folgen haben könnte. Seine Kommentare wurden von Peter Sarlin, CEO von Finlands Silo AI. geteilt.

„Wenn wir generative KI-Technologien verallgemeinern und sagen, dass alle Anwendungsfälle, die generative vortrainierte Transformer (GPTs) nutzen, hochriskant sind, dann regulieren wir wahrscheinlich auch viele Anwendungsfälle, die eigentlich nicht hochriskant sind“, sagte Sarlin damals.

EU’s „KI-Fabriken“ sollen Innovation fördern

Nicht nur Unternehmer haben Bedenken bezüglich des KI-Gesetzes geäußert. Eine Analyse des US-Außenministeriums im Oktober 2023 warnte, dass einige Regeln im Gesetz auf „vagen oder undefinierten“ Begriffen basierten, laut Bloomberg.

Die Analyse besagte, dass das Gesetz den größten Tech-Unternehmen zugutekommen würde, die über die finanziellen Mittel verfügen, um KI-Modelle und Machine-Learning-Systeme zu trainieren. Kleinere Unternehmen würden wahrscheinlich Verluste erleiden, hieß es weiter.

Darüber hinaus ist es unwahrscheinlich, dass Venture-Fonds in Startups investieren, die vom KI-Gesetz als hochriskant eingestuft werden, laut einer Umfrage von 2023 unter 14 europäischen VCs der Initiative for Applied AI. Elf der Fonds gaben an, dass sie weniger geneigt sind, in Unternehmen mit einer Hochrisikobewertung zu investieren, und acht sagten, dies würde die Bewertung des Startups stark beeinträchtigen.

Auch lesen: Top-KI-Chatbots „hochgradig anfällig" , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ", " , ", " : ",

Ende Januar kündigte der EU-Block eine Reihe von Maßnahmen an, die darauf abzielen, die Innovation für europäische Startups zu fördern, die sogenannte „vertrauenswürdige“ KI entwickeln, die „EU-Werte und -Regeln respektiert.“

Die Union sagte, die Unternehmen hätten „bevorzugten Zugang zu Supercomputern“ und die EU werde „KI-Fabriken“ bauen, um sicherzustellen, dass die erforderliche Infrastruktur für Startups zum Kauf und zur Aufrüstung verfügbar ist.

Es wird erwartet, dass Europas KI-Gesetz erst bis 2025 in Kraft tritt.

Bericht von Cryptopolitan von Jeffrey Gogo