Warum bestehende Gesetzgebung beim Schutz vor KI-bedingtem Schaden unzureichend ist

Während sich die Künstliche Intelligenz (KI) weiterhin rasch weiterentwickelt, stehen Regulierungsbehörden und Gesetzgeber weltweit vor der Herausforderung, potenzielle Schäden durch diese Technologie vorherzusehen und abzumildern. Viele haben argumentiert, dass bestehende Gesetze, wie Antidiskriminierungsgesetze, Gleichberechtigungsgesetze, Arbeitsmarktvorschriften und Datenschutzbestimmungen, ausreichen würden, um Einzelpersonen vor neuem, durch KI verursachte Schaden zu schützen. Das Ada Lovelace Institute im Vereinigten Königreich, bekannt für die Befürwortung einer gerechten Verteilung von Daten- und KI-Vorteilen, hat jedoch ein überzeugendes Argument gegen diese Auffassung vorgebracht. Die Untersuchung verschiedener Szenarien zeigt, dass rechtliche Rahmenwerke erhebliche Lücken beim Schutz von Einzelpersonen vor KI-Bedrohungen aufweisen.

Szenario 1: KI-Bewertung von Arbeitnehmern auf Null-Stunden-Verträgen

In diesem Szenario wird KI eingesetzt, um die Produktivität und Verfügbarkeit von Arbeitnehmern auf Null-Stunden-Verträgen in einem Lagerhaus zu bewerten. Die algorithmischen Entscheidungen könnten zu Kündigungen, reduzierten Schichten oder geringeren Löhnen basierend auf der Produktivität der Arbeitnehmer führen. Darüber hinaus könnte das System Rückschlüsse auf potenzielle Arbeitnehmer basierend auf ihrer Ähnlichkeit mit aktuellen Mitarbeitern ziehen, was zu schlechteren Arbeitsbedingungen aufgrund ständiger Überwachung führt.

Szenario 2: Biometrische Klassifizierung für Hypothekenantragsteller

Ein weiterer besorgniserregender Fall betrifft einen Hypothekenkreditgeber, der KI einsetzt, um Kreditbewerber auf der Grundlage ihrer Sprachmuster biometrisch zu klassifizieren. Ein solches Tool könnte Personen mit bestimmten Akzenten ungerechtfertigt diskriminieren, was möglicherweise mit Ethnizität, regionaler Herkunft oder Behinderungen zusammenhängt.

Szenario 3: Falsche Beratung durch einen Chatbot

Das dritte Szenario zeigt das britische Ministerium für Arbeit und Renten (Department for Work and Pensions), das einen Beratungs-Chatbot einführt, um Menschen über ihre Berechtigung für Sozialleistungen zu informieren. Der Chatbot liefert jedoch ungenaue Ratschläge, was zu fehlerhaften Aktualisierungen der Datensätze der Betroffenen führt.

Bestehende Vorschriften und Einschränkungen

Obwohl bestehende Vorschriften einige Aspekte dieser Szenarien abdecken, bieten sie keinen wirksamen Schutz vor Schäden durch KI. Die Datenschutz-Grundverordnung (DSGVO) kann beispielsweise die falschen Ratschläge des Chatbots ansprechen, führt jedoch nicht zu einer angemessenen Entschädigung für die betroffenen Personen. Ein robuster Schutz erfordert mehrere Schlüsselelemente:

1. Durchsetzbare regulatorische Anforderungen: Es sollte klare Richtlinien dafür geben, was KI-Verantwortliche und Entscheidungsträger tun dürfen und was nicht. Viele britische Aufsichtsbehörden stehen jedoch vor Einschränkungen bei Ressourcen, Informationen und Befugnissen, um die Einhaltung wirksam durchzusetzen.

2. Rechte auf Entschädigung: Einzelpersonen müssen die Möglichkeit haben, Entschädigung zu fordern, wenn KI-Systeme ihnen Schaden zufügen. Die Durchsetzung der DSGVO-Rechte vor Zivilgerichten kann für normale Menschen jedoch komplex, kostspielig und zeitaufwendig sein.

3. Transparente und kontextbezogene Transparenz: Einzelpersonen sollten Zugang zu aussagekräftiger und kontextbezogener Transparenz bezüglich KI-Entscheidungen haben, die sie betreffen. Leider erfüllen die aktuellen Transparenzanforderungen diese Erwartung nicht, da Verantwortliche die Transparenz oft einschränken können, wenn dies ihre kommerziellen Interessen gefährdet.

Das Problem mangelnder Transparenz

In allen Szenarien betont das Ada-Lovelace-Institut die entscheidende Rolle der Transparenz. Doch selbst die Transparenzanforderungen der DSGVO gewähren Einzelpersonen kein Recht auf Erklärungen für KI-Entscheidungen. Darüber hinaus könnten KI-gesteuerte Entscheidungen Einzelpersonen davon abhalten, diese in Frage zu stellen, was das Problem der begrenzten Transparenz noch verschärft.

Bestehende Gesetze schützen Einzelpersonen nicht ausreichend vor Schäden durch KI. Die Beispiele des Ada-Lovelace-Instituts zeigen erhebliche Lücken in den aktuellen Rechtsrahmen auf, die Einzelpersonen anfällig für potenzielle Diskriminierung, ungerechte Behandlung und fehlerhafte Entscheidungen durch KI-Systeme machen. Um sicherzustellen, dass KI allen zugutekommt und eine Kraft des Guten bleibt, müssen Aufsichtsbehörden diese Lücken umgehend schließen und Gesetze erlassen, die echten Schutz vor den unvorhergesehenen Folgen der KI-Technologie bieten. Nur durch proaktive und umfassende Maßnahmen können wir die Rechte der Einzelnen wahren und die ethische Entwicklung von KI fördern.

Hinweis: Das Bild erinnert an Film Noir, mit dunklen Tönen und hartem Licht, das die bedrohliche Natur der KI-Bedrohungen betont.