Die zunehmende Integration künstlicher Intelligenz (KI) in Geschäftsprozesse, insbesondere in die Personalbeschaffung , gibt Personalverantwortlichen und Arbeitsrechtlern Anlass zu erheblicher Besorgnis. Katherine Cooke, Senior Associate im Arbeitsrecht der Anwaltskanzlei Higgs LLP , warnt Unternehmen vor dem Risiko unbeabsichtigter Diskriminierung bei der Nutzung von KI im Recruiting. Diese Entwicklung verdeutlicht die Ambivalenz von KI: Sie steigert die Effizienz, birgt aber gleichzeitig das Potenzial für rechtliche und ethische Dilemmata.
Rechtliche Haftung und Diskriminierungsrisiken
Der Einsatz von KI bei der Sichtung von Bewerbungen ist mittlerweile gängige Praxis, um die Vielzahl an Bewerbungen zu bewältigen und Auswahlprozesse zu optimieren. KI-Systeme können Kandidaten zwar anhand vordefinierter Kriterien wie akademische Leistungen oder spezifischer Qualifikationen effizient einstufen, doch besteht ein wachsendes Risiko unbeabsichtigter Verzerrungen. Cooke hebt Fälle hervor, in denen KI-gestützte Prozesse zu Diskriminierung aufgrund des Geschlechts und der ethnischen Zugehörigkeit geführt haben, und erinnert Unternehmen daran, dass sie für solche Ergebnisse rechtlich haftbar gemacht werden können.
Diese Situation ist nicht hypothetisch, wiedentmit großen Unternehmen wie Amazon und Uber zeigen. Amazons Rekrutierungstool, das den Lebenslauf-Screening-Prozess automatisieren sollte, entwickelte sich dahingehend, dass es weibliche Bewerberinnen benachteiligte. Der Algorithmus, der die männerdominierten Mitarbeiterdaten des letzten Jahrzehnts widerspiegelte, begann, Lebensläufe abzuwerten, die „Frauen“-Vereinigungen oder -Gruppen erwähnten. Auch Uber hatte Probleme mit seiner Gesichtserkennungssoftware zur Authentifizierung registrierter Fahrer. Das KI-System wies eine deutlich höhere Fehlerquote bei der korrekten Erkennung dunkelhäutiger Gesichter auf, insbesondere bei Frauen.
Datenschutz: Ein wachsendes Problem
Neben Diskriminierung stellt der Datenschutz ein weiteres erhebliches Risiko im Zusammenhang mit KI in Geschäftsprozessen dar. KI-Systeme benötigen häufig Zugriff auf und Nutzung von Mitarbeiter- oder Kundendaten, was Bedenken hinsichtlich derdentund der Einhaltung gesetzlicher Bestimmungen aufwirft. Die Übermittlung solcher Daten außerhalb der Unternehmensgrenzen erfordert erhöhte Wachsamkeit hinsichtlich des Speicherorts und der Art der Datennutzung. Unternehmen müssen sich der potenziellen Risiken vondentund der rechtlichen Konsequenzen einer Datenverarbeitung jenseits des vorgesehenen rechtmäßigen Zwecks bewusst sein.
Leitfaden für den verantwortungsvollen Umgang mit KI
Um diese Herausforderungen zu meistern, raten die erfahrenen Arbeitsrechtler von Higgs LLP Unternehmen zur Einführung umfassender und wirksamer Richtlinien für den Einsatz von KI. Dies beinhaltet nicht nur die Festlegung klarer Leitlinien für die KI-Implementierung, sondern auch die kontinuierliche Überwachung, um diskriminierende Auswirkungen zudentund zu minimieren. Darüber hinaus ist die Schulung der Mitarbeiter im Umgang mit den Datenschutzrisiken von KI-Software unerlässlich, ebenso wie die Ergreifung notwendiger Sicherheitsmaßnahmen zum Schutz personenbezogener Daten.
Zusammenfassend lässt sich sagen, dass KI zwar ein enormes Transformationspotenzial für Geschäftsprozesse birgt, ihre Einführung jedoch mit erheblichen rechtlichen und ethischen Überlegungen verbunden ist. Unternehmen werden daher angehalten, die KI-Integration mit einer ausgewogenen Perspektive anzugehen und sowohl die Vorteile als auch die Notwendigkeit der Minimierung von Diskriminierungs- und Datenschutzrisiken zu berücksichtigen. Mit der Weiterentwicklung der KI müssen auch die Strategien und Richtlinien, die Unternehmen für den verantwortungsvollen Umgang mit ihren Möglichkeiten einsetzen, angepasst werden.
