New Yorks Versuch, KI-Voreingenommenheit bei Einstellungen einzudämmen, scheitert und behindert globale Initiativen
- Das New Yorker Lokalgesetz 144 (LL144), das darauf abzielte, Voreingenommenheit in KI-Einstellungsalgorithmen zu bekämpfen, erweist sich als weitgehend unwirksam; nur ein Bruchteil der Arbeitgeber erfüllt die Anforderungen an Prüfungen und Transparenz.
- Eine kürzlich durchgeführte Studie von der Cornell University, Consumer Reports und dem Data & Society Research Institute hebt erhebliche Mängel von LL144 hervor und zeigt auf, dass es Arbeitgebern übermäßige Ermessensspielräume gewährt und keine wirksamen Maßnahmen gegen diskriminierende Ergebnisse durchsetzt.
- Das Scheitern von LL144 hat Auswirkungen über seine Zuständigkeit hinaus, da andere Regionen ähnliche Gesetze neu überdenken und damit globale Bemühungen zur Regulierung von KI-Voreingenommenheit bei Einstellungsentscheidungen behindern.
Um das hartnäckige Problem der KI-Voreingenommenheit bei Einstellungen anzugehen, hat New York City im Jahr 2021 das Local Law 144 (LL144) eingeführt, das Arbeitgeber verpflichtet, automatisierte Entscheidungswerkzeuge für Beschäftigungen (AEDTs) jährlich auf Rassen- und Geschlechtervoreingenommenheit zu überprüfen. Eine kürzlich von Forschern der Cornell University, Consumer Reports und des Data & Society Research Institute durchgeführte Studie hat jedoch erhebliche Mängel in der Wirksamkeit des Gesetzes aufgedeckt. Die Studie, die noch nicht offiziell veröffentlicht wurde, aber dem Register geteilt wurde, zeigt alarmierende Statistiken, die auf einen eklatanten Mangel an Compliance unter Arbeitgebern hinweisen, die LL144 unterliegen.
Die Realität der LL144: Ineffektivität bei der Bekämpfung von KI-Bias
Lassen Sie uns die Einzelheiten des LL144-Gesetzes und die Ergebnisse der Studie genauer betrachten. Es wird deutlich, dass LL144 trotz guter Absichten keine ausreichenden Durchsetzungsmöglichkeiten bietet, um Arbeitgeber wirksam zur Bekämpfung von KI-Bias zu verpflichten. Der breite Anwendungsbereich des Gesetzes gibt Arbeitgebern erheblichen Spielraum bei der Entscheidung, ob ihre Systeme unter seine Bestimmungen fallen. Erschreckenderweise haben von den 391 befragten Arbeitgebern nur 18 die erforderlichen Audit-Berichte veröffentlicht, und lediglich 13 haben Transparenzmitteilungen in ihren Stellenanzeigen aufgenommen.
Der Co-Autor der Studie, Jacob Metcalf von Data & Society, wies auf die Mängel von LL144 hin und betonte, dass dem Gesetz zu viel Ermessen an die Arbeitgeber überlässt. Bemerkenswerterweise schreibt das Gesetz keine Korrekturmaßnahmen vor, wenn Audits diskriminierende Ergebnisse zutage fördern, was Arbeitgeber teuren Zivilklagen aussetzt. Die Forscher beleuchteten zudem die Erfahrungen von Prüfern, die AEDTs (Automated Employment Decision Tools) von Unternehmen in New York City überprüften, und deckten Fälle auf, in denen Arbeitgeber aus rechtlichen Bedenken darauf verzichteten, Audit-Ergebnisse mit ungünstigen Zahlen zu veröffentlichen.
Globale Auswirkungen
Das Scheitern von New Yorks Versuch, KI-Bias einzudämmen, hat wellenartige Auswirkungen auf ähnliche Initiativen weltweit. Vorgeschlagene Gesetzgebungen in anderen Jurisdiktionen, darunter Kalifornien, Washington D.C. und der Bundesstaat New York, haben Rückschläge erfahren, da Gesetzgeber ihre Strukturen angesichts der Mängel von LL144 neu überdenken. Sogar der AI Act der Europäischen Union, der zwar vorläufig vereinbart wurde, sieht sich mit Herausforderungen bei der Definition von Vorschriften für KI in Einstellungsprozessen konfrontiert.
Besonders die rechtlichen Probleme der HR-Softwarefirma Workday unterstreichen die Dringlichkeit, KI-Bias anzugehen. Trotz des begrenzten Erfolgs von LL144 argumentieren die Forscher, dass das Gesetz eine wertvolle Lernerfahrung und ein entscheidender erster Schritt hin zu einer besseren Regulierung darstellt. Sie betonen jedoch die Notwendigkeit, den Anwendungsbereich der Gesetzgebung zu erweitern und künftige Gesetze aufzuordnen, abstrakte Formulierungen zu vermeiden und klarere Definitionen bereitzustellen, insbesondere bei der Bestimmung dessen, was als abgedeckter Einsatz von AEDT-Software gilt.
Ein Aufruf zu klareren Gesetzen
Es stellt sich eine entscheidende Frage zur Zukunft der KI-Voreingenommenheits-Regulierung. Angesichts der Mängel von LL144, welche Lehren können gezogen werden, um wirksamere und umfassendere Gesetzgebung global zu gestalten? Da die Diskussionen über KI-Voreingenommenheit weitergehen, wird die Notwendigkeit klarerer Definitionen, eines breiteren Umfangs und strengerer Durchsetzungsmaßnahmen zunehmend offensichtlich. Der Weg zur Regulierung von KI bei Einstellungsentscheidungen mag voller Herausforderungen sein, aber das Lernen aus den Fehlern von LL144 könnte den Weg für robustere und wirkungsvollere Regulierungen in der Zukunft ebnen.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
