New Yorks Versuch, KI-Verzerrungen bei der Einstellung einzudämmen, scheitert und erstickt globale Initiativen

Um das anhaltende Problem der KI-bedingten Verzerrung bei der Personalauswahl anzugehen, führte New York City 2021 das Gesetz LL144 ein. Dieses verpflichtet Arbeitgeber, automatisierte Entscheidungssysteme für die Personalauswahl (AEDTs) jährlich auf Verzerrungen aufgrund von Rasse und Geschlecht zu überprüfen. Eine aktuelle Studie von Forschern der Cornell University, Consumer Reports und des Data & Society Research Institute hat jedoch gravierende Mängel in der Wirksamkeit des Gesetzes aufgedeckt. Die Studie, die noch nicht offiziell veröffentlicht, aber dem Register zugänglich gemacht wurde, enthüllt alarmierende Statistiken, die auf eine eklatante Nichteinhaltung der Vorschriften durch die von LL144 betroffenen Arbeitgeber hinweisen.

Die Realität der Ineffektivität von LL144 in Bezug auf KI-Verzerrungen

Lassen Sie uns die Einzelheiten des LL144-Gesetzes und die Ergebnisse der Studie genauer betrachten. Es zeigt sichdent dass LL144 trotz seiner guten Absichten nicht ausreichend durchsetzungsfähig ist, um Arbeitgeber zu einem wirksamen Vorgehen gegen KI-Verzerrungen zu verpflichten. Der weite Anwendungsbereich des Gesetzes lässt Arbeitgebern erheblichen Ermessensspielraum bei der Entscheidung, ob ihre Systeme unter seine Geltung fallen. Erschreckenderweise hatten von den 391 befragten Arbeitgebern nur 18 die erforderlichen Prüfberichte veröffentlicht, und lediglich 13 hatten Transparenzhinweise in ihre Stellenanzeigen aufgenommen.

Jacob Metcalf von Data & Society, Mitautor der Studie, wies auf die Schwächen des LL144 hin und betonte, dass es Arbeitgebern zu viel Ermessensspielraum einräume. Insbesondere sieht das Gesetz keine Korrekturmaßnahmen vor, wenn Prüfungen diskriminierende Ergebnisse aufdecken, wodurch Arbeitgeber teuren Zivilklagen ausgesetzt sind. Die Forscher beleuchteten zudem die Erfahrungen von Prüfern bei der Überprüfung von AEDTs (Alternative Employment Data Tests) in New Yorker Unternehmen und deckten Fälle auf, in denen Arbeitgeber aufgrund rechtlicher Bedenken auf die Veröffentlichung ungünstiger Prüfergebnisse verzichteten.

Globale Auswirkungen

Das Scheitern des New Yorker Versuchs, KI-Verzerrungen einzudämmen, hat weitreichende Folgen für ähnliche Initiativen weltweit. Gesetzesvorschläge in anderen Jurisdiktionen, darunter Kalifornien, Washington D.C. und der Bundesstaat New York, erlitten Rückschläge, da die Gesetzgeber angesichts der Mängel des LL144 ihre Strukturen überdenken. Selbst das KI-Gesetz der Europäischen Union, das zwar vorläufig verabschiedet wurde, steht vor Herausforderungen bei defivon Vorschriften für KI im Rekrutierungsprozess.

Die rechtlichen Probleme des HR-Softwareunternehmens Workday unterstreichen die Dringlichkeit, KI-Verzerrungen anzugehen. Trotz des begrenzten Erfolgs von LL144 argumentieren die Forscher, dass das Gesetz wertvolle Erkenntnisse liefert und ein wichtiger erster Schritt hin zu einer besseren Regulierung ist. Sie betonen jedoch die Notwendigkeit, den Anwendungsbereich der Gesetzgebung zu erweitern und fordern zukünftige Gesetze auf,tracFormulierungen zu vermeiden und klarere defizu liefern, insbesondere hinsichtlich der Frage, was unter die Nutzung von AEDT-Software fällt.

Ein Aufruf zu klareren Gesetzen

Eine entscheidende Frage zur Zukunft der KI-Verzerrungen stellt sich. Welche Lehren lassen sich aus den Mängeln des LL144 ziehen, um weltweit effektivere und umfassendere Gesetze zu entwickeln? Im Zuge der anhaltenden Diskussionen um KI-Verzerrungen wird der Bedarf an klareren defidentdentdentdentdentdentdentdentDer Weg zur Regulierung von KI bei Einstellungsentscheidungen mag mit Herausforderungen verbunden sein, doch die Lehren aus den Fehlern des LL144 könnten den Weg für robustere und wirkungsvollere Regelungen in der Zukunft ebnen.