採用におけるAIバイアス抑制を目指すニューヨークの試みは失敗し、世界的な取り組みを阻害している

採用におけるAIバイアスの持続的な問題に対処するため、ニューヨーク市は2021年に地方法144号（LL144）を施行し、雇用主に対し人種および性別のバイアスについて自動化された雇用決定ツール（AEDT）の年次監査を義務付けた。しかし、コーネル大学、コンシューマー・レポート、Data & Society研究所の研究者らによって行われた最近の研究により、この法律の有効性に重大な欠陥があることが明らかになった。まだ正式に公開されていないがThe Registerに共有されたこの研究は、衝撃的な統計データを明らかにしており、LL144の適用対象となる雇用主の間で遵守状況が著しく欠如していることを示している。

LL144のAIバイアスに対する非効果性の現実

LL144法の詳細と研究の発見について掘り下げてみよう。その善意にもかかわらず、LL144は雇用主がAIバイアスに対処することを効果的に強制する力（歯）を欠いていることが明らかになる。この法律の広範な範囲は、雇用主が自社のシステムがこの法律の適用対象となるかどうかを決定する際に considerable な裁量権を与えている。驚くべきことに、サンプリングされた391社の雇用主のうち、必要な監査報告書を公開したのはわずか18社だけで、求人情報に透明性に関する通知を含めたのはわずか13社しかなかった。

Data & Societyの共同著者であるジェイコブ・メットカルフは、LL144の欠点を指摘し、雇用主に対して過度な裁量権を与えていることを強調した。特筆すべきは、監査で差別的な結果が発見された場合でも是正措置を義務付けておらず、雇用主が高額な民事訴訟に晒される可能性があることだ。研究者らはまた、NYC企業のAEDTをレビューする監査員の経験にも光を当て、雇用主が法的懸念から不利な数値を含む監査結果を公開しないケースがあることを明らかにした。

世界的な影響

ニューヨークのAIバイアス抑制試みの失敗は、世界中の類似した取り組みに影響を与えている。カリフォルニア、ワシントンD.C.、ニューヨーク州など他の管轄区域で提案されている立法は、LL144の欠点を踏まえて立法府がその構造を再検討しているため、遅れをとっている。暫定的に合意された欧州連合（EU）のAI法でさえ、採用プロセスで使用されるAIの規制を定義する上で課題に直面している。

特に注目すべきは、HRソフトウェア企業のWorkdayの法的トラブルが、AIバイアスに対処する緊急性を浮き彫りにしている点である。LL144の限定的な成功にもかかわらず、研究者らはこの法律がより良い規制への貴重な学習機会であり、重要な第一歩であると主張している。しかし彼らは、立法の範囲を拡大する必要性を強調し、将来の法律は抽象的な表現を捨て、特にAEDTソフトウェアのどの使用が対象となるかを決定する際に明確な定義を提供するよう求めている。

より明確な立法への呼びかけ

AIバイアスの規制の未来に関する重要な問いが浮上しています。LL144の欠点を踏まえ、より効果的で包括的な立法を形成するためにどのような教訓が得られるでしょうか。AIバイアスをめぐる議論が続く中で、明確な定義、より広い範囲、そして厳格な執行措置の必要性がますます明らかになっています。採用判断におけるAIの規制への道は課題に満ちているかもしれませんが、LL144の失敗から学ぶことで、将来より強固で影響力のある規制への道が開かれる可能性があります。