뉴욕의 채용 AI 편향 억제 시도는 실패하며 글로벌 이니셔티브를 위축시킴

채용 분야의 지속되는 AI 편향 문제를 해결하기 위해 뉴욕시는 2021년 지역법 144호(LL144)를 시행하여 고용주가 인종 및 성별 편향에 대해 자동화된 고용 결정 도구(AEDT)를 매년 감사하도록 요구했습니다. 그러나 코넬 대학교, 컨슈머 리포트, 데이터 앤 소사이어티 연구소의 연구원들이 수행한 최근 연구는 이 법의 효과성에 주요 결함이 있음을 드러냈습니다. 아직 공식적으로 출판되지는 않았지만 더 레지스터(The Register)에 공유된 이 연구는 LL144의 적용을 받는 고용주들 사이에서 준수율이 현저히 낮음을 나타내는 놀라운 통계를 공개했습니다.

LL144의 AI 편향에 대한 비효율성의 현실

LL144 법과 연구의 구체적인 내용에 대해 자세히 살펴보겠습니다. 좋은 의도를 가지고 있음에도 불구하고, LL144은 고용주가 AI 편향을 효과적으로 해결하도록 강제하는 데 있어 실효성이 부족함이 분명해집니다. 이 법의 광범위한 범위는 고용주에게 자신의 시스템이 이 법의 적용 대상인지 여부를 결정할 상당한 재량을 부여합니다. 놀랍게도 표본으로 추출된 391명의 고용주 중 필요한 감사 보고서를 게시한 곳은 단 18곳에 불과했으며, 채용 공고에 투명성 고지를 포함시킨 곳은 고작 13곳뿐이었습니다.

데이터 앤 소사이어티의 공동 저자 제이콥 메트칼프는 LL144의 한계를 지적하며 고용주에게 너무 많은 재량을 부여한다고 강조했습니다. 특히 이 법은 감사에서 차별적인 결과가 발견될 경우 시정 조치를 의무화하지 않아, 고용주가 비용이 많이 드는 민사 소송에 노출될 수 있게 만듭니다. 연구원들은 또한 뉴욕시 기업들이 사용하는 AEDT를 검토하는 감사원들의 경험을 조명하며, 법적 우려로 인해 불리한 수치가 포함된 감사 결과를 공개하지 않기로 선택한 고용주들의 사례를 드러냈습니다.

글로벌 파장

뉴욕의 AI 편향 억제 시도의 실패는 전 세계 유사한 이니셔티브에 파급 효과를 미치고 있습니다. 캘리포니아, 워싱턴 D.C., 뉴욕 주를 포함한 다른 관할 구역에서 제안된 입법들은 LL144의 한계를 고려하여 입법자들이 그 구조를 재고하면서 좌절을 겪었습니다. 유럽연합의 AI 법안도 잠정적으로 합의되었지만, 채용 프로세스에서 사용되는 AI에 대한 규정을 정의하는 데 어려움을 겪고 있습니다.

특히 HR 소프트웨어 기업 워크데이의 법적 문제는 AI 편향 문제를 해결해야 하는 시급성을 강조합니다. LL144의 제한된 성공에도 불구하고, 연구원들은 이 법이 더 나은 규제로 가는 가치 있는 학습 경험이자 중요한 첫걸음이라고 주장합니다. 그러나 그들은 입법의 범위를 넓힐 필요성을 강조하며, 향후 입법들이 추상적인 언어를 버리고 AEDT 소프트웨어의 적용 대상이 되는 용도를 결정하는 데 특히 더 명확한 정의를 제공해야 한다고 촉구합니다.

더 명확한 입법을 위한 촉구

AI 편향 규제에 대한 미래에 대한 중요한 질문이 제기됩니다. LL144의 한계를 고려할 때, 전 세계적으로 더 효과적이고 포괄적인 입법을 형성하기 위해 어떤 교훈을 얻을 수 있을까요? AI 편향에 대한 논의가 계속됨에 따라 더 명확한 정의, 더 넓은 범위, 그리고 엄격한 집행 조치의 필요성이 점점 더 분명해지고 있습니다. 채용 결정에서 AI를 규제하는 여정은 수많은 도전과제에 직면할 수 있지만, LL144의 실수에서 배우는 것이 미래에 더 강력하고 영향력 있는 규제의 길을 열 수 있을 것입니다.