뉴욕의 AI 채용 편향 방지 시도 실패, 국제적 노력에 제동 걸어

채용 과정에서 인공지능(AI) 편향 문제가 지속적으로 제기되는 가운데, 뉴욕시는 2021년 인종 및 성별 편향 여부를 확인하기 위해 고용주가 자동화된 채용 결정 도구(AEDT)를 매년 감사하도록 의무화하는 조례 144(LL144)를 시행했습니다. 그러나 코넬 대학교, 컨슈머 리포트, 데이터앤소사이어티 연구소의 연구진이 최근 실시한 연구에 따르면 이 법의 실효성에 중대한 결함이 있는 것으로 나타났습니다. 아직 공식 발표되지는 않았지만, 더 레지스터(The Register)에 제공된 이 연구 결과는 LL144의 적용을 받는 고용주들 사이에서 법규 준수율이 현저히 낮다는 충격적인 통계를 보여줍니다.

LL144가 AI 편향에 효과적이지 않다는 현실

LL144 법의 구체적인 내용과 연구 결과를 자세히 살펴보겠습니다. 좋은 의도에도 불구하고 LL144 법은 고용주가 AI 편향 문제를 효과적으로 해결하도록 강제하는 데 실효성이 부족하다는 것이dent 집니다. 법의 광범위한 적용 범위로 인해 고용주는 자사 시스템이 법의 적용 대상에 해당하는지 여부를 판단하는 데 상당한 재량권을 갖습니다. 놀랍게도 표본으로 추출된 391개 고용주 중 단 18개만이 필수 감사 보고서를 공개했고, 채용 공고에 투명성 고지를 포함한 곳은 단 13개에 불과했습니다.

이 연구의 공동 저자인 데이터 앤 소사이어티의 제이콥 메트칼프는 LL144의 한계를 지적하며, 특히 고용주에게 지나치게 많은 재량권을 부여한다고 강조했습니다. 주목할 만한 점은, 이 법이 감사를 통해 차별적인 결과가 드러났을 경우 시정 조치를 의무화하지 않아 고용주가 막대한 비용이 드는 민사 소송에 휘말릴 위험이 있다는 것입니다. 연구진은 또한 뉴욕시 기업들이 사용하는 AEDT(자동화된 고용시간)를 검토한 감사관들의 경험을 조명하며, 고용주들이 법적 우려 때문에 불리한 수치가 포함된 감사 결과를 공개하지 않기로 결정한 사례들을 밝혀냈습니다.

전 세계적인 파급 효과

뉴욕의 AI 편향 방지 시도 실패는 전 세계 유사 사업에 파급 효과를 미치고 있습니다. 캘리포니아, 워싱턴 D.C., 뉴욕주를 포함한 다른 지역에서 발의된 법안들은 LL144의 한계를 고려하여 입법자들이 법안 구조를 재검토하면서 난관에 봉착했습니다. 유럽연합의 AI 법안조차도 잠정적으로 합의되었지만, 채용 과정에 사용되는 AI에 대한 규정을 defi하는 데 어려움을 겪고 있습니다.

특히, 인사 관리 소프트웨어 회사인 워크데이(Workday)의 법적 문제는 AI 편향 문제를 시급히 해결해야 할 필요성을 강조합니다. LL144 법안의 제한적인 성공에도 불구하고, 연구진은 이 법안이 귀중한 학습 경험이자 더 나은 규제를 향한 중요한 첫걸음이라고 주장합니다. 그러나 그들은 입법 범위를 확대해야 할 필요성을 강조하며, 향후 법률에서는trac인 defi지양하고 특히 AEDT 소프트웨어의 적용 대상 사용 범위를 명확히 정의해야 한다고 촉구합니다.

보다 명확한 법률 제정을 촉구합니다

의 미래에 대한 중요한 질문이 인공지능 편향 제기됩니다. LL144의 한계를 고려할 때, 보다 효과적이고 포괄적인 글로벌 법률 제정을 위해 어떤 교훈을 얻을 수 있을까요? 인공지능 편향에 대한 논의가 계속되는 가운데, 보다 명확한 정의, 광범위한 적용 범위, 그리고 엄격한 집행 조치의 필요성이 defidentdentdentdentdentdentdentdent. 채용 결정 과정에서 인공지능을 규제하는 여정은 험난할 수 있지만, LL144의 실수를 교훈 삼아 미래에 더욱 강력하고 영향력 있는 규제를 마련할 수 있을 것입니다.