뉴욕시, AI 편향 해결을 위한 새로운 법안 초안

뉴욕시는 최근 실시한 새로운 입법은 인공지능 기반 고용 도구에 초점을 맞추고 있으며, 이는 고용 결정에서의 편향을 해결하고 공정성을 촉진하는 것을 목표로 합니다. Local Law 144로 알려진 이 입법은 고용주와 기관들이过去一年 동안 편향 감사(biased audit)를 거치지 않은 자동화된 고용 결정 도구(AEDT)를 사용하지 못하도록 금지합니다.

뉴욕시, AI 편향 제거를 위한 입법 통과

규정에 따라 감사 결과는 공개되어야 하며, 직원 및 구직자는 적절한 통지를 받아야 합니다. 이 법은 자동화된 고용 결정 도구를 재량적 의사 결정을 보조하거나 대체하는 시스템으로 정의합니다. 이러한 도구의 예에는 이력서 스크리닝 또는 사전 스크리닝에 일반적으로 사용되는 Freshworks, Breezy HR, Greenhouse, Zoho Recruits와 같은 인기 플랫폼이 포함됩니다.

뉴욕시 소비자 및 노동자 보호국(DCWP)은 이 새로운 규칙을 시행하는 데 중요한 역할을 수행할 것입니다. 잠재적 편향 위반에 대한 문의에 대응하여 DCWP는 불만을 수집하고 조사할 것입니다. 해당 기관은 위반 사항에 대한 민사 벌금이 사례별로 결정될 것이며, AEDT 사용이 법을 위반하는 각 날짜마다 별도의 위반 사항이 부과될 수 있다고 밝혔습니다.

비즈니스 리뷰 웹사이트인 B2B Reviews의 최근 보고서는 인사(HR) 부서에서 AI 도구의 사용이 증가하고 있음을 강조했습니다. 보고서에 따르면, 조사된 HR 부서 중 21%가 교육 및 개발 목적으로 OpenAI의 ChatGPT와 같은 AI 도구를 사용하고 있다고 인정했으며, 그 결과 주당 평균 70분의 시간을 절약했습니다. 또한, HR 부서 중 10%는 해고 통지서 초안을 작성하는 데 ChatGPT와 같은 챗봇에 의존한다고 밝혔습니다.

이 입법은 공정성을 확보하고 불만을 해결할 수 있도록 할 것입니다.

AEDT 규칙 개발 과정에서는 구직자의 권리와 기업의 요구 사항을 신중하게 고려했습니다. DCWP 대변인은 규칙 제정 과정에서 이 두 요소 간에 적절한 규제 균형을 맞추는 것을 목표로 한다고 강조했습니다.

이 입법의 도입은 AI 기반 고용 도구에서 잠재적 편향과 차별에 대한 우려가 커지고 있음을 반영합니다. 인공 지능이 우리 삶의 다양한 측면에 더 많이 통합됨에 따라 공정성과 투명성을 보장하는 것이 중요합니다. 정기적인 편향 감사를 의무화하고 그 결과를 대중에게 공개함으로써 뉴욕시는 자동화 고용 결정 도구의 책임 있는 사용에 대해 고용주와 기관을 책임지게 하려는 목표를 가지고 있습니다.

비판자들은 이 입법이 기업에 추가적인 부담을 부과하고 AI 도구를 효과적으로 활용하는 능력을 제한할 수 있다고 주장합니다. 그들은 빈번한 감사 요구가 혁신을 저해하고 유익한 기술의 채택을 방해할 수 있다고 경고합니다. 빠르게 진화하는 AI 및 고용 관행 분야에서 공정성의 필요성과 비즈니스 운영에 미칠 잠재적 영향 사이의 균형을 맞추는 것은 여전히 지속적인 과제로 남아 있습니다.

그럼에도 불구하고, 뉴욕시의 Local Law 144 시행은 AI 기반 고용 도구에서의 편향으로부터 보호하기 위해 다른 관할권들이 유사한 규제를 고려하도록 선례를 설정합니다. AI가 고용 지형을 계속 형성함에 따라 정책 입안자, 기업 및 옹호 단체들은 이러한 강력한 기술의 사용에서 공정성, 포용성 및 투명성을 촉진하는 가이드라인을 수립하기 위해 협력해야 합니다.