Попытка Нью-Йорка ограничить предвзятость ИИ при найме персонала провалилась, подавив глобальные инициативы

В попытке решить застарелую проблему предвзятости ИИ при найме сотрудников, в 2021 году город Нью-Йорк принял местный закон № 144 (LL144), обязывающий работодателей ежегодно проводить аудит автоматизированных инструментов принятия решений о приеме на работу (AEDT) на предмет расовой и гендерной предвзятости. Однако недавнее исследование, проведенное исследователями из Корнельского университета, Consumer Reports и Института исследований данных и общества, выявило серьезные недостатки в эффективности этого закона. Исследование, которое еще не было официально опубликовано, но которым поделились с The Register, раскрывает тревожную статистику, указывающую на явное несоблюдение требований LL144 со стороны работодателей.

Реальность неэффективности LL144 в борьбе с предвзятостью ИИ

Давайте углубимся в детали закона LL144 и результаты исследования. Становитсяdent , что, несмотря на благие намерения, LL144 не обладает достаточной силой, чтобы заставить работодателей эффективно бороться с предвзятостью ИИ. Широкая сфера действия закона предоставляет работодателям значительную свободу действий при определении того, подпадают ли их системы под его действие. Шокирует тот факт, что из 391 опрошенного работодателя только 18 опубликовали необходимые аудиторские отчеты, и лишь 13 включили уведомления о прозрачности в свои объявления о вакансиях.

Соавтор исследования, Джейкоб Меткалф из Data & Society, указал на недостатки закона LL144, подчеркнув, что он предоставляет работодателям слишком много свободы действий. В частности, закон не предусматривает обязательных корректирующих мер в случае выявления дискриминационных результатов в ходе аудита, что делает работодателей уязвимыми для дорогостоящих гражданских исков. Исследователи также пролили свет на опыт аудиторов, проверяющих автоматизированные системы аудита, используемые компаниями Нью-Йорка, выявив случаи, когда работодатели предпочитали не публиковать результаты аудита с неблагоприятными показателями из-за юридических опасений.

Глобальные последствия

Провал попытки Нью-Йорка ограничить предвзятость ИИ имеет волновой эффект для аналогичных инициатив по всему миру. Предложенные законопроекты в других юрисдикциях, включая Калифорнию, Вашингтон и штат Нью-Йорк, столкнулись с препятствиями, поскольку законодатели пересматривают их структуру в свете недостатков LL144. Даже закон Европейского союза об ИИ, хотя и предварительно согласован, сталкивается с проблемами в defiправил использования ИИ в процессах найма персонала.

Примечательно, что юридические проблемы компании Workday, занимающейся разработкой программного обеспечения для управления персоналом, подчеркивают неотложность решения проблемы предвзятости ИИ. Несмотря на ограниченный успех LL144, исследователи утверждают, что закон служит ценным опытом и важным первым шагом к улучшению регулирования. Тем не менее, они подчеркивают необходимость расширения сферы действия законодательства, призывая будущие законы отказаться отtracформулировок и предоставить более четкие defi, особенно в отношении определения того, что представляет собой использование программного обеспечения AEDT, подпадающее под действие закона.

Призыв к более четкому законодательству

важный вопрос о будущем предвзятости ИИ . Учитывая недостатки LL144, какие уроки можно извлечь для формирования более эффективного и всеобъемлющего законодательства во всем мире? По мере продолжения дискуссий о предвзятости ИИ необходимость в более четких defidentdentdentdentdentdentdentdent. Путь к регулированию ИИ в процессе принятия решений о найме может быть сопряжен с трудностями, но извлечение уроков из ошибок LL144 может проложить путь к более надежным и эффективным нормативным актам в будущем.