Попытка Нью-Йорка ограничить предвзятость ИИ при найме провалилась, тормозя глобальные инициативы
- Местный закон Нью-Йорка № 144 (LL144), направленный на борьбу с предвзятостью алгоритмов ИИ при найме, оказался в значительной степени неэффективным: лишь небольшая часть работодателей соблюдает требования по аудиту и прозрачности.
- Недавнее исследование Корнеллского университета, Consumer Reports и Института исследований данных и общества выявило существенные недостатки LL144: закон предоставляет работодателям чрезмерную свободу действий и не обеспечивает реальных мер против дискриминационных результатов.
- Провал LL144 имеет последствия за пределами юрисдикции города: другие регионы пересматривают аналогичные законы, что препятствует глобальным усилиям по регулированию предвзятости ИИ в кадровых решениях.
В попытке решить устойчивую проблему предвзятости ИИ при найме, Нью-Йорк внедрил местный закон 144 (LL144) в 2021 году, требуя от работодателей ежегодно проводить аудит автоматизированных инструментов принятия решений о занятости (AEDT) на расовую и гендерную предвзятость. Однако недавнее исследование, проведенное исследователями из Корнеллского университета, Consumer Reports и Института исследований данных и общества, выявило серьезные недостатки в эффективности закона. Исследование, которое еще не было официально опубликовано, но было предоставлено The Register, показывает тревожную статистику, указывающую на резкое отсутствие соблюдения требований среди работодателей, подпадающих под действие LL144.
Реальность неэффективности LL144 в борьбе с предвзятостью ИИ
Давайте разберем specifics закона LL144 и выводы исследования. Становится очевидным, что, несмотря на благие намерения, LL144 не имеет достаточных рычагов воздействия, чтобы заставить работодателей эффективно устранять предвзятость ИИ. Широкий охват закона позволяет работодателям проявлять значительную дискрецию в определении того, подпадают ли их системы под его действие. Шокирующим фактом является то, что из 391 опрошенного работодателя только 18 опубликовали требуемые отчеты об аудите, и лишь 13 включили уведомления о прозрачности в свои вакансии.
Совместный автор исследования, Джейкоб Меткалф из Data & Society, указал на недостатки LL144, подчеркнув, что закон предоставляет работодателям слишком много дискреционных полномочий. Примечательно, что закон не обязывает предпринимать корректирующие действия, если аудит выявит дискриминационные результаты, оставляя работодателей уязвимыми перед дорогостоящими гражданскими исками. Исследователи также осветили опыт аудиторов, проверяющих AEDT, используемые компаниями Нью-Йорка, выявив случаи, когда работодатели отказывались публиковать результаты аудита с неблагоприятными показателями из-за юридических опасений.
Глобальные последствия
Провал попытки Нью-Йорка ограничить предвзятость ИИ имеет волнообразные последствия для аналогичных инициатив по всему миру. Предлагаемые законодательные акты в других юрисдикциях, включая Калифорнию, Вашингтон и округ Колумбия, а также штат Нью-Йорк, столкнулись с трудностями, поскольку законодатели пересматривают их структуру с учетом недостатков LL144. Даже Закон ЕС об искусственном интеллекте, хотя и достиг предварительного согласия, сталкивается с трудностями в определении регулирования для ИИ, используемого в процессах найма.
Примечательно, что юридические проблемы поставщика HR-программного обеспечения Workday подчеркивают срочность решения проблемы предвзятости ИИ. Несмотря на ограниченный успех LL144, исследователи утверждают, что закон служит ценным опытом обучения и важным первым шагом к лучшему регулированию. Однако они подчеркивают необходимость расширения масштабов законодательства, призывая будущие законы отказаться от абстрактных формулировок и предоставить более четкие определения, особенно в определении того, что constitutes covered use of AEDT software.
Призыв к более четкому законодательству
Возникает критический вопрос о будущем регулирования предвзятости ИИ. Учитывая недостатки LL144, какие уроки можно извлечь для формирования более эффективного и всеобъемлющего законодательства в глобальном масштабе? По мере продолжения дискуссий о предвзятости ИИ необходимость в более четких определениях, более широком охвате и строгих мерах принудительного исполнения становится все более очевидной. Путь к регулированию ИИ в процессах найма может быть fraught с трудностями, но извлечение уроков из ошибок LL144 может проложить путь к более надежным и влиятельным регуляциям в будущем.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
