Комиссия по равным возможностям при трудоустройстве (EEOC) достигла знаковой сделки по первому делу о дискриминации с использованием ИИ

В беспрецедентном развитии событий Комиссия по равным возможностям при трудоустройстве США (EEOC) достигла предварительного соглашения по своему первому в истории иску о дискриминации, основанному на использовании программного обеспечения искусственного интеллекта (ИИ) в практиках найма. Этот случай подчеркивает приверженность EEOC решению потенциальных предубеждений в процессах рекрутинга на базе ИИ, что является растущей проблемой по мере того, как технология играет все более важную роль в кадровых решениях. Иск EEOC против iTutorGroup, Inc. знаменует собой значительную веху в продолжающемся диалоге об этических и правовых последствиях ИИ в сфере занятости.

Непоколебимая позиция EEOC в отношении ИИ и дискриминации

В мае 2022 года EEOC в партнерстве с Министерством юстиции США предприняла проактивный подход, опубликовав руководящие принципы, призванные прояснить для работодателей, сотрудников и соискателей надлежащее использование инструментов ИИ в процессах трудоустройства. Этот шаг означал признание потенциальных ловушек, которые могут возникнуть из-за некритичной опоры на системы на базе ИИ. Руководящие принципы заложили основу для последующих действий, включая публичные слушания, проведенные EEOC в январе следующего года. Слушания, в которых приняли участие почти 3000 виртуальных участников, включали показания разнообразных экспертов, от Американского союза гражданских свобод до Торговой палаты США и представителей юридических фирм и академических учреждений.

Дело iTutorGroup и обвинения в возрастной дискриминации

В деле EEOC против iTutorGroup, Inc. EEOC выдвинула обвинения против iTutorGroup, поставщика услуг репетиторства по английскому языку для студентов в Китае. Центральное утверждение касалось предполагаемого использования компанией программного обеспечения ИИ, которое автоматически отклоняло заявки на основе возраста. Эта дискриминационная практика стала известна, когда изначально отклоненный соискатель подал заявку повторно с другой датой рождения и впоследствии был принят на должность. Этот случай иллюстрирует далеко идущие последствия, которые могут иметь инструменты отбора на основе ИИ, непреднамеренно приводящие к несправедливым и незаконным результатам.

Детали предварительного соглашения и согласия на решение

EEOC и iTutorGroup теперь вступили в предварительное соглашение, подлежащее утверждению судьей Памелой К. Чен. Предлагаемое согласие на решение описывает комплексные меры по исправлению предполагаемых дискриминационных практик. В соответствии с условиями соглашения iTutorGroup согласилась выплатить общую сумму в размере 365 000 долларов США, которая будет распределена между более чем 200 соискателями, которым несправедливо было отказано в позициях, что нарушило Закон о дискриминации по возрасту при трудоустройстве. Компания также обязана пригласить соискателей, ранее отклоненных в период с марта по апрель 2020 года, подать заявки повторно. Кроме того, iTutorGroup обязана внедрить политику недискриминации и провести обучение сотрудников по вопросам недискриминации.

Шаги в борьбе с предвзятостью ИИ и их влияние на будущее

Это знаковое дело подчеркивает решительную позицию EEOC в отношении компаний, использующих программное обеспечение на базе ИИ в процессах найма. Последствия этого соглашения выходят за рамки непосредственных участников, оказывая влияние на всю технологическую отрасль и сектор занятости в целом. Внимательный контроль EEOC за инструментами ИИ распространяется на различные категории приложений, вызывающие обеспокоенность как у критиков, так и у сторонников этики ИИ. Среди заметных примеров можно выделить:

• Сканеры резюме и приоритизация ключевых слов: Некоторые инструменты ИИ используют сканеры резюме для приоритизации заявок на основе конкретных ключевых слов. Хотя это может упростить первоначальный отбор, это также вызывает вопросы о потенциальном воспроизводстве предвзятости, связанной с этими ключевыми словами.
• Программное обеспечение для мониторинга сотрудников: Инструменты мониторинга сотрудников на базе ИИ, оценивающие производительность на основе таких факторов, как нажатия клавиш, вызывают опасения по поводу эрозии конфиденциальности сотрудников и потенциала неточных оценок.
• Виртуальные помощники и чат-боты: Виртуальные помощники или чат-боты, оценивающие квалификацию кандидатов, могут непреднамеренно исключать перспективных людей, которые не соответствуют заранее определенным критериям, упуская из виду разнообразные перспективы и возможности.
• Видеоинтервью и анализ мимики: Программное обеспечение для видеоинтервью, оценивающее кандидатов на основе мимики и речевых паттернов, может непреднамеренно вводить субъективные и потенциально дискриминационные оценки.
• Программное обеспечение для тестирования и оценка соответствия работе: Программное обеспечение для тестирования, присваивающее баллы «соответствия работе» на основе способностей, личностных качеств или предполагаемой культурной совместимости, вызывает опасения по поводу того, как измеряются эти факторы и могут ли они привести к несправедливой дискриминации.

Взгляд в будущее: пятилетнее согласие на урегулирование

Если судья Чен одобрит соглашение о согласии, оно будет действовать в течение пяти лет. Это временное обязательство отражает решимость EEOC обеспечить устойчивые изменения и улучшения в практике найма iTutorGroup. Итоги этого дела послужат прецедентом для будущих судебных разбирательств, связанных с дискриминацией с помощью ИИ, устанавливая ожидания для бизнеса быть тщательными в оценке и смягчении предвзятости в своих процессах найма, основанных на технологиях.

Проактивный подход EEOC, коллективный отклик экспертов и заинтересованных сторон, а также ключевое соглашение по делу EEOC против iTutorGroup, Inc. вместе сигнализируют о поворотном моменте в продолжающемся повествовании об ИИ, этике и трудовом праве. В ближайшие годы, вероятно, усилится внимание к ответственному развертыванию инструментов ИИ, при этом бизнес будет нести ответственность за влияние своих технологий на разнообразие, справедливость и равные возможности.