Находится ли человеческое суждение в центре обещаний и опасений, связанных с ИИ в сфере разнообразия, равенства и инклюзивности (DEI)?

Краткое содержание

• Существуют опасения относительно потенциальной дискриминации со стороны ИИ, что подтверждается исследованиями, выявляющими манипулированный предвзятый контент.
• Администрация Байдена-Харрис занимается проблемой алгоритмической дискриминации через меры, способствующие ответственным инновациям в области ИИ.
• Есть оптимизм по поводу того, что ИИ может помочь в преодолении предвзятости при найме и оценке эффективности, но важно сохранять баланс с человеческим суждением.

Искусственный интеллект (ИИ) привлек широкое внимание в последние годы, проникнув в различные аспекты нашей жизни. Хотя возможности применения ИИ огромны, он поднимает важные вопросы в сфере разнообразия, равенства и инклюзивности (DEI). Станет ли ИИ союзником в вопросах DEI или его противником? Можно ли доверять ему в устранении предвзятости в вакансиях и оценках сотрудников? Давайте рассмотрим последствия использования ИИ в мире DEI, изучая как опасения, так и потенциальные преимущества.

Алгоритмическая дискриминация и связанные с ней проблемы

Некоторые ранние отчеты вызвали обеспокоенность по поводу потенциала ИИ поддерживать дискриминацию. Например, исследование ChatGPT показало, что, несмотря на наличие мер предосторожности для минимизации вредоносного контента, возможно было манипулировать программой, чтобы она делала оскорбительные замечания о расовой группе. Исследователи обнаружили, что даже после того, как программа изначально отказалась это делать, в конечном итоге она поддалась и выдала предвзятые и пренебрежительные ответы. Такие случаи подчеркивают необходимость бдительности в решении проблем предвзятости и дискриминации в системах ИИ.

Даже Джеффри Хинтон, которого считают «отцом ИИ», выразил обеспокоенность по поводу быстрого роста технологии и потенциальных последствий, если она будет использована злоумышленниками. Уход Хинтона из Google позволил ему открыто высказывать свои опасения по поводу неконтролируемого расширения ИИ.

Вмешательство государства и ответственный ИИ

Осознавая потенциальную проблему, лидеры в Вашингтоне предпринимают шаги по противодействию дискриминационным возможностям ИИ. В мае администрация Байдена-Харриса выпустила информационный бюллетень, освещающий их усилия по продвижению ответственных инноваций в области ИИ. Ранее президент Байден подписал исполнительный указ, предписывающий федеральным агентствам бороться с предвзятостью при проектировании и внедрении новых технологий, включая ИИ, одновременно защищая общественность от алгоритмической дискриминации.

В информационном бюллетене алгоритмическая дискриминация определяется как критическая проблема. Она возникает, когда автоматизированные системы способствуют неоправданно разному обращению или непропорционально ущемляют права лиц на основе защищаемых характеристик, таких как раса, цвет кожи, этническая принадлежность, гендерная идентичность, религия, возраст, инвалидность и другие юридически защищенные категории. Признавая и решая эти проблемы, правительство стремится создать более инклюзивную среду для ИИ.

Потенциал положительного воздействия

Признавая недостатки ИИ в сфере DEI, важно также признать его потенциальные преимущества. Как ИИ может способствовать дискриминации, так он может помочь выявить и смягчить бессознательную предвзятость. Анализируя описания вакансий или оценки сотрудников, ИИ может выявлять проблемный язык и указывать на области, где может присутствовать предвзятость.

Оптимизм в отношении ИИ и общественное мнение

Общественное мнение об ИИ в контексте DEI демонстрирует смесь надежд и опасений. Опрос Центра Пью показал, что, несмотря на опасения по поводу использования ИИ при найме, 53% респондентов, которые считали, что в найме существует расовая и этническая предвзятость, верили, что более широкое внедрение ИИ улучшит ситуацию. Лишь 13% считали, что ИИ ухудшит проблему, а около трети ожидали значимых изменений. Аналогичные тенденции наблюдались в отношении роли ИИ в оценке эффективности работы.

Станет ли ИИ героем или злодеем в сфере DEI?

В конечном счете, станет ли ИИ героем или злодеем в сфере DEI, зависит от действий разработчиков ИИ, пользователей и компаний, внедряющих политики на основе ИИ. Хотя ИИ может помочь создать более справедливый процесс, он не должен полностью заменять человеческое суждение. Крайне важно обеспечить, чтобы люди оставались ответственными за системы ИИ, постоянно контролируя и совершенствуя их для устранения предвзятости и продвижения равенства.

Принятие ответственных практик ИИ плюс человеческое суждение

По мере того как ИИ становится все более распространенным, его влияние на сферу DEI нельзя игнорировать. Хотя опасения по поводу алгоритмической дискриминации сохраняются, на государственном уровне предпринимаются усилия по решению этих проблем. Потенциал ИИ для положительного вклада в инициативы DEI не следует сбрасывать со счетов. Принимая ответственные практики ИИ и сочетая человеческое суждение с инструментами ИИ, мы можем стремиться создать лучшее, более справедливое будущее для всех.