Исследование ИИ выявило устойчивую расовую предвзятость в языковых моделях
- Исследование выявляет, что языковые модели ИИ, такие как GPT-4 и GPT-3.5, демонстрируют расовую предвзятость в отношении афроамериканского варианта английского языка, связывая его с негативными стереотипами и юридическими последствиями.
- Более крупные модели ИИ проявляют более выраженную предвзятость, что вызывает опасения относительно масштабируемости и этических последствий в разработке ИИ.
- Исследование подчеркивает необходимость постоянных усилий по всестороннему устранению предвзятости в системах ИИ для обеспечения справедливости и инклюзивности.
В ходе исследования, проведенного исследователями из Института ИИ Аллена, Стэнфордского университета и Чикагского университета, были выявлены факты расовой предвзятости, заложенной в популярные большие языковые модели (LLM), включая GPT-4 и GPT-3.5 от OpenAI.
Исследование, подробно описанное в публикации на сервере препринтов arXiv, было сосредоточено на изучении того, как эти LLM реагируют на различные диалекты и культурные выражения, особенно афроамериканский английский (AAE) и стандартный американский английский (SAE). Проведя серию экспериментов, исследователи подали текстовые документы как на AAE, так и на SAE в чат-боты на базе ИИ, предложив им сделать выводы и прокомментировать авторов.
Результаты оказались тревожными: в ответах ИИ-моделей наблюдалась последовательная предвзятость. Тексты на AAE неизменно встречались с негативными стереотипами, изображающими авторов как агрессивных, грубых, невежественных и подозрительных. Напротив, тексты на стандартном американском английском (SAE) вызывали более позитивные реакции. Эта предвзятость выходила за рамки личностных качеств, влияя на профессиональные способности и восприятие правового статуса.
Последствия для различных профессий и правовых сфер
При вопросе о потенциальных карьерах чат-боты связывали тексты на AAE с низкооплачиваемыми работами или сферами, стереотипно ассоциирующимися с афроамериканцами, такими как спорт или развлечения. Кроме того, авторам текстов на AAE часто предполагалась более высокая вероятность столкнуться с правовыми последствиями, включая суровые приговоры, такие как смертная казнь.
Интересно, что при запросе описать афроамериканцев в общих чертах ответы были позитивными, с использованием таких прилагательных, как «интеллектуальные», «гениальные» и «страстные». Это противоречие подчеркивает нюансированный характер предвзятости, которая выборочно проявляется в зависимости от контекста, особенно в отношении предположений о поведении или характеристиках людей на основе их языковых особенностей.
Исследование также показало, что чем больше языковая модель, тем более выраженным является негативное предвзятое отношение к авторам текстов на афроамериканском варианте английского языка (AAE). Эта наблюдение вызывает опасения относительно масштабируемости предвзятости в системах ИИ, указывая на то, что простое увеличение размера языковых моделей без устранения коренных причин может усугубить проблему.
Проблемы в этичной разработке ИИ
Эти выводы подчеркивают значительные трудности, стоящие перед созданием этичных и непредвзятых систем ИИ. Несмотря на технологические достижения и усилия по смягчению предубеждений, глубоко укоренившиеся предвзятости продолжают проникать в эти модели, отражая и потенциально укрепляя общественные стереотипы.
Исследование подчеркивает важность постоянной бдительности, разнообразных наборов данных и инклюзивных методологий обучения для создания ИИ, который справедливо служит всему человечеству. Это служит суровым напоминанием о критической необходимости всестороннего решения проблемы предвзятости в разработке ИИ, чтобы обеспечить равные результаты для всех людей.
Исследование проливает свет на критический аспект разработки ИИ, призывая заинтересованные стороны противостоять предвзятости и решать ее проблемы, чтобы построить более справедливый и равноправный технологический ландшафт.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
