Предвзятость ИИ: как технологии отражают и усиливают предрассудки

Достижения в области искусственного интеллекта (ИИ) принесли множество преимуществ, но также выявили устойчивую проблему: предвзятость. Исследования и расследования показали, что системы ИИ, включая популярные, такие как ChatGPT, демонстрируют предвзятость, которая отражает социальные предрассудки, от гендерной предвзятости в генерации языка до расовых и гендерных стереотипов в генерации изображений.

Палестино-израильская дилемма: пример предвзятости ИИ

В недавнем взаимодействии с ChatGPT от OpenAI палестинский академик Нади Абусаада был потрясен разными ответами на простой вопрос: «Заслуживают ли израильтяне и палестинцы свободы?» В то время как OpenAI однозначно объявил свободу фундаментальным правом человека для Израиля, он представил вопрос о справедливости для Палестины как «сложный и сильно обсуждаемый». Этот резкий контраст отражает предвзятость, присутствующую в системах ИИ.

Реакция Абусаады подчеркивает давнюю проблему, с которой сталкиваются палестинцы в западном дискурсе и основных средствах массовой информации: дезинформацию и предвзятость. Это не изолированный инцидент, а симптом более широких проблем, связанных с нейтральностью ИИ.

Гендерная предвзятость в тексте, сгенерированном ИИ: тревожная закономерность

Исследование, сравнивающее чат-боты ИИ ChatGPT и Alpaca, выявило гендерные предвзятости в сгенерированном тексте. Когда их попросили написать рекомендательные письма для гипотетических сотрудников, обе системы ИИ проявили четкую гендерную предвзятость. ChatGPT использовал такие термины, как «эксперт» и «целостность», для мужчин, но описывал женщин как «красоту» или «удовольствие». Alpaca имела аналогичные проблемы, связывая мужчин с «слушателями» и «мыслителями», а женщин — с такими терминами, как «грация» и «красота».

Эти выводы подчеркивают наличие глубоко укоренившихся гендерных предвзятостей в ИИ, которые отражают и поддерживают социальные стереотипы. Это ставит под вопрос роль ИИ в укреплении вредных гендерных норм.

Изображения, сгенерированные ИИ: усиление расовых и гендерных стереотипов

Bloomberg Graphics исследовали предвзятость ИИ, используя преобразование текста в изображение с помощью Stable Diffusion, платформы ИИ с открытым исходным кодом. Результаты были тревожными: система ИИ усугубляла гендерные и расовые стереотипы, превосходя те, что встречаются в реальном мире. При запросах таких терминов, как «генеральный директор» или «заключенный», сгенерированные изображения последовательно демонстрировали предвзятость.

Расследование выявило недостаточное представительство женщин и людей с более темным тоном кожи на изображениях, связанных с высокооплачиваемыми работами, в то время как в изображениях, связанных с низкооплачиваемыми работами, их представительство было избыточным. В поисках, связанных с преступностью, ИИ непропорционально генерировал изображения людей с темным тоном кожи, несмотря на более разнообразное тюремное население в реальности.

Эти выводы демонстрируют, что алгоритмы ИИ, движимые предвзятыми обучающими данными и склонностями, заложенными людьми-программистами, усиливают социальные предрассудки, а не смягчают их.

Раскрывая корни предвзятости ИИ

Предвзятость в системах ИИ может быть прослежена до их процесса обучения, который опирается на примеры и входные данные. Люди играют ключевую роль в формировании поведения ИИ, намеренно или непреднамеренно, предоставляя данные, которые могут быть предвзятыми или стереотипными. Затем ИИ учится и отражает эти предвзятости в своих результатах.

Рид Блэкман, эксперт по цифровой этике, привел случай с программным обеспечением Amazon для чтения резюме на основе ИИ, которое непреднамеренно научилось отклонять все резюме от женщин. Этот пример показывает, как ИИ может непреднамеренно поддерживать дискриминацию, если обучается на предвзятых примерах.

Устранение предвзятости ИИ требует всестороннего анализа данных, алгоритмов машинного обучения и других компонентов систем ИИ. Одним из важных шагов является оценка обучающих данных на наличие предвзятости, обеспечивая надлежащий учет групп, которые представлены чрезмерно или недостаточно.

Принятие мер против предвзятости в ИИ

Отчет IBM подчеркивает необходимость тщательной проверки наборов данных на наличие предвзятости, особенно в алгоритмах распознавания лиц, где чрезмерное представительство определенных групп может привести к ошибкам. Выявление и исправление этих предвзятостей имеет решающее значение для обеспечения справедливости и точности в системах ИИ.

Проблема не ограничивается текстом, сгенерированным ИИ, но распространяется и на системы алгоритмической персонализации. Эти системы, как видно на примере рекламной платформы Google, могут поддерживать гендерные предвзятости, обучаясь на поведении пользователей. По мере того как пользователи кликают или ищут информацию способами, отражающими социальные предвзятости, алгоритмы учатся генерировать результаты и рекламу, которые усиливают эти предвзятости.

Хотя ИИ достиг значительных успехов в различных областях, предвзятость остается серьезным вызовом. Системы ИИ отражают и поддерживают социальные предрассудки, от гендерной предвзятости в генерации языка до расовых и гендерных стереотипов в генерации изображений. Устранение предвзятости ИИ требует многогранного подхода, включающего тщательную проверку данных и корректировку алгоритмов. Только通过这些 усилия ИИ действительно может служить нейтральным и беспристрастным инструментом на благо всех.