Генеративные модели ИИ кодируют предвзятость и создают бессмысленную информацию, показывают исследования

В последние месяцы генеративные модели ИИ, такие как ChatGPT, Bard от Google и Midjourney, набирают все большую популярность среди пользователей как для личных, так и для профессиональных целей. Однако исследования выявляют тревожную тенденцию: эти модели внедряют предвзятость и негативные стереотипы в сознание пользователей, а также генерируют и распространяют бессмысленную, но кажущейся достоверной информацию. 

Последствия этого явления особенно серьезны для маргинализированных групп, которые несут непропорционально большую нагрузку от распространения сфабрикованной информации. По мере того как эти модели становятся более распространенными в Всемирной паутине, растет обеспокоенность тем, что они могут влиять на убеждения людей. В новой статье-обзоре, опубликованной в журнале Science, подчеркивается срочная необходимость сотрудничества между психологами и экспертами в области машинного обучения для оценки масштабов этой проблемы и разработки решений.

Абеба Бирхане, адъюнкт-профессор Школы компьютерных наук и статистики Тринити-колледжа и старший научный сотрудник по надежному ИИ в Фонде Mozilla, объясняет, что генеративные модели не способны выражать неопределенность, что приводит к уверенным и беглым ответам без соответствующих оговорок или отражения сомнений. В результате люди могут принимать эти ответы как фактологически точные, что приводит к искажению убеждений. Кроме того, финансовые интересы и вопросы ответственности стимулируют компании антропоморфизировать генеративные модели, наделяя их интеллектом, эмпатией или даже детскостью, что усугубляет проблему.

Непропорциональное воздействие на маргинализированные группы

Последствия предвзятости и сфабрикованной информации особенно ярко проявляются среди маргинализированных слоев населения. В исследовании подчеркивается важность проведения детального анализа для измерения влияния генеративных моделей на человеческие убеждения и предубеждения. Сосредоточив внимание на маргинализированных сообществах, наиболее пострадавших от вымыслов и негативных стереотипов в выводах моделей, будущие исследования и вмешательства смогут эффективно решать эти проблемы.

Один из конкретных примеров, обсуждаемых в статье-обзоре, касается использования генеративных моделей ИИ в правовой системе. Статистические закономерности, заложенные в эти модели, привели к тому, что чернокожим подсудимым присваивались более высокие баллы риска. В результате судьи, усвоив эти паттерны, могут изменять свою практику вынесения приговоров, чтобы они соответствовали прогнозам алгоритмов. Даже если будут внедрены правила, ограничивающие использование таких систем, этот механизм статистического обучения может поддерживать убеждение в том, что чернокожие люди с большей вероятностью совершат повторное преступление.

Трудности в преодолении предвзятости и вымыслов

Как только предвзятость и сфабрикованная информация приняты людьми, их трудно развеять. Дети особенно уязвимы, так как они с большей вероятностью антропоморфизируют технологии и легко поддаются влиянию. Осознавая это, необходимо предпринять усилия по информированию общественности, политиков и междисциплинарных ученых о принципах работы генеративных моделей ИИ, развеивая существующую дезинформацию и противодействуя преувеличенным заявлениям об этих технологиях.

В статье-обзоре подчеркивается важность своевременного и всестороннего анализа для оценки влияния генеративных моделей на человеческие убеждения и предубеждения. Также призываются к действию целевые вмешательства и ресурсы, направленные на смягчение последствий для маргинализированных групп. Кроме того, следует проводить образовательные и информационные кампании, чтобы предоставить реалистичное представление о том, как работают эти модели ИИ, и исправить заблуждения и преувеличения относительно их возможностей.

По мере широкого внедрения генеративных моделей ИИ кодирование предвзятости и создание бессмысленной информации вызывают серьезную обеспокоенность. Маргинализированные сообщества страдают непропорционально сильно, что усугубляет существующее неравенство. Сотрудничество между психологами и экспертами в области машинного обучения имеет решающее значение для оценки масштабов этой проблемы и разработки эффективных решений. Понимая влияние генеративных моделей на человеческие убеждения и предубеждения, можно устранить и исправить предвзятость и вымыслы, заложенные в этих системах ИИ.