Укрощение дискриминации ИИ по методу Anthropic: Убедите его

Потенциал технологий ИИ часто обсуждается в различных СМИ, но среди преимуществ скрывается тёмная сторона, где границы между прогрессом и предвзятостью становятся опасно размытыми.

Дискриминация со стороны ИИ — это коварная проблема, угрожающая усугубить существующее социальное неравенство и вызывающая глубокие этические вопросы о будущем технологий.

Корни предвзятости: данные, дизайн и человеческий фактор?

Алгоритмы ИИ работают не лучше тех данных, на которых они обучены. К сожалению, многие данные, используемые при разработке ИИ, пронизаны предвзятостью, отражая присущие человеческому обществу предрассудки. Эти предвзятости могут быть основаны на расе, поле, возрасте, религии, социально-экономическом статусе и других факторах. 

Когда в алгоритм загружаются предвзятые данные, результатом становится система ИИ, которая воспроизводит и усиливает эти предвзятости, приводя к дискриминационным последствиям.

Сами модели могут вносить предвзятость. Например, программное обеспечение для распознавания лиц демонстрирует меньшую точность при идентификации людей с тёмным цветом кожи. Аналогично, алгоритмы, используемые при одобрении кредитов или рассмотрении заявок на работу, могут непреднамеренно ставить определённые группы в невыгодное положение из-за предвзятых критериев.

Вину также несут человеческие ошибки. Программисты, специалисты по данным и другие лица, участвующие в разработке систем искусственного интеллекта, не застрахованы от собственных предубеждений. Эти предубеждения могут бессознательно проникать в проектирование и реализацию алгоритмов, усугубляя проблему дискриминации со стороны ИИ.

Стратегии Anthropic по предотвращению дискриминации в ИИ

Интересно, что мы также можем снизить количество предвзятых ответов от ИИ посредством убеждения.  

Anthropic, одна из ведущих компаний в области искусственного интеллекта, недавно провела тестирование, показавшее, что люди могут убедить модели ИИ генерировать непредвзятые ответы с помощью стратегий формирования запросов, таких как добавление фразы «дискриминация незаконна» к своим промптам. По сути, необходимо инструктировать модель обеспечивать непредвзятые ответы. 

Хотя эта стратегия, казалось бы, снизила уровень дискриминации в решениях моделей ИИ в таких областях, как кредитование, трудоустройство, страховые случаи и другие, она является лишь временным решением, устраняющим симптомы, а не коренную причину проблемы.

Преодоление этой проблемы требует совместных усилий технологических специалистов, политиков, исследователей, организаций гражданского общества и отдельных людей. 

Мы могли бы с головой погрузиться в решение проблемы предвзятости данных, что крайне важно. Это требует диверсификации наборов данных и применения таких методов, как алгоритмы устранения предвзятости. Кроме того, разработчикам и дизайнерам необходимо обучаться выявлению и нейтрализации предвзятости в своей работе.

Не менее необходимы прочные нормативные рамки для обеспечения этичной разработки и внедрения моделей. Установление четких руководств по сбору данных, проектированию алгоритмов и использованию ИИ в процессах принятия критических решений может помочь контролировать дискриминационные результаты работы моделей искусственного интеллекта.