Обуздание дискриминации со стороны ИИ антропическим путем: убеждение его

В различных средствах массовой информации очень часто говорят о потенциале технологий искусственного интеллекта, но за всеми преимуществами скрывается и темная сторона, где границы между прогрессом и предрассудками опасно размываются.

Дискриминация в отношении ИИ — это коварная проблема, которая угрожает усугубить существующее социальное неравенство и поднимает глубокие этические вопросы о будущем технологий.

Истоки предвзятости: данные, дизайн и человеческие ошибки?

Качество алгоритмов ИИ напрямую зависит от качества данных, на которых они обучаются. К сожалению, большая часть данных, используемых в разработке ИИ, пронизана предвзятостью, отражающей присущие человеческому обществу предрассудки. Эта предвзятость может основываться на расе, поле, возрасте, религии, социально-экономическом статусе и других факторах. 

Когда в алгоритм подаются предвзятые данные, в результате получается система искусственного интеллекта, которая увековечивает и усиливает эти предубеждения, что приводит к дискриминационным результатам.

Сама конструкция моделей может вносить предвзятость. Например, было показано, что программное обеспечение для распознавания лиц менее точноdentлюдей с темным цветом кожи. Аналогично, алгоритмы, используемые при одобрении кредитов или при подаче заявок на работу, могут непреднамеренно ставить определенные группы в невыгодное положение на основе предвзятых критериев.

Виной всему также человеческий фактор. Программисты, специалисты по анализу данных и другие лица, участвующие в разработке систем искусственного интеллекта, не застрахованы от собственных предубеждений. Эти предубеждения могут неосознанно проникать в проектирование и реализацию алгоритмов, еще больше усугубляя проблему дискриминации со стороны ИИ.

Тактика компании Anthropic по борьбе с дискриминацией со стороны ИИ

Интересно, что мы также можем уменьшить предвзятость ответов ИИ посредством убеждения.  

Компания Anthropic, один из ведущих разработчиков искусственного интеллекта, недавно провела тест, показавший, что люди могут убедить модели ИИ давать беспристрастные ответы с помощью таких стратегий, как добавление фразы «дискриминация незаконна» к их запросам. По сути, необходимо дать модели указание обеспечить беспристрастные ответы. 

Хотя эта стратегия, казалось бы, снижает дискриминацию в решениях моделей ИИ в таких областях, как кредиты, трудоустройство, страховые выплаты и другие, это лишь временное решение, устраняющее симптомы, а не первопричину проблемы.

Для решения этой проблемы необходимы совместные усилия технологов, политиков, исследователей, организаций гражданского общества и отдельных лиц. 

Мы могли бы с головой погрузиться в решение проблемы искажений в данных, что крайне важно. Это требует диверсификации наборов данных и применения таких методов, как алгоритмы устранения искажений. Кроме того, разработчики и дизайнеры должны быть обученыdentи уменьшать искажения в своей работе.

Для обеспечения этичной разработки и внедрения моделей в равной степени необходимы надежные нормативно-правовые рамки. Установление четких руководящих принципов сбора данных, проектирования алгоритмов и использования ИИ в критически важных процессах принятия решений может помочь контролировать дискриминационные результаты, получаемые с помощью моделей ИИ.