Борьба с алгоритмической предвзятостью: инициатива IEEE P7003 способствует этичной разработке ИИ

В современном цифровом возрасте искусственный интеллект (ИИ) играет все более важную роль в нашей повседневной жизни, от персонализированных рекомендаций потоковых сервисов до приложений в сфере здравоохранения. Однако это распространение ИИ вызывает обеспокоенность по поводу алгоритмической предвзятости — когда системы ИИ производят предвзятые результаты из-за лежащих в основе предположений или несбалансированных обучающих данных. 

Чтобы напрямую решить эту проблему, Ассоциация стандартов IEEE (IEEE SA) запустила Рабочую группу P7003 для создания всеобъемлющей структуры для создания систем ИИ, которые смягчают предвзятость и обеспечивают справедливость.

Алгоритмическая предвзятость, являющаяся насущной проблемой в ИИ, возникает, когда алгоритмы машинного обучения непреднамеренно производят результаты, благоприятствующие определенным группам или атрибутам. Эта предвзятость часто коренится в данных, на которых обучаются алгоритмы, и ее последствия могут быть глубокими. Например, программное обеспечение для распознавания лиц, обученное преимущественно на одной демографической группе, может привести к ошибочной идентификации или исключению других групп, что влечет за собой реальные последствия, такие как задержки для путешественников на пограничном контроле.

Три источника предвзятости

Рабочая группа IEEE P7003 выделяет три основных источника предвзятости, которые могут проявляться в системах ИИ:

Предвзятость со стороны разработчиков алгоритмов: Этот тип предвзятости проистекает из целей оптимизации, установленных разработчиками. Например, алгоритм, разработанный для максимизации производительности работников в бизнес-системе, может непреднамеренно игнорировать здоровье работников, что приводит к предвзятости.

Предвзятость внутри системы: Некоторые системы изначально демонстрируют различия в производительности среди различных категорий, такие как расхождения в точности распознавания лиц в зависимости от расы и пола.

Предвзятость со стороны пользователей системы: Пользователи также могут вносить предвзятость при интерпретации и использовании результатов алгоритмов. Подтверждающая предвзятость, при которой пользователи принимают информацию, соответствующую их предшествующим убеждениям, без проверки фактов, является одним из таких примеров.

Роль IEEE P7003

Рабочая группа P7003 IEEE SA стремится решить эти проблемы, предоставив структуру разработки для систем ИИ, чтобы избежать непреднамеренных, необоснованных и дифференциально вредных результатов для пользователей. Группа сотрудничает с критериями CertifAIEd для сертификации алгоритмической предвзятости, обеспечивая разработку систем ИИ с учетом справедливости и этики.

Хотя предвзятость часто рассматривается как негативная, существуют сценарии, когда намеренная предвзятость приемлема и необходима. Например, приложение для здравоохранения, разработанное для помощи мужчинам в управлении здоровьем простаты, должно естественно быть предвзятым в пользу мужской аудитории, так как медицинский контекст это диктует. Напротив, приложение, направленное на повышение осведомленности о раке молочной железы, должно оставаться непредвзятым, чтобы эффективно обслуживать оба пола.

Оценка и управление рисками предвзятости

Для повышения осведомленности и понимания предвзятости систем ИИ, IEEE P7003 предлагает рекомендации для эффективной разработки систем ИИ:

Используйте профиль предвзятости: Применяйте профиль предвзятости для оценки и понимания воздействия и риска предвзятости в системе.

Учитывайте намерение и контекст: Четко определите намерение системы и поймите контекст, в котором она работает, обеспечивая соответствие потребностям заинтересованных сторон.

Определение задачи: Четко определите задачи системы и убедитесь, что ее результаты соответствуют этим задачам.

Осведомленность заинтересованных сторон: Поймите пользователей и заинтересованные стороны, которые взаимодействуют с системой или на которых она влияет.

Регулярная оценка: Периодически переоценивайте систему на наличие предвзятости на протяжении всего ее жизненного цикла, так как использование и заинтересованные стороны могут меняться.

Контекстуальная адаптация: Пересматривайте профиль предвзятости, если система развернута в новом контексте, учитывая, как ее поведение может потребовать адаптации.

Разнообразные команды разработчиков: Поощряйте создание разнообразных команд разработчиков и оценщиков, чтобы привнести разные перспективы и снизить предвзятость.

К этичной разработке ИИ

IEEE P7003 стремится предоставить физическим лицам и организациям методологии, подчеркивающие подотчетность и ясность при проектировании, тестировании и оценке алгоритмов. Эти методологии помогают избежать необоснованного дифференциального воздействия на пользователей. Это позволяет создателям алгоритмов сообщать регулирующим органам и пользователям, что используются самые современные передовые практики для приоритизации этических соображений в разработке ИИ.

Эта инициатива соответствует более широкому движению за этичный ИИ, как видно из недавнего выпуска публикации IEEE «Этически выверенный дизайн: Видение приоритизации благополучия человека с помощью искусственного интеллекта и автономных систем». Документ призывает технологов приоритизировать этические соображения при создании автономных и интеллектуальных технологий, еще больше подчеркивая важность этичной разработки ИИ.