Почему использование предвзятости ИИ в принятии решений является грозной и фатальной проблемой

Искусственный интеллект (ИИ) производит фурор в различных секторах, от здравоохранения до финансов. Однако проблема предвзятости ИИ стала значительным препятствием, вызывая вопросы о будущем этой технологии. Эксперты утверждают, что предвзятость, часто возникающая из-за искаженных или нерепрезентативных обучающих данных, является, возможно, самым грозным вызовом для ИИ. 

Проблема предвзятости в ИИ

Артур Маккаби, исполнительный директор Института вычислений и аналитики на основе данных при Аризонском университете, утверждает, что предвзятость сама по себе не является проблемой. Она становится проблемой, когда предвзятая система влияет на принятие решений. 

Микеле Саморани, доцент кафедры информационных систем и аналитики в школе бизнеса Ливеи Университета Святого Креста, предупреждает о потенциале ИИ к воспроизводству социальной несправедливости. Он иллюстрирует это примером университета, использующего ИИ для отбора заявок. Если система ИИ обучена на прошлых решениях о зачислении, любые человеческие предубеждения, присутствующие в этих решениях, отразятся в результатах работы ИИ.

Влияние предвзятости ИИ

Алисия Сян, глобальный руководитель по этике ИИ в группе Sony и ведущий научный сотрудник по этике ИИ в Sony AI, отмечает, что предвзятость ИИ может иметь далеко идущие последствия. «Предвзятые системы ИИ могут укреплять социальные стереотипы, дискриминировать определенные группы или воспроизводить существующее неравенство», — говорит она. Это может привести к дискриминационной практике в различных секторах, включая найм, здравоохранение и правоохранительные органы. Кроме того, предвзятость может подорвать доверие к технологиям и затруднить внедрение ИИ.

Решение проблемы предвзятости ИИ

Сян считает, что для решения проблемы предвзятости ИИ необходим комплексный подход, начинающийся с разнообразных и репрезентативных обучающих данных. Она подчеркивает важность привлечения людей из разных слоев общества к процессу принятия решений. 

Маккаби предлагает, чтобы данные, используемые для обучения систем ИИ, точно отражали все общество. Он признает, что это может быть недостижимо, поэтому важно документировать предвзятость в обучающих данных и ограничивать использование систем ИИ, обученных на этих данных, контекстами, где эта предвзятость не является критической.

Бина Амманат, исполнительный директор Института ИИ Deloitte, считает, что, хотя устранение предвзятости ИИ является сложной задачей, минимизация ее воздействия достижима. Она предлагает строгие процессы тестирования, проверки и оценки моделей ИИ для выявления и предотвращения предвзятости. Дорога 

Устранение предвзятости ИИ — пугающая задача. Сян отмечает, что понимание систем ИИ, их потенциальных непреднамеренных последствий и того, как они могут навредить людям, является важным. Она выделяет недавний рост команд по этике ИИ в компаниях, которые внедряют ИИ в свои продукты и услуги. Эти команды посвящены разработке и внедрению лучших практик создания и обучения моделей ИИ.

Маккаби указывает на проблему создания наборов данных, которые достаточно велики для эффективного обучения ИИ и репрезентативны для контекста, в котором будет использоваться ИИ. В некоторых случаях разработчики могут довольствоваться наборами данных, которые «достаточно близки», как в случае с Google Translate.

Необходимость стандартов и регулирования

Саморани подчеркивает растущую необходимость стандартов и регулирования для аудита систем ИИ на наличие предвзятости. Он оптимистично настроен, что при правильных регуляторных мерах и системах аудита предвзятость ИИ может быть снижена до уровня, когда она больше не будет вызывать беспокойство.

Сян отмечает, что предпринимаются усилия по решению проблемы предвзятости ИИ, включая этические процессы сбора данных, разработку разнообразных обучающих наборов данных, внедрение метрик справедливости и оценочных框架ов, а также продвижение прозрачности и подотчетности в разработке и развертывании систем ИИ.

Амманат подчеркивает важность обучения заинтересованных сторон о рисках предвзятости ИИ. Она советует организациям приоритизировать обучение сотрудников этике компании и принципам этики ИИ.

Хотя предвзятость ИИ является значительной проблемой, это не обязательно фатальный недостаток ИИ. При согласованных усилиях, технологических достижениях и правильном регулировании можно минимизировать ее воздействие и двигаться к будущему, где технологии ИИ будут более справедливыми и беспристрастными.