Бессознательная расовая предвзятость: почему ИИ не справляется с отображением лиц цветных людей?

Технологии искусственного интеллекта постепенно поднимаются по лестнице «гиперреализма». Результаты недавних исследований показали, что ИИ может создавать изображения, которые кажутся людям более реалистичными, чем реальные фотографии людей.

Искусственный интеллект создает более качественные изображения лиц белых людей

В ходе исследования участникам (все они были белыми) было предложено различить 100 изображений реальных и сгенерированных ИИ лиц. Некоторые участники восприняли изображения, созданные ИИ, как более «реальные», чем реальные.

«Мы были настолько удивлены, обнаружив, что некоторые лица, созданные с помощью ИИ, воспринимались как гиперреалистичные, что следующим шагом стала попытка воспроизвести результаты нашего исследования, проведенного путем повторного анализа данных Найтингейл и Фарида, на новой выборке участников», — сказала Эми Дауэл, клинический психолог и преподаватель Австралийского национального университета, автор исследования.

Исследование пролило свет на некоторые тревожные стороны гиперреализма искусственного интеллекта, в частности, на расовую предвзятость. 

Обладает ли ИИ неосознанной расовой предвзятостью?

Искусственный интеллект преуспел в создании более реалистичных лиц белых людей, чем людей других рас, что, по мнению Давела, объясняется недостатком разнообразных обучающих данных и алгоритмов – то есть алгоритмы были непропорционально обучены на лицах белых людей, что привело к их неосознанной предвзятости в отношении белых черт лица.

Дауэл опасается, что это может еще больше усугубить социальные проблемы. Если ИИ будет постоянно изображать людей с темным цветом кожи как попадающих в «зловещую долину», это может увековечить негативные стереотипы и укрепить существующие предрассудки относительно их внешности и подлинности.

Ещё одна насущная проблема, выявленная в ходе исследования, — это возможный рост числа дипфейков. Учитывая, как много людейdentпринимают изображения, созданные с помощью ИИ, за «настоящие», Дауэл опасается, что многие могут быть обмануты поддельными изображениями, если попадут в чужие руки. 

«Однако большая часть нового ИИ не является такой прозрачной, инвестиции в индустрию ИИ огромны, в то время как финансирование научных исследований для его мониторинга ничтожно мало, получить его сложно и процесс идет медленно», — сказал Дауэл.