Гендерные аспекты вреда в ИИ: защита от несанкционированного изменения изображений

Член австралийского парламента Джорджи Пёрселл недавно выразила обеспокоенность по поводу цифрового изображения, на котором ее тело было искажено, а части одежды удалены без ее согласия. Этотdent проливает свет на потенциальные сексистские и дискриминационные последствия бесконтрольного использования технологий искусственного интеллекта.

Хотя инструменты с поддержкой ИИ часто считаются простыми в повседневном использовании, они могут непреднамеренно увековечивать общественные предрассудки. При редактировании фотографий эти инструменты могут усиливать определенные одобренные обществом черты, такие как молодость и сексуализация, особенно распространенные на изображениях женщин.

Серьезную обеспокоенность вызывает распространение контента, созданного с использованием технологии дипфейк и содержащего сексуальный подтекст, преимущественно направленного против женщин. Согласно отчетам, ошеломляющие 90–95% дипфейк-видео представляют собой порнографию, созданную без согласия жертв, причем около 90% из них изображают женщин в качестве жертв. Случаи создания и распространения сексуализированных дипфейк-изображений без согласия жертв встречаются по всему миру, затрагивая людей из разных социальных групп, включая молодых женщин и таких знаменитостей, как Тейлор Свифт.

Необходимость глобальных действий

Хотя в некоторых регионах существуют законодательные меры по борьбе с распространением дипфейков сексуального характера без согласия, законы, регулирующие их создание, остаются противоречивыми, особенно в Соединенных Штатах. Отсутствие согласованных международных правил подчеркивает необходимость коллективных глобальных действий для эффективной борьбы с этой проблемой.

Попытки выявления контента, созданного с помощью ИИ, сталкиваются с трудностями из-за развития технологий и растущей доступности приложений, способствующих созданию контента сексуального характера. Однако возложение всей вины исключительно на технологии игнорирует ответственность разработчиков технологий и цифровых платформ за обеспечение безопасности и прав пользователей.

Австралия предприняла шаги, чтобы возглавить этот процесс, внедрив такие инициативы, как Управление комиссара по вопросам безопасности в интернете и национальные законы, возлагающие на цифровые платформы ответственность за предотвращение и удаление контента, распространяемого без согласия пользователя. Однако для эффективного смягчения вреда от распространения сексуализированных дипфейков без согласия пользователя необходимы более широкое глобальное сотрудничество и превентивные меры.

Бесконтрольное использование ИИ в редактировании изображений и распространение контента с сексуализированными дипфейками создают серьезные проблемы, требующие всеобъемлющих нормативных рамок и коллективных глобальных действий. Приоритетное внимание к безопасности и правам пользователей при разработке и применении технологий позволит обществам смягчить гендерный вред, связанный со злоупотреблениями, совершаемыми с использованием ИИ.