Гендерный вред в ИИ: Защита от несанкционированного изменения изображений
- Искусственный интеллект для обработки изображений может причинять вред людям, изменяя их внешность без разрешения, как это произошло с австралийским парламентарием Джордж Пёрселл.
- Неконсенсуальные сексуализированные видео в формате дипфейков, в основном направленные против женщин, быстро распространяются, вызывая глобальную обеспокоенность.
- Для борьбы с вредными последствиями контента, созданного с помощью ИИ, и защиты прав и безопасности людей необходимы глобальное сотрудничество и проактивные меры.
Член парламента Австралии Джордж Пёрселл недавно выразила обеспокоенность по поводу цифрового измененного изображения, которое исказило ее тело и удалило части ее одежды без ее согласия. Этот инцидент освещает потенциальные сексистские и дискриминационные последствия неконтролируемых технологий ИИ.
Хотя часто считаются простыми в повседневном использовании, инструменты, поддерживаемые ИИ, могут непреднамеренно увековечивать социальные предубеждения. При инструктировании редактировать фотографии эти инструменты могут усиливать определенные социально одобряемые атрибуты, такие как молодость и сексуализация, особенно распространенные в изображениях женщин.
Значительная проблема возникает с распространением сексуализированного контента deepfake, преимущественно нацеленного на женщин. Сообщается, что ошеломляющие 90–95% видео deepfake являются порнографией без согласия, причем около 90% из них содержат женщин в качестве жертв. Появились случаи несанкционированного создания и распространения сексуализированных изображений deepfake по всему миру, затрагивая людей из различных демографических групп, включая молодых женщин и знаменитостей, таких как Тейлор Свифт.
Необходимость глобальных действий
Хотя законодательные меры существуют в некоторых регионах для решения проблемы несанкционированного распространения сексуализированных deepfake, законы, касающиеся их создания, остаются непоследовательными, особенно в Соединенных Штатах. Отсутствие согласованных международных правил подчеркивает необходимость коллективных глобальных действий для эффективной борьбы с этой проблемой.
Усилия по обнаружению контента, созданного ИИ, сталкиваются с трудностями из-за развивающихся технологий и растущей доступности приложений, облегчающих создание сексуально откровенного контента. Однако возложение всей вины на технологии упускает из виду ответственность разработчиков технологий и цифровых платформ за приоритизацию безопасности и прав пользователей.
Австралия предприняла шаги, чтобы возглавить это направление, с инициативами, такими как Управление комиссара по безопасности в электронной среде (Office of the eSafety Commissioner) и национальные законы, обязывающие цифровые платформы нести ответственность за предотвращение и удаление несанкционированного контента. Однако более широкое глобальное сотрудничество и проактивные меры необходимы для эффективного смягчения вреда от несанкционированных сексуализированных deepfake.
Неконтролируемое использование ИИ при редактировании изображений и распространение сексуализированного контента с глубокими подделками (deepfake) создают серьезные проблемы, требующие комплексных нормативных рамок и коллективных глобальных действий. Приоритет безопасности и прав пользователей при разработке технологий и их применении позволит обществам смягчить гендерный вред, связанный с злоупотреблениями на базе ИИ.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
