Гендерные аспекты вреда в ИИ: защита от несанкционированного изменения изображений
- Обработка изображений с помощью ИИ может нанести вред людям, изменяя их внешность без их согласия, как это произошло с австралийским депутатом Джорджи Пёрселл.
- Видеоролики с сексуализированным содержанием, созданные без согласия жертвы и в основном направленные против женщин, быстро распространяются, вызывая обеспокоенность во всем мире.
- Для борьбы с пагубными последствиями контента, созданного с помощью ИИ, и защиты прав и безопасности отдельных лиц необходимы глобальное сотрудничество и упреждающие меры.
Член австралийского парламента Джорджи Пёрселл недавно выразила обеспокоенность по поводу цифрового изображения, на котором ее тело было искажено, а части одежды удалены без ее согласия. Этотdent проливает свет на потенциальные сексистские и дискриминационные последствия бесконтрольного использования технологий искусственного интеллекта.
Хотя инструменты с поддержкой ИИ часто считаются простыми в повседневном использовании, они могут непреднамеренно увековечивать общественные предрассудки. При редактировании фотографий эти инструменты могут усиливать определенные одобренные обществом черты, такие как молодость и сексуализация, особенно распространенные на изображениях женщин.
Серьезную обеспокоенность вызывает распространение контента, созданного с использованием технологии дипфейк и содержащего сексуальный подтекст, преимущественно направленного против женщин. Согласно отчетам, ошеломляющие 90–95% дипфейк-видео представляют собой порнографию, созданную без согласия жертв, причем около 90% из них изображают женщин в качестве жертв. Случаи создания и распространения сексуализированных дипфейк-изображений без согласия жертв встречаются по всему миру, затрагивая людей из разных социальных групп, включая молодых женщин и таких знаменитостей, как Тейлор Свифт.
Необходимость глобальных действий
Хотя в некоторых регионах существуют законодательные меры по борьбе с распространением дипфейков сексуального характера без согласия, законы, регулирующие их создание, остаются противоречивыми, особенно в Соединенных Штатах. Отсутствие согласованных международных правил подчеркивает необходимость коллективных глобальных действий для эффективной борьбы с этой проблемой.
Попытки выявления контента, созданного с помощью ИИ, сталкиваются с трудностями из-за развития технологий и растущей доступности приложений, способствующих созданию контента сексуального характера. Однако возложение всей вины исключительно на технологии игнорирует ответственность разработчиков технологий и цифровых платформ за обеспечение безопасности и прав пользователей.
Австралия предприняла шаги, чтобы возглавить этот процесс, внедрив такие инициативы, как Управление комиссара по вопросам безопасности в интернете и национальные законы, возлагающие на цифровые платформы ответственность за предотвращение и удаление контента, распространяемого без согласия пользователя. Однако для эффективного смягчения вреда от распространения сексуализированных дипфейков без согласия пользователя необходимы более широкое глобальное сотрудничество и превентивные меры.
Бесконтрольное использование ИИ в редактировании изображений и распространение контента с сексуализированными дипфейками создают серьезные проблемы, требующие всеобъемлющих нормативных рамок и коллективных глобальных действий. Приоритетное внимание к безопасности и правам пользователей при разработке и применении технологий позволит обществам смягчить гендерный вред, связанный со злоупотреблениями, совершаемыми с использованием ИИ.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Бренда Канана
Бренда обладает более чем 4-летним опытом работы в области криптовалют, искусственного интеллекта и новых технологий. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь работает в Cryptopolitan . Ее образование в области социологии, полученное в Техническом университете Момбасы, позволяет ей быть в курсе событий, волнующих читателей.
