Иск городского прокурора Сан-Франциско о закрытии веб-сайтов с дипфейк-фотографиями, созданными с помощью ИИ

Городской прокурор Сан-Франциско Дэвид Чиу объявил, что его офис ведет судебное разбирательство против 16 веб-сайтов, которые используют ИИ для создания и распространения несанкционированных дипфейк-фотографий с голыми изображениями женщин и девочек. Это происходит на фоне повышенного внимания к созданию и распространению несанкционированных изображений, созданных ИИ.

По словам Чиу, иск является первым в своем роде в Сан-Франциско и обвиняет операторов веб-сайтов в нарушении государственных и федеральных законов, запрещающих дипфейк-порнографию, детскую порнографию и порнографию мести, а также закона Калифорнии о недобросовестной конкуренции.

Чиу хочет привлечь внимание к этой вредной практике

Согласно New York Times, инициатива была предложена заместителем генерального прокурора Ивонн Мер, которая убедила своих коллег подготовить иск, который должен привести к закрытию 16 веб-сайтов.

Названия веб-сайтов были цензурированы в копии иска, предоставленной общественности в четверг.

Хотя офис прокурора заявил, что еще не идентифицировал владельцев большинства веб-сайтов, официальные лица этого офиса выразили оптимизм по поводу обнаружения имен владельцев сайтов и привлечения их к ответственности.

Во время пресс-конференции в четверг Чиу раскрыл, что эти сайты производят материалы порнографического характера без согласия. Помимо поднятия тревоги и прекращения этой формы «сексуального насилия», Чиу также намекнул, что иск должен также привести к закрытию указанных веб-сайтов.

«Это расследование привело нас в самые темные уголки интернета, и я абсолютно в ужасе от того, через что пришлось пройти женщинам и девочкам, ставшим жертвами этой эксплуатации».

Чиу.

На указанных веб-сайтах пользователи загружают фотографии полностью одетых реальных людей и используют ИИ для создания изображений голых женщин и девочек. Модели ИИ на этих сайтах обучались на реальных порнографических материалах и изображениях жестокого обращения с детьми для создания дипфейков.

Как указано в иске, один из сайтов пропагандирует несанкционированный характер изображений, утверждая: «Представьте, что вы тратите время на свидания с ней, когда можете просто использовать [название веб-сайта, скрыто], чтобы получить ее голые фото».

Доступность и открытость исходных моделей ИИ сделали легким для любого человека доступ к адаптации ИИ-движков для своих целей. Это приводит к созданию сайтов и приложений, которые могут генерировать дипфейк-фотографии с нуля или «раздевать» существующие фотографии реалистичными способами, часто за плату.

Сан-Франциско — не единственное место, где наблюдается эта проблема

В январе приложения для создания дипфейков попали в заголовки новостей, когда в интернете стали вирусными фейковые голые фотографии Тейлор Свифт. Многие другие, гораздо менее известные люди подвергались преследованиям до и после Свифт.

Чиу признал, что «распространение этих изображений привело к эксплуатации шокирующего числа женщин и девочек по всему миру», от знаменитостей до учениц средних школ.

В ходе собственных расследований офис городского прокурора обнаружил, что веб-сайты посещали более 200 миллионов раз в первые шесть месяцев этого года. Офис выразил обеспокоенность тем, что как только изображение попадает в интернет, жертвам становится трудно определить веб-сайты, которые использовались для «раздевания» их фотографий.

Это связано с тем, что изображения не имеют никаких уникальных или идентифицирующих признаков, по которым можно было бы вернуться к веб-сайтам. Кроме того, жертвам также трудно избавиться от фотографий из интернета, что влияет на их самооценку и цифровой след.

Ранее в этом году пятеро учеников восьмых классов из Беверли-Хиллз были отчислены за создание и распространение дипфейк-фотографий с голыми изображениями 16 девочек-одноклассниц, накладывая лица девочек на тела, сгенерированные ИИ.

Аналогичные случаи наблюдались в других школах Калифорнии, Нью-Джерси и Вашингтона, где изображения использовались для унижения, травли и запугивания женщин и девочек.

По словам офиса прокурора, общий эффект на жертв был разрушительным для их репутации, вызывал проблемы с психическим здоровьем, потерю самооценки и в некоторых случаях приводил к суицидальным мыслям.