Иск городского прокурора Сан-Франциско о закрытии сайтов с дипфейками обнаженных тел, созданными с помощью искусственного интеллекта

Прокурор Сан-Франциско Дэвид Чиу объявил, что его ведомство ведет судебные разбирательства против 16 веб-сайтов, использующих искусственный интеллект для создания и распространения дипфейк-изображений обнаженных женщин и девочек без их согласия. Это происходит на фоне повышенного внимания к созданию и распространению изображений, полученных с помощью ИИ без согласия.

По словам Чиу, этот иск является первым в своем роде в Сан-Франциско и обвиняет владельцев веб-сайтов в нарушении законов штата и федеральных законов, осуждающих дипфейк-порнографию, детскую порнографию и порнографические материалы, распространяемые из мести, а также закона Калифорнии о недобросовестной конкуренции.

Чью хочет привлечь внимание к этой недобросовестной практике

По данным New York Times, эта инициатива принадлежала заместителю главного прокурора Ивонн Мере, которая мобилизовала своих коллег для подготовки иска, который должен привести к закрытию 16 веб-сайтов.

В опубликованной в четверг копии искового заявления названия веб-сайтов были скрыты.

Хотя прокуратура заявила, что ей еще предстоитdentличности большинства владельцев веб-сайтов, ее сотрудники выразили оптимизм по поводу того, что имена владельцев сайтов будут установлены, а они будут привлечены к ответственности.

В ходе пресс-конференции в четверг Чиу сообщил, что эти сайты производят «порнографические» материалы без согласия. Помимо того, что это должно поднять тревогу и положить конец этой форме «сексуального насилия», Чиу также намекнул, что судебный иск должен также привести к закрытию указанных веб-сайтов.

«Это расследование привело нас в самые темные уголки интернета, и я в полном ужасе от того, что приходится переживать женщинам и девушкам, которые стали жертвами этой эксплуатации»

Чиу.

На указанных сайтах пользователи загружают фотографии полностью одетых реальных людей и используют ИИ для создания изображений обнаженных женщин и девочек. Модели ИИ на этих сайтах были обучены на реальных порнографических материалах и изображениях детского насилия для создания дипфейков.

Как указано в иске, один из сайтов рекламирует недобровольный характер изображений, утверждая: «Представьте, что вы тратите время на свидания с ней, когда вы можете просто использовать [название сайта удалено], чтобы получить ее обнаженные фотографии».

Доступность и простота использования моделей ИИ с открытым исходным кодом позволили любому желающему легко получить доступ к движкам на основе ИИ и адаптировать их для своих целей. Это приводит к созданию сайтов и приложений, которые могут генерировать дипфейк-изображения обнаженных тел с нуля или «обнажать» существующие фотографии реалистичным образом, часто за плату.

Сан-Франциско — не единственное место, где можно наблюдать этот вызов

В январе приложения для создания дипфейков попали в заголовки новостей, когда в интернете распространились поддельные обнаженные фотографии Тейлор Свифт. Многие другие, гораздо менее известные люди, подвергались преследованиям до и после Свифт.

Чью признала, что «распространение этих изображений привело к эксплуатации шокирующего числа женщин и девочек по всему миру», от знаменитостей доdentсредних школ.

В ходе собственного расследования прокуратура города установила, что за первые шесть месяцев этого года эти веб-сайты были посещены более 200 миллионов раз. В ведомстве выразили обеспокоенность тем, что после публикации изображения в интернете жертвам становится трудно определить, какие веб-сайты использовались для «обнажения» их фотографий.

Это происходит потому, что изображения не содержат никаких уникальных илиdentпризнаков, по которым можно было бы сослаться на веб-сайты. Кроме того, жертвам также сложно удалить фотографии из интернета, что негативно сказывается на ихsteem и цифровом следе.

Ранее в этом году пятеро восьмиклассников были исключены из школы за создание и распространение дипфейк-изображений обнаженных 16 восьмиклассниц, наложив лица девочек на созданные искусственным интеллектом тела.

Аналогичные случаи наблюдались и в других школах Калифорнии, Нью-Джерси и Вашингтона, где изображения использовались для унижения, запугивания и угроз в адрес женщин и девочек.

Как заявили в прокуратуре, в итоге это привело к разрушительным последствиям для пострадавших: у них ухудшилось репутация, ухудшилось психическое здоровье, снизилось чувство собственногоsteem, а в некоторых случаях у них возникли суицидальные мысли.