Жительницы Аризоны подали в суд из-за созданных с помощью ИИ дипфейков сексуального характера

Три жительницы Аризоны подали в суд на нескольких человек и компании, утверждая, что их изображения были взяты с их страниц в социальных сетях и использованы в моделях искусственного интеллекта (ИИ) для создания дипфейков. Они заявляют, что причастные к этому лица использовали модели для создания их откровенных изображений и получения от этого прибыли.

В Верховный суд округа Марикопа в Аризоне подан иск против аккаунта в Instagram, который опубликовал множество видеороликов с женщинами, рекламируя их как моделей, созданных с помощью ИИ, для заработка денег. Истцы, имена которых не разглашаются по соображениям конфиденциальности, отметили, что некоторые из изображений, , были сделаны на основе их фотографий из социальных сетей без предварительного согласия. Одна из пострадавших упомянула, что теперь к ней относятся с недовольством именно из-за распространяемых изображений.

Жительницы Аризоны подали иск из-за контента, созданного с помощью искусственного интеллекта

В иске фигурируют три ответчика из округа Марикопа в Аризоне, включая Бо Шульца, владельца аккаунта в Instagram. В иске также фигурируют 50 других неизвестных лиц и несколько компаний, которые, предположительно, были созданы или использовались для ведения бизнеса. Интересы истцов представляют Ник Бранд из Donlon Group и Кристина Перес Хесано из Pere Law Group.

По словам Бранда, обвиняемые, предположительно из Аризоны, создали схемы, чтобы научить других мужчин и мальчиков создавать так называемых ИИ-инфлюенсеров, которые затем обнажаются из изображений людей в одежде. Он добавил, что обвиняемые используют эти сгенерированные дипфейки для создания порнографического сайта по подписке, где они обмениваются эротическими сообщениями с клиентами. Бранд отметил, что проблема выглядит шире, чем он предполагал до того, как ему поручили это дело.

В иске, поданном в Аризоне, ответчики рекомендовали своим клиентам избегать использования популярных или известных инфлюенсеров и вместо этого использовать микроинфлюенсеров, чтобы снизить риск юридических проблем. «Я не могу поверить, насколько наивной я была в отношении того, от чего страдают женщины по мере развития технологий», — сказала. По словам одной из пострадавших, только строгое законодательство может предотвратить подобные злоупотребления и не допустить, чтобы больше женщин становились жертвами подобных мошеннических схем.

Платежная платформа отрицает какие-либо правонарушения

Другая пострадавшая отметила, что общественность не должна иметь возможности использовать искусственный интеллект для причинения такого ущерба, указав, что те, кто его использует, нацеливаются на сестру, мать, подругу и коллегу. Между тем, одна из компаний, упомянутых в иске, Phyziro, платформа для обработки платежей, заявила, что обвинения являются заведомо ложными. Компания утверждала, что является поставщиком интерактивных компьютерных услуг в соответствии с § 47 USC 230.

«Компания не должна рассматриваться как издатель, докладчик или автор какого-либо контента или транзакций, созданных сторонними пользователями или автономными агентами. Мы также не несем ответственности за мониторинг конкретных намерений или противоправных действий пользователей или пользователей пользователей. Участник и Менеджер освобождаются от ответственности за события, связанные с «асимметричным знанием», когда агенты ИИ, пользователи или пользователи пользователей действуют вне непосредственной видимости или программирования Менеджера»

Компания заявила, что выступает лишь в качестве поставщика нейтральных инструментов и инфраструктуры, подчеркнув, что ее ответственность строго ограничена технической работоспособностью стека. В своем заявлении компания отмечает, что статья 230 Закона о пристойности коммуникаций снимает с нее всякую ответственность за правонарушения. Однако в настоящее время в Конгрессе предпринимаются усилия обеих партий по отмене этого закона, что заставило бы платформы нести ответственность за контент, размещенный на их веб-сайтах или связанный с ними.

Эта новость из Аризоны появилась в то время, когда чат-бот Grok подвергается резкой критике со стороны населения всего мира. Правительства разных стран обвинили платформу в отсутствии механизмов контроля за деятельностью чат-бота, что привело к созданию им с помощью ИИ дипфейков с откровенными изображениями женщин и детей. Некоторые страны выпустили предупреждения в адрес платформы, другие временно приостановили доступ к ней до тех пор, пока не будет устранена проблема.