Популярность набирают приложения для «обнажения» на базе ИИ, вызывая обеспокоенность

Согласно недавним исследованиям, появляется тревожная тенденция: приложения и веб-сайты, использующие искусственный интеллект (ИИ) для обнажения женщин на фотографиях, набирают значительную популярность. Эти приложения, часто называемые услугами «nudify», вызвали серьезные опасения по поводу конфиденциальности, этики и согласия.

Взрывная популярность

Только в сентябре около 24 миллионов человек посетили эти сайты для «обнажения», как сообщает компания Graphika, специализирующаяся на анализе социальных сетей. Многие из этих услуг продвигаются через популярные социальные сети, а количество ссылок, рекламирующих приложения для «обнажения» на таких платформах, как X и Reddit, выросло более чем на 2400% с начала года, согласно исследователям. Основная функция этих приложений заключается в использовании ИИ для манипуляции изображениями, создавая симулированную обнаженную версию субъекта. Важно отметить, что большинство этих услуг нацелены исключительно на женщин.

Этические и правовые дилеммы

Эти приложения на базе ИИ являются частью тревожной тенденции, связанной с порнографией без согласия, которая облегчается достижениями в области технологий ИИ, что приводит к распространению порнографии с использованием глубоких подделок (deepfake). Порнография с использованием глубоких подделок обычно включает создание сфабрикованных медиафайлов, таких как видео или изображения, часто без ведома или согласия субъекта. Эти изображения часто берутся с платформ социальных сетей и распространяются без контроля или ведома субъекта, представляя значительные этические и правовые проблемы.

Онлайн-домогательства и нарушение конфиденциальности

Обеспокоенность усилилась, поскольку некоторые из этих приложений и услуг поощряют поведение и домогательства без согласия. Например, одно изображение, опубликованное на X, рекламирующее приложение для «обнажения», предполагало, что клиенты могут генерировать обнаженные изображения и отправлять их цифровым образом обнаженным субъектам, подстрекая к домогательствам и злоупотреблениям. Кроме того, некоторые из этих приложений платили за спонсируемый контент на платформе YouTube компании Google, появляясь prominently в результатах поиска по таким терминам, как «nudify». Однако Google заявил, что не допускает рекламу, содержащую сексуально откровенный контент, и активно удаляет нарушающую правила рекламу. На данный момент ни X, ни Reddit не ответили на запросы о комментарии.

Распространение глубоких подделок

Порнография с использованием глубоких подделок, включающая публичных фигур, является давней проблемой в интернете. Однако эксперты по конфиденциальности все больше обеспокоены тем, что достижения в области технологий ИИ сделали программное обеспечение для глубоких подделок более доступным и эффективным. Эти инструменты теперь используются не только злоумышленниками, но и обычными людьми, включая старшеклассников и студентов колледжей, для нападения на неосведомленных жертв.

Проблемы в решении вопроса о глубоких подделках

Решение проблемы порнографии с использованием глубоких подделок сталкивается со значительными трудностями. Хотя существуют законы, запрещающие создание такого контента с участием несовершеннолетних, в настоящее время в Соединенных Штатах нет федерального закона, специально запрещающего создание порнографии с использованием глубоких подделок с участием взрослых. Правоохранительным органам часто трудно расследовать такие дела, а жертвы могут испытывать трудности с получением средств на судебные разбирательства.

В примечательном развитии событий психиатр детей в Северной Каролине был приговорен к 40 годам тюремного заключения в ноябре за использование приложений для «обнажения» на фотографиях пациентов. Это стало первым судебным преследованием такого рода по законам, запрещающим создание материалов сексуального насилия над детьми с использованием глубоких подделок.

Реакция платформ

В ответ на растущие обеспокоенности социальные медиа-платформы предприняли действия. Например, TikTok заблокировал ключевое слово «undress», которое часто связано с этими услугами. Когда пользователи ищут этот термин, они получают предупреждение о том, что он может быть связан с поведением или контентом, нарушающим правила платформы. Аналогичным образом, Meta Platforms Inc., материнская компания Facebook, также начала блокировать ключевые слова, связанные с поиском приложений для «обнажения». Однако обе компании отказались предоставить дополнительные комментарии по этому вопросу.

Юридические и этические соображения

Появление приложений для «обнажения» на базе ИИ подчеркивает насущную необходимость решения правовых и этических вопросов, связанных с порнографией с использованием глубоких подделок и контентом, созданным с помощью ИИ без согласия. По мере дальнейшего развития технологий необходимо внедрять регулирование и меры защиты, чтобы защитить людей от домогательств, нарушений конфиденциальности и misuse ИИ во вредные цели.

В заключение, распространение приложений на базе ИИ, способных генерировать глубокие подделки с обнаженным видом без согласия, является тревожной тенденцией, которая подчеркивает срочность решения этических, правовых и проблем конфиденциальности в цифровую эпоху. По мере развития технологий как законодатели, так и технологические компании должны принимать проактивные меры для борьбы с misuse ИИ в злонамеренных целях и защиты людей от потенциального вреда.