Приложения Nudify с поддержкой искусственного интеллекта набирают популярность, вызывая опасения

Согласно недавним исследованиям, наблюдается тревожная тенденция: приложения и веб-сайты, использующие искусственный интеллект (ИИ) для раздевания женщин на фотографиях, приобретают все большую популярность. Эти приложения, часто называемые сервисами «обнажения», вызывают серьезные опасения по поводу конфиденциальности, этики и согласия.

Стремительный рост популярности

По данным аналитической компании Graphika, занимающейся анализом социальных сетей, только в сентябре эти сайты с демонстрацией обнаженного тела посетили около 24 миллионов человек. Многие из этих сервисов рекламируются через популярные социальные сети, и, по данным исследователей, количество ссылок, рекламирующих приложения для демонстрации обнаженного тела на таких платформах, как X и Reddit, выросло более чем на 2400% с начала года. Основная функция этих приложений — использование искусственного интеллекта для обработки изображений и создания имитации обнаженного тела. Важно отметить, что большинство этих сервисов ориентированы исключительно на женщин.

Этические и правовые дилеммы

Эти приложения, работающие на основе искусственного интеллекта, являются частью тревожной тенденции, связанной с порнографией без согласия, чему способствуют достижения в области технологий ИИ, приводящие к распространению порнографии с использованием технологии «дипфейк». Порнография с использованием технологии «дипфейк» обычно предполагает создание сфабрикованных медиафайлов, таких как видео или изображения, часто без ведома или согласия субъекта. Эти изображения часто берутся из социальных сетей и распространяются без контроля или ведома субъекта, что создает серьезные этические и юридические проблемы.

Преследование в интернете и нарушения конфиденциальности

Обеспокоенность усилилась, поскольку некоторые из этих приложений и сервисов пропагандируют поведение без согласия и домогательства. Например, на сайте X было опубликовано изображение, рекламирующее приложение для раздевания, которое предполагало, что пользователи могут создавать изображения обнаженных тел и отправлять их цифровым раздетым людям, провоцируя домогательства и оскорбления. Кроме того, некоторые из этих приложений платили за спонсируемый контент на платформе YouTube от Google, появляясь на видном месте в результатах поиска по запросам типа «nudify». Однако Google заявил, что не допускает рекламу, содержащую контент сексуального характера, и активно удаляет нарушающую правила рекламу. На данный момент ни X, ни Reddit не ответили на запросы о комментариях.

Распространение дипфейков

Несанкционированная порнография с участием публичных личностей давно является проблемой в интернете. Однако эксперты по вопросам конфиденциальности все больше обеспокоены тем, что достижения в области технологий искусственного интеллекта сделали программное обеспечение для создания дипфейков более доступным и эффективным. Эти инструменты теперь используются не только злоумышленниками, но и обычными людьми, включая школьников иdent, для обмана ничего не подозревающих жертв.

Проблемы, возникающие при борьбе с дипфейками

Решение проблемы порнографии с использованием технологии дипфейк сопряжено со значительными трудностями. Хотя существуют законы, запрещающие создание подобного контента с участием несовершеннолетних, в настоящее время в Соединенных Штатах нет федерального закона, конкретно запрещающего создание порнографии с использованием технологии дипфейк с участием взрослых. Правоохранительные органы часто сталкиваются с трудностями при расследовании таких дел, а жертвы могут испытывать проблемы с получением средств для судебного разбирательства.

В ноябре в Северной Каролине произошло примечательное событие: детский психиатр был приговорен к 40 годам тюремного заключения за использование приложений для раздевания на фотографиях пациентов. Это стало первым подобным случаем в рамках законов, запрещающих создание дипфейков — материалов с изображением сексуального насилия над детьми.

Ответы платформы

В ответ на растущую обеспокоенность платформы социальных сетей приняли меры. Например, TikTok заблокировал ключевое слово «раздеться», которое часто ассоциируется с подобными сервисами. При поиске этого термина пользователи получают предупреждение о том, что он может быть связан с поведением или контентом, нарушающим правила платформы. Аналогичным образом, Meta Platforms Inc., материнская компания Facebook, также начала блокировать ключевые слова, связанные с поиском приложений для раздевания. Однако обе компании отказались от дальнейших комментариев по этому вопросу.

Правовые и этические аспекты

Распространение приложений для создания «ню» с использованием искусственного интеллекта подчеркивает острую необходимость решения правовых и этических вопросов, связанных с дипфейковым порнографическим контентом и контентом, созданным с помощью ИИ без согласия. По мере развития технологий необходимо ввести правила и меры защиты для предотвращения преследований, нарушений конфиденциальности и злоупотребления ИИ в вредоносных целях.

В заключение, распространение приложений на основе ИИ, способных генерировать дипфейк-изображения обнаженных тел без согласия владельца, является тревожной тенденцией, подчеркивающей неотложность решения этических, правовых вопросов и вопросов конфиденциальности в цифровую эпоху. По мере развития технологий как законодателям, так и технологическим компаниям необходимо принимать упреждающие меры для борьбы со злонамеренным использованием ИИ в злонамеренных целях и защиты людей от потенциального вреда