Рост числа поддельных откровенных фотографий, созданных ИИ, создает угрозу для конфиденциальности и жизни

Появление инструментов искусственного интеллекта (ИИ) спровоцировало тревожный рост числа поддельных порнографических изображений и видео, вызывая серьезные опасения по поводу конфиденциальности и эксплуатации. Жертвы, в основном женщины и подростки, оказываются не готовыми к той видимости, которую несут поддельные откровенные фотографии, созданные ИИ.

Нарушение конфиденциальности

Габби Белл, инфлюенсер YouTube, обнаружила, что ее изображение используется в поддельной откровенной фотографии, циркулирующей в интернете. На изображении она была представлена в компрометирующей ситуации, хотя никогда не давала согласия на такой контент. Опыт Белл не уникален, так как многие люди, включая знаменитостей и обычных подростков, стали жертвами поддельных откровенных фотографий, созданных ИИ. Эти поддельные изображения могут вызывать стыд, использоваться для вымогательства денег или служить выходом для частных фантазий.

Непрецедентный рост числа поддельных откровенных фотографий

Искусственный интеллект позволил беспрецедентному буму поддельных порнографических изображений и видео. На 10 самых популярных сайтах, известных размещением порнографических фотографий, созданных ИИ, количество поддельных откровенных фотографий выросло более чем на 290 процентов с 2018 года, согласно данным отраслевого аналитика Джиневьевы О. Эти сайты содержат не только изображения знаменитостей и политических деятелей, но и неосведомленных лиц, чьи внешние данные были использованы без согласия.

Отсутствие правовой защиты

Жертвы поддельных порнографических материалов, созданных ИИ, имеют ограниченные возможности для защиты из-за отсутствия федеральных законов, регулирующих дипфейк-порно. Лишь несколько штатов приняли соответствующие нормативные акты, что оставляет значительный пробел в законодательстве. Недавний исполнительный указ президента Байдена по ИИ рекомендует компаниям маркировать контент, созданный ИИ, но не делает это обязательным. Юристы утверждают, что поддельные изображения, созданные ИИ, могут не подпадать под защиту авторских прав на личные изображения, поскольку они создаются на основе обширных наборов данных.

Женщины и подростки находятся в особой группе риска

Поддельные откровенные фотографии, созданные ИИ, представляют значительный риск для женщин и подростков, которые часто оказываются не готовыми к внезапной публичности. Исследования компании Sensity AI, специализирующейся на мониторинге дипфейков, показывают, что 96 процентов дипфейк-изображений являются порнографическими, а 99 процентов из них направлены против женщин. Анализ Джиневьевы О. 10 самых популярных сайтов, размещающих поддельные порнографические изображения, выявил, что только в 2023 году было загружено более 415 000 таких изображений, набравших почти 90 миллионов просмотров.

Взрывной рост порнографических видео, созданных ИИ

Порнографические видео, созданные ИИ, также распространились по всему интернету. В 2023 году на 40 самых популярных сайтах, содержащих контент с дипфейками, было добавлено более 143 000 поддельных видео, что превысило общее количество новых видео за период с 2016 по 2022 год. Эти видео набрали более 4,2 миллиарда просмотров. Федеральное бюро расследований (ФБР) предупредило о росте сексуального вымогательства: к сентябрю жертвами кампаний «сексторшиона» стали более 26 800 человек.

Ограниченная защита со стороны Google

Популярная поисковая система Google имеет политику, предотвращающую появление в результатах поиска несанкционированных сексуальных изображений. Однако ее защита дипфейк-изображений не является столь же надежной, позволяя поддельным порнографическим материалам, созданным ИИ, prominently появляться в результатах поиска. Google работает над улучшением этих защитных мер и стремится создать механизмы, которые не требуют индивидуальных запросов на удаление контента.

Сложности в привлечении создателей к ответственности

Привлечение создателей поддельного порнографического контента, созданного ИИ, к ответственности является сложной задачей. Раздел 230 Закона о коммуникациях защищает социальные сети от ответственности за контент, размещенный на их платформах, что оставляет мало стимулов для сайтов контролировать такие изображения. Жертвы могут запросить удаление своих изображений, но контент, созданный ИИ, опирается на обширные наборы данных, что затрудняет доказательство нарушений авторских прав или использования личных данных.

Усилия на уровне штатов и разнообразие нормативных актов

По меньшей мере девять штатов, включая Калифорнию, Техас и Вирджинию, приняли законодательство, направленное против дипфейков. Однако эти законы различаются по охвату: некоторые позволяют жертвам подавать уголовные обвинения, а другие разрешают только гражданские иски. Выявление ответственных лиц для судебного преследования может быть сложной задачей.

Необходимость более строгих регулирований

Стремление регулировать изображения и видео, созданные ИИ, в первую очередь направлено на предотвращение массового распространения и решение проблем, связанных с вмешательством в выборы. Однако эти правила мало что делают для смягчения вреда, причиняемого дипфейк-порно, которое может серьезно повлиять на жизнь человека, даже если оно распространяется в небольших группах.

Распространение поддельных откровенных фотографий, созданных ИИ, представляет серьезную угрозу конфиденциальности и личной неприкосновенности, особенно для женщин и подростков. Отсутствие всеобъемлющих федеральных законов и сложности в привлечении создателей такого контента к ответственности подчеркивают срочную необходимость в более строгих регулированиях и защите. По мере развития ИИ решение растущей проблемы поддельной порнографии, созданной ИИ, становится все более критичным для защиты людей от эксплуатации и вреда в цифровую эпоху.