Глубокие подделки (deepfakes) на базе ИИ затрудняют защиту детей властями США — отчет

Огромный объем сексуально откровенных ИИ-дипфейков детей затрудняет правоохранительным органам США различать реальных детей в беде от вымышленных, предупредили прокуроры и группы по безопасности. Они говорят, что изображения настолько реалистичны, что стало трудно понять, были ли реальные дети подвергнуты насилию, сообщает The Guardian..

Также читайте: Плюшевый медведь Poe с поддержкой ChatGPT читает детям сказки на ночь

Кристина Коровов, старший адвокат нью-йоркской некоммерческой организации Zero Abuse Project, базирующейся в Миннесоте, говорит, что группа начала замечать сообщения об изображениях реальных детей, созданных с помощью ИИ, которые не подвергались сексуальному насилию. «Но теперь их лицо наложено на ребенка, который был подвергнут насилию», — говорит она.

Прокурор Минюста говорит: «мы тонем» из-за ИИ

«Иногда мы узнаем постель или фон в видео или изображении, преступника или сериал, из которого оно взято, но теперь на него наложено лицо другого ребенка», — сказал Коровов, согласно The Guardian.

Модели ИИ способны генерировать тысячи изображений и видео, похожих на реальные фотографии, каждый день. Согласно отчету, это облегчило преступникам использование этой технологии для распространения непристойного контента в даркнете и в основном интернете.

Для властей это стало кошмаром. «С точки зрения правоохранительных органов, преступления против детей — это одна из самых недофинансированных областей, и произойдет взрывной рост контента от ИИ», — сказал прокурор Министерства юстиции США (DoJ), добавив:

«Мы уже тонем в этом материале».

Национальный центр по поиску и защите детей от эксплуатации в США (NCMEC) сообщает, что в 2023 году сообщения о онлайн-насилии над детьми выросли на 12%, достигнув 36,2 миллиона. Хотя большинство сообщений касались распространения реальных фотографий и видео сексуально эксплуатируемых детей, центр также получил 4700 сообщений об изображениях или видео с использованием ИИ (deepfake), связанных с сексуальной эксплуатацией детей.

NCMEC заявила, что некоторые из самых распространенных способов использования ИИ преступниками включают редактирование существующих онлайн-изображений, чтобы сделать их откровенными. Преступники также используют генеративные чат-боты на основе искусственного интеллекта, которые дают графические инструкции о том, как вербовать детей для насилия.

Текущие законы недостаточно строго регулируют дипфейки на базе ИИ

Кажется, существует пробел в том, что может считаться преступлением. Во многих юрисдикциях хранение изображений, сексуально объективизирующих детей, является преступлением, но законы еще не успели адаптироваться к включению в них изображений, сгенерированных ИИ.

«При предъявлении обвинений в федеральной системе», — сказал прокурор Министерства юстиции, — «ИИ не меняет того, что мы можем преследовать по закону, но во многих штатах вам нужно доказать, что это реальный ребенок». Прокурор добавил:

«Споры о достоверности изображений создадут проблемы на судебных процессах. Если бы я был адвокатом защиты, я бы именно так и аргументировал».

Даже если законы будут приняты, для поимки преступников все равно потребуется соответствующая технология, и в настоящее время существует большой разрыв. Группы по защите детей предупредили, что полицейские управления, вероятно, будут завалены запросами.

Также читайте: Глава ООН предупреждает, что ИИ повышает вероятность ядерной войны

Сексуально откровенные изображения детей, созданные с помощью ИИ, начали увеличивать свое присутствие в интернете около 2022 года, что совпало с выпуском ChatGPT компанией OpenAI, согласно сообщению The Guardian.

NCMEC обвиняет компании ИИ в недостаточных усилиях по предотвращению создания и распространения эксплуататорского контента. В прошлом году только пять компаний ИИ добровольно представили отчеты в Центр. Для сравнения, 70% социальных платформ поделились своими отчетами, говорится в сообщении.