Фонд Internet Watch Foundation предупреждает: развитие ИИ может усугубить проблему CSAM

Internet Watch Foundation (IWF) обеспокоена тем, что распространенность материалов сексуального насилия над детьми (CSAM), сгенерированных ИИ, в интернете может продолжать расти, стимулируемая достижениями в инструментах ИИ.

Также читайте: Глубокие подделки (deepfakes) на базе ИИ затрудняют защиту детей властями США — отчет

Надзорный орган указал, что по мере того как инструменты генеративного ИИ становятся более сложными, становится также труднее отличить реальные изображения или видео от поддельного контента, созданного ИИ. Согласно организации, сгенерированные ИИ изображения 2024 года стали более «реалистичными», чем те, которые впервые появились в 2023 году.

Internet Watch Foundation видит рост CSAM

IWF обеспокоена тем, что больше CSAM, сгенерированного ИИ, может проникнуть в интернет поскольку извращенцы пользуются достижениями в технологиях ИИ, которые делают инструменты более простыми в использовании и более распространенными. Надзорный орган уже отметил увеличение количества CSAM, сгенерированного ИИ, в интернете.

Организация уже зафиксировала случаи манипуляции с CSAM, в то время как другие случаи касались взрослой порнографии, но с наложением лица ребенка на видео. Согласно IWF, некоторые из материалов представляли собой видео продолжительностью около 20 секунд.

Главный технологический директор IWF Дэн Секстон заявил, что есть вероятность появления большего количества ИИ-CSAM, если инструменты видео ИИ будут следовать той же тенденции, что и инструменты генерации изображений ИИ, поскольку технология развивается быстрыми темпами.

«Я бы осторожно предположил, что если будет соблюдаться та же тенденция, то мы увидим больше видео», — сказал он.

Секстон добавил, что также высока вероятность того, что будущие видео ИИ будут «более высокого качества и реализма».

Согласно аналитикам IWF, большинство видео, которые организация рассмотрела на темном форуме педофилов, были частичными дипфейками. В этом случае для манипуляции изображениями, включая изображения известных жертв CSAM, на существующих видео CSAM и взрослой порнографии, использовались модели ИИ, свободно доступные в интернете.

Организация обнаружила девять таких видео, в то время как небольшое количество полностью созданных ИИ видео было базового качества.

(1/4) #AI ландшафт материалов сексуального насилия над детьми – В прошлом году мы были среди первых, кто поднял тревогу по поводу распространения реалистичных #AI-сгенерированных изображений сексуального насилия над детьми… pic.twitter.com/s4igkjHH78

— Internet Watch Foundation (IWF) (@IWFhotline) 22 июля 2024 г.

Надзорный орган хочет криминализировать производство CSAM

IWF теперь выступает за законы, криминализующие производство таких материалов, включая создание руководств по созданию такого контента. Также следует криминализировать разработку инструментов и платформ, которые позволяют создавать CSAM.

Это происходит на фоне исследования, проведенного в этом году на одном форуме даркнета, которое выявило 12 000 новых изображений, сгенерированных ИИ, опубликованных за месяц.

Согласно IWF, девять из десяти этих изображений были реалистичными, и за них можно было бы привлечь к ответственности по тем же законам Великобритании, которые охватывают реальный CSAM.

Также читайте: Житель Техаса приговорен за покупку детской порнографии с использованием криптовалюты

В прошлом году Национальный центр по поиску и защите детей от эксплуатации (NCMEC) сообщил, что он получил множество сообщений о том, что извращенцы используют ИИ различными способами, например, вводя текстовые запросы для создания изображений сексуального насилия над детьми. В некоторых случаях преступники изменяли ранее загруженные изображения, чтобы сделать их сексуально откровенными и оскорбительными.

Генеральный директор IWF Сьюзи Харгрейвс подчеркнула необходимость регулирования инструментов генеративного ИИ для ограничения распространения CSAM.

«Без надлежащего контроля инструменты генеративного ИИ предоставляют игровую площадку для онлайн-хищников, чтобы реализовать свои самые извращенные и отвратительные фантазии», — сказала Харгрейвс.

Харгрейвс добавила, что IWF начинает замечать больше случаев распространения и продажи CSAM на коммерческих сайтах сексуального насилия над детьми.

Согласно The Guardian, другая организация, которая управляет горячей линией для сообщения об abuse, сообщила, что нашла CSAM, созданный ИИ, на продажу на онлайн-платформах со стороны правонарушителей.