Сообщается, что созданные с помощью ИИ дипфейки затрудняют американским властям защиту детей

Огромное количество откровенно сексуальных дипфейков с изображением детей, созданных с помощью искусственного интеллекта, затрудняет правоохранительным органам США разграничение реальных детей, находящихся в бедственном положении, от вымышленных, предупреждают прокуроры и группы по обеспечению безопасности. По их словам, изображения настолько реалистичны, что стало трудно определить, подверглись ли насилию реальные дети, сообщает Guardian.

Читайте также: Плюшевый мишка По, работающий на платформе ChatGPT, читает детям сказки на ночь.

Кристина Коробова, старший юрист некоммерческой организации по защите детей Zero Abuse Project, базирующейся в Миннесоте, говорит, что группа начала замечать сообщения о том, что с помощью ИИ создаются изображения реальных детей, которые не подвергались сексуальному насилию. «Но теперь их лица появляются на лицах детей, которые подверглись насилию», — говорит она.

Прокурор Министерства юстиции заявляет, что «мы тонем» из-за искусственного интеллекта

«Иногда мы узнаём постельное бельё или фон на видео или изображении, преступника или сериал, из которого оно взято, но теперь на него наложено лицо другого ребёнка», — сказал Коробов, как сообщает Guardian.

Модели искусственного интеллекта способны ежедневно создавать тысячи изображений и видеороликов, похожих на реальные фотографии. Согласно отчету, это облегчило злоумышленникам использование этой технологии для распространения неприемлемого контента в даркнете и в обычном интернете.

Для властей это превратилось в кошмар. «С точки зрения правоохранительных органов, преступления против детей являются одной из наиболее ресурсоемких областей, и ожидается взрывной рост контента, созданного с помощью ИИ», — заявил прокурор Министерства юстиции США, добавив:

«Мы и так уже тонем во всём этом»

Национальный центр США по розыску пропавших и подвергшихся эксплуатации детей (NCMEC) сообщает, что в 2023 году количество сообщений о случаях онлайн-насилия над детьми выросло на 12% и достигло 36,2 миллиона. Хотя большинство сообщений касалось распространения реальных фотографий и видеозаписей детей, подвергшихся сексуальному насилию, центр также получил 4700 сообщений о дипфейковых изображениях или видео, созданных с помощью искусственного интеллекта и связанных с сексуальной эксплуатацией детей.

NCMEC заявила, что одними из наиболее распространенных способов использования ИИ преступниками являются редактирование существующих изображений в интернете с целью придания им откровенного характера. Преступники также используют чат-боты на основе генеративного искусственного интеллекта, которые дают графические инструкции о том, как вербовать детей для насилия.

Действующие законы недостаточно эффективны в борьбе с дипфейками, созданными с помощью искусственного интеллекта

Похоже, существует пробел в определении того, что можно считать преступлением. Во многих юрисдикциях хранение изображений, которые сексуально объективируют детей, является преступлением, но законодательство еще не продвинулось в сторону включения в него изображений, созданных с помощью искусственного интеллекта.

«При возбуждении дел в федеральной системе, — сказал прокурор Министерства юстиции, — искусственный интеллект не меняет того, что мы можем преследовать в судебном порядке, но во многих штатах необходимо доказать, что это реальный ребенок». Прокурор добавил:

«Споры о подлинности изображений создадут проблемы на судебных процессах. Если бы я был адвокатом защиты, я бы именно это и отстаивал»

Даже если законы будут приняты, для поимки преступников все равно понадобятся соответствующие технологии, а в настоящее время существует огромный пробел. Группы по защите детей предупредили, что полицейские управления, вероятно, будут завалены запросами.

Читайте также: Глава ООН предупреждает, что ИИ повышает вероятность ядерной войны.

откровенные изображения детей, созданные с помощью ИИ, начали распространяться в интернете примерно в 2022 году, что совпало с выпуском ChatGPT компанией OpenAI.

Национальный центр мониторинга и контроля (NCMEC) обвиняет компании, занимающиеся искусственным интеллектом, в недостаточном контроле за созданием и распространением контента, используемого в корыстных целях. В прошлом году только пять компаний, работающих в сфере ИИ, добровольно представили отчеты в Центр. Для сравнения, 70% социальных сетей поделились своими отчетами, говорится в сообщении.