Технологические компании призваны бороться с резким ростом материалов сексуального насилия над детьми, созданных с помощью ИИ

Прошлый год был назван «самым экстремальным годом в истории» британской благотворительной организацией Internet Watch Foundation (IWF), которая обнаружила тревожные 275 652 случая детской сексуальной эксплуатации изображений в интернете, причем пугающее количество из них было сделано с участием жертв, которых злоумышленники принуждали к созданию откровенных материалов, призывая технологические компании и онлайн-платформы действовать быстро, так как регулирование замедлилось, а Искусственный Интеллект

«Каждый URL-адрес может раскрывать только один, дюжину, сотни или даже тысячи отдельных изображений или видео детской сексуальной эксплуатации», — говорится в отчете (92%) (с само- или принуждением или с помощью социальной сети для выполнения через веб-камеру».

Выводы IWF

Согласно IWF, цифры были получены из «проактивного поиска» и анализа почти 400 000 отчетов по всему миру через более чем 50 порталов отчетности. Это представляет собой увеличение на 8% по сравнению с предыдущим годом.

США были самой верхней страной с 14,8% веб-сайтов, с 41 502 URL-адресами, что на одну долю больше, чем у нации как хоста за последний год на 34%, треть всего присоединенного веб-сайта.

IWF сказала, что анализ показал, что 2 401 само-сгенерированное видео детей в возрасте 3-6 лет было из этого. Большинство из этих детей были девочками, что является флагом, показывающим, как абьюзеры, считающиеся «оппортунистами» в наши дни, очень активны в сексуальных злоупотреблениях не только с детьми-подростками, но и с маленькими детьми.

Меры, которые следует принять 

Позиция IWF заключается в том, что «технологические компании и онлайн-платформы» должны немедленно усилить такие меры безопасности для детей в сети, вместо того чтобы полагаться на то, что правительства примут очень болезненные регуляторные действия или потеряют больше времени на то, чтобы эта деятельность вступила в силу в Великобритании с ее Законом о безопасности в сети. IWF раскрыла, что категория материалов также увидела увеличение на 22% по сравнению с 2022 годом. Такой экстремальный контент, просматриваемый все чаще, является одной из тенденций, согласно IWF; с 2021 по 2022 год количество контента категории A увеличилось на 38%. 

Количество случаев секс-шантажа — использования фотографий/файлов детей, информации или видео, которые преступники затем могут использовать для шантажа своих жертв ради большего количества фотографий/денег — также растет. Агентство зафиксировало всего 6 случаев такого рода в 2021 году, когда они внедрили механизм приостановки. В прошлом году они сообщили, что учреждение увидело 176 случаев, связанных с секс-шантажом. Фонд подчеркнул, что доказательства ИИ получает и генерирует, становятся серьезной угрозой для детей в Интернете. В 2023 году IWF пришла к выводу, что обработала 51 веб-страницу, содержащую автоматически сгенерированные изображения детской сексуальной эксплуатации, 38 из которых выглядели как настоящие.

Таким образом, они были включены в статистические отчеты как «настоящие» изображения. Кроме того, другие 228 URL-адресов содержали контент, сгенерированный ИИ. Хотя лишь небольшой процент материалов, проверенных IWF, является компьютерно-сгенерированным, благотворительная организация обеспокоена «потенциалом быстрого роста». Это особенно актуально в таких доменах, как публикация руководств о том, как создавать или распространять детское порнографическое содержание с помощью ИИ, что может выходить за рамки существующих правовых рамок. IWF сказала, что столкнулась с текстовым руководством на DW, объясняющим, как преступники «Мы видели такое поведение раньше, но тот факт, что это первые доказательства того, что преступники действуют согласованно, чтобы советовать и поощрять друг друга использовать ИИ для целей самообороны, особенно тревожен», — якобы прокомментировала IWF.