Фонд интернет-наблюдения (IWF) обеспокоен тем, что распространенность созданных с помощью ИИ материалов о сексуальном насилии над детьми в интернете может продолжать расти, чему способствуют достижения в области инструментов искусственного интеллекта.
Читайте также: «Дипфейки, созданные с помощью ИИ, затрудняют американским властям защиту детей» — отчет.
Орган по надзору за безопасностью отметил, что по мере совершенствования инструментов генеративного ИИ становится все сложнее отличать реальные изображения или видео от поддельного контента, созданного ИИ. По данным организации, изображения, созданные ИИ в 2024 году, стали более «реалистичными», чем те, которые впервые появились в 2023 году.
Фонд интернет-надзора фиксирует рост случаев сексуального насилия над детьми
Международная федерация изнасилований (IWF) обеспокоена тем, что в интернете может появиться больше сгенерированных ИИ материалов сексуального характера, поскольку извращенцы используют достижения в области технологий искусственного интеллекта, которые упрощают использование инструментов и способствуют их более широкому распространению. Эта организация, занимающаяся вопросами безопасности, уже отметила увеличение числа сгенерированных ИИ материалов сексуального характера в интернете.
Организация уже зафиксировала случаи манипулирования материалами, содержащими сексуальное насилие над детьми, а также другие случаи, связанные с порнографией для взрослых, но с использованием детского лица на видеоматериалах. По данным IWF, некоторые из этих материалов представляли собой видеоролики продолжительностью около 20 секунд.
Технический директор IWF Дэн Секстон заявил, что есть вероятность появления большего количества инструментов для создания контента сексуального характера с использованием ИИ, если инструменты для видеосъемки на основе ИИ будут следовать той же тенденции, что и инструменты для создания изображений на основе ИИ, поскольку эта технология развивается быстрыми темпами.
«Я бы предварительно сказал, что если тенденция сохранится, то мы увидим больше видеороликов», — заявил он.
Секстон добавил, что также высока вероятность того, что будущие видеоролики, созданные с помощью ИИ, будут «более высокого качества и реалистичности»
По данным аналитиков IWF, большинство видеороликов, просмотренных организацией на закрытом форуме педофилами, представляли собой частично дипфейки. В этом случае для манипулирования изображениями, в том числе изображениями известных жертв сексуального насилия, на существующих видеороликах и порнографических материалах использовались свободно доступные в интернете модели искусственного интеллекта.
Организация обнаружила девять таких видеороликов, при этом небольшое количество видеороликов, полностью созданных с помощью ИИ, имели базовое качество.
(1/4) # Информация о материалах, содержащих изображения сексуального насилия над детьми, созданных с помощью ИИ – В прошлом году мы одними из первых забили тревогу по поводу распространения реалистичных изображений сексуального насилия над детьми, созданных с помощью #ИИ pic.twitter.com/s4igkjHH78
— Internet Watch Foundation (IWF) (@IWFhotline) 22 июля 2024 г.
Надзорный орган хочет криминализировать производство материалов сексуального характера
Международная федерация кинематографа (IWF) сейчас добивается принятия законов, криминализирующих производство подобных материалов, включая создание руководств по их изготовлению. Также следует криминализировать разработку инструментов и платформ, позволяющих создавать материалы сексуального характера, касающиеся детей и подростков.
Это произошло после того, как проведенное в этом году исследование одного из форумов в даркнете выявило 12 000 новых изображений, сгенерированных искусственным интеллектом, которые были опубликованы в течение месяца.
По данным IWF, девять из десяти этих изображений были реалистичными, и в отношении них может быть возбуждено уголовное дело в соответствии с теми же законами Великобритании, которые регулируют реальные случаи сексуального насилия над детьми.
Читайте также: Житель Техаса приговорен за покупку детской порнографии за криптовалюту
В прошлом году Национальный центр по розыску пропавших и подвергшихся эксплуатации детей (NCMEC) сообщил о многочисленных случаях использования извращенцами искусственного интеллекта различными способами, например, путем ввода текстовых подсказок для создания изображений, содержащих сексуальную эксплуатацию детей. В некоторых случаях хищники изменяли ранее загруженные изображения, делая их откровенно сексуальными и содержащими элементы насилия.
Генеральный директор IWF Сьюзи Харгривз подчеркнула необходимость регулирования инструментов генеративного искусственного интеллекта для ограничения распространения сексуальной эксплуатации детей.
«Без надлежащего контроля инструменты генеративного искусственного интеллекта предоставляют онлайн-хищникам площадку для воплощения их самых извращенных и отвратительных фантазий», — сказал Харгривз.
Харгривз добавила, что IWF начала замечать, что все больше материалов с изображением сексуального насилия над детьми распространяется и продается на коммерческих сайтах, посвященных сексуальному насилию над детьми.
Как сообщает The Guardian, другая организация, управляющая горячей линией для сообщений о злоупотреблениях, сообщила об обнаружении созданных с помощью ИИ материалов сексуального характера, продаваемых на онлайн-платформах правонарушителями.
