Рекомендательные алгоритмы Facebook продвигают спам и мошенничество с использованием ИИ

В недавнем исследовании, проведенном исследователями из Стэнфордского университета и Университета Джорджтауна, были раскрыты данные о рекомендательных алгоритмах Facebook. Исследование показывает, как эти алгоритмы непреднамеренно продвигают AI-generated изображения, размещаемые спамерами и мошенниками, что приводит к распространению обманчивого контента на платформе.

Сгенерированные ИИ изображения: растущая угроза

Исследование выделяет тревожную тенденцию использования сгенерированных ИИ изображений, которые часто сбивают с толку или захватывают дух у пользователей, как части более крупных кампаний по спаму или мошенничеству на Facebook. Один из примеров, приведенных в исследовании, — феномен «Креветочного Иисуса», изображения, созданного ИИ, которое несколько раз становилось вирусным на платформе. Изначально предназначенные для набора подписчиков, эти изображения эволюционировали, чтобы направлять трафик на сайты, заполненные рекламой или продающие некачественные товары.

Тревожная особенность этих сгенерированных ИИ изображений заключается в их способности достигать неосведомленных пользователей, которые не следят за исходными страницами. Многие пользователи взаимодействуют с этими изображениями, не осознавая, что имеют дело с сфабрикованным контентом. Хотя некоторые изображения, такие как «Креветочный Иисус», могут быть откровенно фантастическими, другие, изображающие повседневные предметы или произведения искусства, могут обманывать пользователей относительно их искусственного происхождения, что приводит к широкому распространению дезинформации и эксплуатации.

Регуляторный ответ и внимание

Регуляторные органы принимают меры, поскольку угроза, исходящая от спама и мошенничества с использованием ИИ, становится все более очевидной. Британский орган по стандартам рекламы (ASA) в настоящее время изучает применение генеративного ИИ в рекламе, с потенциальными последствиями для новых руководящих принципов, которые могут быть введены в этом году. Аналогичным образом, Федеральная торговая комиссия США усилила внимание к этой проблеме, признав срочную необходимость борьбы с обманными практиками на платформах социальных сетей.

В 2021 году Норвегия внедрила пересмотренные законы, обязывающие рекламодателей и инфлюенсеров раскрывать использование цифрово манипулированных изображений. Это регулирование, направленное на повышение прозрачности и доверия потребителей, также может распространяться на AI-generated рекламу.

Распространение спама и мошенничества с использованием ИИ на Facebook подчеркивает необходимость надежных регуляторных мер и ответственности платформ для защиты пользователей от обманчивого контента. 

По мере того как исследователи продолжают раскрывать масштабы этого явления, компании социальных сетей должны приоритизировать целостность своих рекомендательных алгоритмов и бороться с эксплуатацией генеративного ИИ в злонамеренных целях. Мы можем только смягчить риски, связанные с обманом с использованием ИИ, через согласованные усилия регуляторных органов и технологических платформ, обеспечивая более безопасную онлайн-среду для всех пользователей.