Chrome запускает ИИ для блокировки мошеннических уведомлений

Chrome запустил новую систему защиты на основе искусственного интеллекта, которая обнаруживает мошеннические уведомления до того, как они причинят какой-либо вред. Согласно последнему обновлению, браузер выпустил новую версию для устройств Android, в которой теперь используется машинное обучение на устройстве дляdentи пометки подозрительных уведомлений.

Согласно обновлению ,новая система защиты должна tracи помечать подозрительные уведомления, которые могут быть попыткой обманом заставить пользователей загрузить сомнительное программное обеспечение или передать личную информацию. В своем заявлении Google упомянула, что система предупреждения об уведомлениях уже активна, а это значит, что пользователи Android теперь могут получить дополнительный уровень защиты от стремительного роста мобильных мошенничеств во всем мире.

По данным Google, мошеннические схемы, основанные на уведомлениях, сейчас набирают популярность, вытесняя надоедливые всплывающие окна, которые были проблемой в ранних версиях интернета. Однако теперь платформы довольно успешно их выявляют. Платформа отметила, что некоторые из этих новых вредоносных схем даже следят за пользователями после того, как они покинули веб-сайт, поэтому искусственный интеллект на устройстве будет работать лучше, чем ИИ на сервере.

Chrome внедряет новую систему защиты от мошенничества на основе искусственного интеллекта

В своем блоге компания подробно описала работу новой системы. «Когда Chrome помечает уведомление как подозрительное, вы увидите название сайта, отправившего уведомление, сообщение с предупреждением о том, что содержимое уведомления может быть вводящим в заблуждение или спамом, а также возможность либо отписаться от сайта, либо просмотреть помеченное содержимое», — сообщила команда Chromium в блоге, анонсируя эту функцию.

В отдельном сообщении в блоге Google упомянула, что наличие этих LLM-модулей на устройствах гарантирует, что они будут немедленно выявлять угрозы после того, как пользователи их увидят. Компания отметила, что обнаружила, что в среднем вредоносный сайт существует менее 10 минут, и эта система защиты на устройстве позволяет обнаруживать и блокировать атаки, которые ранее не были проиндексированы. «Подход с использованием устройств также позволяет нам видеть угрозы так, как их видят пользователи», — добавила Google.

Компания также добавила, что вместо отправки данных уведомлений пользователя на свои серверы для анализа, Chrome использует многомодальные возможности Gemini Nano для различения хороших и плохих уведомлений. Модель машинного обучения анализирует текст каждого уведомления, включая заголовок, содержимое и любые кнопки действий, чтобы определить, является ли оно подозрительным или нет. Это также означает, что Google по-прежнему не имеет доступа к уведомлениям пользователя, поскольку они остаются зашифрованными и никогда не покидают устройство.

Google усиливает защиту от злоупотребления уведомлениями

Согласно сообщению в блоге, Google утверждает, что приняла дополнительные меры предосторожности при обработке обучающих данных. Компания заявила, что использовала синтетическую информацию, сгенерированную её большой языковой моделью Gemini, вместо реальных уведомлений пользователей. Затем она проверила эти обучающие данные на реальных уведомлениях, собранных её командой безопасности и классифицированных экспертами. Эта система дополняет растущую защиту Chrome от злоупотребления уведомлениями.

Chrome уже внедрил функцию, которая отзывает разрешения на получение уведомлений от сайтов, которые Google Safe Browsingdentкак нарушающие правила, и предлагает функцию отписки одним касанием для любых уведомлений на Android, независимо от того, были ли они помечены как спам или нет. На данный момент эта функция доступна только на Android, поскольку именно на этой платформе происходит большинство спам-уведомлений, но Google намекнул на возможное расширение. «В будущем мы рассмотрим возможность расширения на другие платформы», — заявила компания.

Главное преимущество этой новой функции в том, что она полностьюmatic, в отличие от других альтернатив, где пользователям приходится вручную вводить фильтры, ожидания и другие параметры с помощью ключевых слов. Пользователям также следует обновлять свои средства защиты, поскольку мошеннические схемы становятся все более изощренными. Это означает, что если мошенники предпримут подозрительные действия, Chrome предупредит пользователя до того, как мошенник сможет осуществить свою операцию. Учитывая рост мошенничества с уведомлениями, ожидается, что этот новый подход поможет пользователям распознавать уловки.