Chrome запускает ИИ для блокировки мошеннических уведомлений

Chrome запустил новую систему защиты на основе искусственного интеллекта, которая перехватывает мошеннические уведомления до того, как они нанесут вред. Согласно последнему обновлению, браузер выпустил новое обновление для устройств Android, где теперь использует машинное обучение на устройстве для идентификации и маркировки подозрительных уведомлений.

Согласно обновлению, новая система защиты должна отслеживать и отмечать подозрительные уведомления, которые могут пытаться обмануть пользователей, заставив их загрузить подозрительное программное обеспечение или передать личную информацию. В своём заявлении Google упомянул, что система предупреждений об уведомлениях уже активна, что означает, что пользователи Android теперь могут иметь дополнительный уровень безопасности против растущего числа мобильных мошенничеств в мире.

Согласно Google, мошенничество на основе уведомлений теперь растёт, заменяя ранние раздражающие всплывающие окна, которые преследовали более ранние версии интернета. Однако теперь платформы довольно успешно научились их выявлять. Платформа упомянула, что некоторые из этих новых вредителей даже преследуют пользователей даже после того, как они покинули сайт, поэтому ИИ на устройстве будет работать лучше, чем ИИ на сервере.

Chrome развертывает новую систему защиты на базе ИИ против мошенничества

В своём блоге компания подробно описала функцию новой системы. «Когда уведомление помечается Chrome, вы увидите имя сайта, отправляющего уведомление, сообщение с предупреждением о том, что содержимое уведомления может быть обманным или спамом, и возможность либо отписаться от сайта, либо просмотреть помеченный контент», — сказала команда Chromium в блоге, анонсирующем эту функцию.

В отдельном блоге Google упомянул, что предоставление доступа к этим LLM на устройствах гарантирует, что они будут отмечать эти угрозы немедленно после того, как пользователи их увидят. Компания упомянула, что они обнаружили, что средний вредоносный сайт существует менее 10 минут, и эта система защиты на устройстве гарантирует, что они могут обнаруживать и блокировать атаки, которые ещё не были проиндексированы. «Подход на устройстве также позволяет нам видеть угрозы так же, как их видят пользователи», — добавила Google.

Компания также добавила, что вместо отправки данных уведомлений пользователей на свои серверы для анализа Chrome использует мультимодальные возможности Gemini Nano для различения хороших и плохих уведомлений. Модель машинного обучения анализирует текст каждого уведомления, включая его заголовок, содержание и любые кнопки действий, чтобы определить, является ли оно подозрительным. Это также означает, что Google по-прежнему не имеет доступа к уведомлениям пользователей, так как они остаются зашифрованными и никогда не покидают их устройство.

Google усиливает защиту от злоупотреблений с уведомлениями

Согласно блогу, Google утверждает, что принял дополнительные меры предосторожности с обучающими данными. Компания сказала, что использовала синтетическую информацию, сгенерированную её большой языковой моделью Gemini, вместо реальных уведомлений пользователей. Затем она проверила эти обучающие данные против реальных уведомлений, собранных её командой безопасности и классифицированных экспертами-людьми. Система дополняет растущую защиту Chrome от злоупотребления уведомлениями.

Chrome уже внедрил функцию, которая отзывает разрешения на отправку уведомлений с сайтов, которые Google Safe Browsing определяет как злоупотребляющие, и предлагает функцию отписки в один клик для любых уведомлений на Android, независимо от того, были ли они помечены как подозрительные. В настоящее время функция доступна только на Android, поскольку именно там происходит большинство спам-уведомлений, но Google намекнул на возможное расширение. «Мы будем оценивать возможность расширения на другие платформы в будущем», — заявила компания.

Лучшая часть этой новой функции в том, что она полностью автоматическая, в отличие от других альтернатив, где пользователи должны вручную вводить фильтры и ожидания, а также другие настройки с ключевыми словами. Ожидается, что пользователям также придется обновлять свою защиту по мере того, как мошенники становятся более изощренными. Это означает, что если мошенники предпримут подозрительные действия, Chrome предупредит пользователя до того, как мошенник сможет выполнить свою операцию. В условиях роста мошенничества с уведомлениями этот новый подход, как ожидается, поможет пользователям распознавать уловки.