Chrome lanza IA para bloquear notificaciones de estafa

Chrome ha lanzado un nuevo sistema de defensa de inteligencia artificial que captura las notificaciones de estafa antes de que causen ningún daño. Según la última actualización, el navegador ha lanzado una nueva actualización para dispositivos Android donde ahora utiliza aprendizaje automático en el dispositivo para identificar y marcar notificaciones sospechosas.

Según la actualización, se espera que el nuevo sistema de defensa rastree y marque notificaciones sospechosas que puedan estar intentando engañar a los usuarios para que descarguen software dudoso o entreguen información personal. En su declaración, Google mencionó que el sistema de advertencia de notificaciones ya estaba activo, lo que significa que los usuarios de Android ahora pueden tener una capa adicional de seguridad contra el aumento generalizado de estafas móviles a nivel mundial.

Según Google, las estafas basadas en notificaciones están aumentando, reemplazando las ventanas emergentes molestas de principios de los primeros días de internet. Excepto que ahora, las plataformas han sido bastante exitosas en detectarlas. La plataforma mencionó que algunas de estas nuevas plagas incluso siguen a los usuarios incluso después de que han dejado un sitio web, por lo que la IA en el dispositivo funcionará mejor que la IA en el servidor.

Chrome implementa un nuevo sistema de defensa de IA contra estafas

En su publicación de blog, la compañía detalló la función del nuevo sistema. «Cuando una notificación sea marcada por Chrome, verá el nombre del sitio que envía la notificación, un mensaje de advertencia de que el contenido de la notificación es potencialmente engañoso o spam, y la opción de darse de baja del sitio o ver el contenido marcado», dijo el equipo de Chromium en una publicación de blog anunciando la función.

En una publicación de blog separada, Google mencionó que hacer que estos LLMs estén disponibles en los dispositivos asegura que marquen estas amenazas inmediatamente después de que los usuarios las vean. La compañía mencionó que descubrieron que el sitio malicioso promedio existe durante menos de 10 minutos, con este sistema de defensa en el dispositivo asegurando que pueden detectar y bloquear ataques que no han sido rastreados antes. «El enfoque en el dispositivo también nos permite ver las amenazas tal como las ven los usuarios», añadió Google.

La compañía también añadió que, en lugar de enviar los datos de notificación de un usuario a sus servidores para su análisis, Chrome utiliza las capacidades multimodales de Gemini Nano para diferenciar entre buenas y malas notificaciones. El modelo de aprendizaje automático examina el texto en cada notificación, incluido su título, contenido y cualquier botón de acción, para determinar si es sospechoso o no. Esto también significa que Google aún no tiene acceso a las notificaciones de un usuario, ya que permanecen encriptadas y nunca salen de su dispositivo.

Google intensifica su defensa contra el abuso de notificaciones

Según la publicación de blog, Google afirma que tomó precauciones adicionales con los datos de entrenamiento. La compañía dijo que utilizó información sintética generada por su modelo de lenguaje grande Gemini en lugar de notificaciones reales de usuarios. Luego validó estos datos de entrenamiento contra notificaciones reales que su equipo de seguridad había recopilado y que expertos humanos habían clasificado. El sistema se suma a la creciente defensa de Chrome contra el abuso de notificaciones.

Chrome ya ha implementado una función que revoca los permisos de notificación de los sitios que Google Safe Browsing identifica como abusivos y ofrece una función de darse de baja con un solo toque para cualquier notificación en Android, ya sea que haya sido marcada o no. Por ahora, la función solo está disponible en Android ya que es donde ocurren la mayoría de las notificaciones de spam, pero Google insinuó una posible expansión. «Evaluaremos expandir a otras plataformas en el futuro», dijo la compañía.

Lo mejor de esta nueva función es que es completamente automática, a diferencia de otras alternativas donde los usuarios deben escribir manualmente filtros y expectativas, y otras configuraciones con palabras clave. Se espera que los usuarios también actualicen sus defensas a medida que las estafas se vuelvan más sofisticadas. Esto significa que si los estafadores hacen sus movimientos con algo sospechoso, Chrome alertará al usuario antes de que el estafador pueda llevar a cabo su operación. Con el fraude de notificaciones actualmente en aumento, se espera que este nuevo enfoque ayude a los usuarios a detectar trucos.