¿Podría la IA de escaneo de llamadas de Google llevar a la censura por defecto?

En un esfuerzo por proteger a los usuarios de Android contra estafadores telefónicos, Google está desarrollando nuevas salvaguardas. Google está probando una tecnología que utiliza inteligencia artificial para identificar patrones vinculados a estafas y notificar a los usuarios de teléfonos Android cuando se sospecha que hay fraudes en curso, según el Vicepresidente de Ingeniería de Google, Dave Burke. 

Google reveló el martes en la conferencia de desarrolladores I/O que está desarrollando una nueva función de monitoreo de llamadas que alertará a los usuarios sobre la posibilidad de que la persona con la que están hablando probablemente intente defraudarlos y les instará a cancelar dichas conversaciones.

Google asegura a los usuarios que sus datos estarán seguros

Según Google, la capacidad utiliza Gemini Nano, un modelo de lenguaje escalado, local y sin conexión para teléfonos inteligentes Android que se basa en el modelo de lenguaje grande Gemini de la empresa. 

La empresa dijo que,

"Toda esta protección ocurre en el dispositivo, por lo que su conversación permanece privada para usted."

Las llamadas de "representantes bancarios" que piden cosas que los bancos legítimos nunca pedirían, como sus contraseñas o PINs de tarjetas de crédito, o exigen pagos con tarjetas de regalo o transferencias de dinero urgentes son algunos ejemplos de lo que podría activar estas alertas. 

Google afirma que, dado que estas nuevas salvaguardas están todas en el dispositivo, las conversaciones que Gemini Nano está escuchando permanecerán secretas.

Los expertos en privacidad son cautelosos con la idea

El uso de inteligencia artificial generativa para el escaneo en tiempo real para identificar patrones vinculados a estafas durante las llamadas de voz ha preocupado a los expertos en el campo de la seguridad y la privacidad. 

También lea: Impresionante demostración de Gemini AI en Google I/O

Los expertos temen que, después de identificar estafas, no pase mucho tiempo hasta que noten tendencias vinculadas a inclinaciones políticas, preocupaciones de derechos humanos o dificultades privadas conectadas con los trabajos de las personas.

Un diseñador de soluciones de seguridad de IA y un ingeniero, Andriy, publicó en la plataforma X, compartiendo la publicación de Meredith Whittaker, diciendo que la herramienta de escaneo de llamadas por IA de Google lo ha dividido. Dijo que, aunque aprecia la protección contra el fraude, ¿a qué costo para su privacidad? 

Dijo que es especialista en ciberseguridad, por lo que es consciente de lo fácilmente que el escaneo del lado del cliente puede degenerar en monitoreo.

Los expertos predicen que es solo la punta del iceberg y, de hecho, lo que sucederá es que se desarrollará en censura centralizada en el futuro.

La compatibilidad de Gemini Nano es limitada

Aunque Google dice que los clientes tendrán que optar por usar la función de detección de estafas, afirma que revelará más detalles a finales de este año. No hay palabras sobre cuándo estará disponible la función. 

También lea: Google Photos obtendrá la función "Ask Photos" impulsada por IA con integración de Gemini

Por lo tanto, la compatibilidad puede restringir el rango de solicitantes para quienes esta tecnología es útil. El sitio web de soporte para desarrolladores para Gemini Nano establece que,

"Gemini Nano, la versión más pequeña de la familia de modelos Gemini, puede ejecutarse en el dispositivo en dispositivos Android compatibles, comenzando con el Google Pixel 8 Pro y la Serie Samsung S24."

Siempre existe la posibilidad de ser víctima de una estafa, incluso si algunas personas pueden encontrar fácil identificarlas después de años de esfuerzos de concienciación y consejos fácilmente disponibles sobre cómo evitarlas. 

Según una encuesta publicada por la Alianza Global Anti-Estafa en octubre del año pasado, 1 de cada 4 personas en todo el mundo perdió más de $1 billón a estafas o robo de identidad en el año anterior.

Reportaje de Cryptopolitan por Aamir Sheikh