L'IA di Scansione delle Chiamate di Google Potrebbe Portare a una Censura Predefinita?

In uno sforzo per proteggere gli utenti Android dagli truffatori telefonici, Google sta sviluppando nuove salvaguardie. Google sta testando una tecnologia che utilizza l'intelligenza artificiale per identificare modelli legati alle truffe e avvisare gli utenti di telefoni Android quando si sospetta che le frodi siano in corso, secondo il Vicepresidente dell'Ingegneria di Google Dave Burke. 

Google ha rivelato martedì alla conferenza per sviluppatori I/O che sta sviluppando una nuova funzione di monitoraggio delle chiamate che avviserà gli utenti della possibilità che la persona con cui stanno parlando stia probabilmente cercando di truffarli e li inviterà a interrompere tali conversazioni.

Google Assicura agli Utenti che i loro Dati Saranno Sicuri

Secondo Google, la capacità utilizza Gemini Nano, un modello linguistico scalato, locale e offline per smartphone Android basato sul modello linguistico grande Gemini dell'azienda. 

L'azienda ha detto che,

"Tutta questa protezione avviene sul dispositivo, quindi la tua conversazione rimane privata per te."

Le chiamate da "rappresentanti bancari" che chiedono cose che le banche legittime non chiederebbero mai, come le tue password o i PIN delle carte di credito, o richiedono pagamenti con carte regalo o trasferimenti di denaro urgenti sono alcuni esempi di ciò che potrebbe innescare questi avvisi. 

Google afferma che poiché queste nuove salvaguardie sono tutte sul dispositivo, le conversazioni su cui Gemini Nano sta ascoltando rimarranno segrete.

Gli Esperti sulla Privacy Sono Scettici sull'Idea

L'uso dell'IA generativa per lo scanning in tempo reale per individuare modelli legati alle truffe durante le chiamate vocali ha preoccupato gli esperti nel campo della sicurezza e della privacy. 

Leggi anche: Impressionante dimostrazione di Gemini AI a Google I/O

Gli esperti temono che dopo aver identificato le truffe, non ci vorrà molto prima che notino modelli legati alle inclinazioni politiche, alle questioni sui diritti umani o alle difficoltà private connesse ai lavori delle persone.

Un progettista di soluzioni di sicurezza AI e un ingegnere, Andriy, ha pubblicato sulla piattaforma X, condividendo il post di Meredith Whittaker, dicendo che lo strumento di scanning delle chiamate AI di Google lo ha diviso. Ha detto che mentre apprezza la salvaguardia contro le frodi, a quale costo per la sua privacy? 

Ha detto di essere uno specialista in cybersecurity, quindi è consapevole di quanto facilmente lo scanning lato client possa degenerare in monitoraggio.

Gli esperti prevedono che è solo la punta dell'iceberg e, in realtà, ciò che accadrà è che si svilupperà in censura centralizzata in futuro.

La Compatibilità di Gemini Nano è Limitata

Sebbene Google dica che i clienti dovranno opt-in per utilizzare la funzione di rilevamento delle truffe, afferma che rivelerà ulteriori dettagli entro la fine dell'anno. Non ci sono notizie su quando la funzione sarà accessibile. 

Leggi anche: Google Photos riceverà la funzionalità "Ask Photos" potenziata dall'IA con integrazione Gemini

Pertanto, la compatibilità potrebbe limitare la gamma di candidati per i quali tale tecnologia è utile. Il supporto agli sviluppatori sito web per Gemini Nano afferma che,

"Gemini Nano, la versione più piccola della famiglia di modelli Gemini, può essere eseguita sul dispositivo su dispositivi Android capaci, a partire da Google Pixel 8 Pro e Samsung S24 Series."

C'è sempre la possibilità di cadere vittima di una truffa, anche se alcune persone potrebbero trovare facile individuarle dopo anni di sforzi di sensibilizzazione e consigli facilmente disponibili su come evitarle. 

Secondo un sondaggio rilasciato dalla Global Anti-Scam Alliance nell'ottobre dello scorso anno, 1 persona su 4 in tutto il mondo ha perso oltre 1 trilione di dollari a causa di truffe o furto di identità nell'anno precedente.

Reportage di Cryptopolitan a cura di Aamir Sheikh