Ladent di Signal, Meredith Whittaker, ha messo in guardia il grande pubblico sui rischi associati all'intelligenza artificiale (IA) agentiva. Intervenendo alla conferenza SXSW di Austin, in Texas, ha affermato che l'utilizzo dell'IA agentiva potrebbe comportare un rischio per la privacy degli utenti.
Secondo la dichiarazione , quest'ultima ha menzionato la necessità di forme di comunicazione sicure, sottolineando che utilizzare agenti di intelligenza artificiale equivale a "mettere il cervello in un barattolo". Ha aggiunto che la nuova tendenza in cui gli utenti consentono all'intelligenza artificiale di eseguire attività per loro conto potrebbe comportare problemi sia in termini di privacy che di sicurezza.
L'uso di agenti di intelligenza artificiale è diventato dilagante nel settore delle criptovalute, con gli utenti del settore della finanza decentralizzata (DeFi) che utilizzano queste macchine per svolgere attività come l'esecuzione di operazioni, l'adattamento e persino l'ottimizzazione di strategie con un input minimo o nullo da parte degli utenti. Questi agenti di intelligenza artificiale sono anche integrati nelle piattaforme per aiutare gli utenti a fare trading in modo più semplice, intelligente e veloce. Tuttavia, alcuni bot vengono scaricati prima che gli utenti possano interagire con un agente di intelligenza artificiale.
Ildent del Signal lancia un monito sulla cautela nei confronti degli agenti di intelligenza artificiale
Secondo ildentdi Signal, diverse piattaforme stanno iniziando a commercializzare agenti di intelligenza artificiale come una forma di servizio a valore aggiunto per migliorare la vita degli utenti. Nel suo discorso, Whittaker ha affermato che, al di là del loro utilizzo nel settore delle criptovalute, questi agenti gestiscono diverse attività online per gli utenti. Ad esempio, gli agenti di intelligenza artificiale possono acquistare biglietti per eventi, programmare eventi sul calendario e inviare messaggi agli amici.
"Quindi possiamo semplicemente mettere il nostro cervello in un barattolo perché è la cosa che fa questo e non dobbiamo toccarlo, giusto?" ha chiesto ildent del Signal.
Dopo aver posto la domanda, ha poi iniziato una lunga discussione sui permessi che gli utenti devono concedere agli agenti di intelligenza artificiale prima che possano svolgere tutte queste attività per rendere la vita degli utenti più efficiente. Whittaker ha aggiunto che includerà l'accesso al nostro browser web, al calendario, alle app di messaggistica e, a volte, alla nostra carta di credito, perché deve pagare i biglietti per gli eventi che prenota per noi.
"Dovrebbe essere in grado di gestire quel [processo] attraverso l'intero sistema con qualcosa che assomigli ai permessi di root, accedendo a ciascuno di quei database, probabilmente in chiaro, perché non esiste un modello per farlo in modalità crittografata", ha aggiunto Whittaker.
La dichiarazione di Whittaker invita alla cautela nel settore dell'intelligenza artificiale
Nella sua dichiarazione, Whittaker ha affermato che gli agenti di intelligenza artificiale non funzionano in modo sufficientemente autonomo, perché devono essere alimentati da modelli di intelligenza artificiale. Ha anche discusso la relazione tra il processo e la sicurezza, osservando che le informazioni vengono inviate a un server per essere elaborate prima di essere rispedite.
"C'è quindi un problema profondo di sicurezza e privacy che sta aleggiando attorno a questo clamore attorno agli agenti e che, in ultima analisi, minaccia di rompere la barriera emato-encefalica tra il livello applicativo e il livello del sistema operativo, unendo tutti questi servizi separati [e] confondendone i dati", ha aggiunto Whittaker.
Ha anche osservato che se Signal decidesse di integrare agenti di intelligenza artificiale nella sua app, ciò comprometterebbe la privacy dei messaggi dei suoi utenti. Ha aggiunto che l'agente deve avere accesso all'app per inviare messaggi ad altre persone e anche per estrarre informazioni per riassumere il testo.
I suoi commenti sono arrivati dopo aver partecipato a un dibattito in cui si discuteva di come l' industria dell'intelligenza artificiale si basi su una modalità di sorveglianza, dovuta al modo in cui vengono raccolti dati di massa. Whittaker ha anche aggiunto di ritenere che più dati vengono raccolti, più potenziali conseguenze potrebbero presentarsi, a suo avviso, non positive.
Con l'intelligenza artificiale agentica, ildent di Signal ha affermato che "minacceremo ulteriormente la privacy e la sicurezza a causa di un "genio magico che si prenderà cura delle esigenze della vita", ha concluso.
