Ildent di Signal lancia l'allarme sui rischi dell'intelligenza artificiale agentica

Ladent di Signal, Meredith Whittaker, ha messo in guardia il grande pubblico sui rischi associati all'intelligenza artificiale (IA) agentiva. Intervenendo alla conferenza SXSW di Austin, in Texas, ha affermato che l'utilizzo dell'IA agentiva potrebbe comportare un rischio per la privacy degli utenti.

Secondo quanto affermato, è stata sottolineata la necessità di forme di comunicazione sicure, affermando che utilizzare agenti di intelligenza artificiale equivale a "mettere il proprio cervello in un barattolo". Ha aggiunto che la nuova tendenza che vede gli utenti consentire all'IA di svolgere compiti per loro conto potrebbe comportare problemi sia per la privacy che per la sicurezza.

L'uso di agenti di intelligenza artificiale è diventato dilagante nel settore delle criptovalute, con gli utenti del settore della finanza decentralizzata (DeFi) che utilizzano queste macchine per svolgere attività come l'esecuzione di operazioni, l'adattamento e persino l'ottimizzazione di strategie con un input minimo o nullo da parte degli utenti. Questi agenti di intelligenza artificiale sono anche integrati nelle piattaforme per aiutare gli utenti a fare trading in modo più semplice, intelligente e veloce. Tuttavia, alcuni bot vengono scaricati prima che gli utenti possano interagire con un agente di intelligenza artificiale.

Ildent del Signal lancia un monito sulla cautela nei confronti degli agenti di intelligenza artificiale

Secondo ildentdi Signal, diverse piattaforme stanno iniziando a commercializzare agenti di intelligenza artificiale come una forma di servizio a valore aggiunto per migliorare la vita degli utenti. Nel suo discorso, Whittaker ha affermato che, al di là del loro utilizzo nel settore delle criptovalute, questi agenti gestiscono diverse attività online per gli utenti. Ad esempio, gli agenti di intelligenza artificiale possono acquistare biglietti per eventi, programmare eventi sul calendario e inviare messaggi agli amici.

"Quindi possiamo semplicemente mettere il nostro cervello in un barattolo perché è la cosa che fa questo e non dobbiamo toccarlo, giusto?" ha chiesto ildent del Signal.

Dopo aver posto la domanda, ha poi iniziato una lunga discussione sui permessi che gli utenti devono concedere agli agenti di intelligenza artificiale prima che possano svolgere tutte queste attività per rendere la vita degli utenti più efficiente. Whittaker ha aggiunto che includerà l'accesso al nostro browser web, al calendario, alle app di messaggistica e, a volte, alla nostra carta di credito, perché deve pagare i biglietti per gli eventi che prenota per noi.

"Dovrebbe essere in grado di gestire quel [processo] attraverso l'intero sistema con qualcosa che assomigli ai permessi di root, accedendo a ciascuno di quei database, probabilmente in chiaro, perché non esiste un modello per farlo in modalità crittografata", ha aggiunto Whittaker.

La dichiarazione di Whittaker invita alla cautela nel settore dell'intelligenza artificiale

Nella sua dichiarazione, Whittaker ha affermato che gli agenti di intelligenza artificiale non funzionano in modo sufficientemente autonomo, perché devono essere alimentati da modelli di intelligenza artificiale. Ha anche discusso la relazione tra il processo e la sicurezza, osservando che le informazioni vengono inviate a un server per essere elaborate prima di essere rispedite.

"C'è quindi un problema profondo di sicurezza e privacy che sta aleggiando attorno a questo clamore attorno agli agenti e che, in ultima analisi, minaccia di rompere la barriera emato-encefalica tra il livello applicativo e il livello del sistema operativo, unendo tutti questi servizi separati [e] confondendone i dati", ha aggiunto Whittaker.

Ha anche osservato che se Signal decidesse di integrare agenti di intelligenza artificiale nella sua app, ciò comprometterebbe la privacy dei messaggi dei suoi utenti. Ha aggiunto che l'agente deve avere accesso all'app per inviare messaggi ad altre persone e anche per estrarre informazioni per riassumere il testo.

Le sue dichiarazioni sono arrivate dopo la sua partecipazione a un panel di discussione su come l' industria dell'IA sia costruita su una modalità di sorveglianza a causa del modo in cui raccoglie grandi quantità di dati. Whittaker ha anche aggiunto che, a suo avviso, la quantità di dati raccolti può avere conseguenze potenzialmente negative.

Con l'intelligenza artificiale agentica, ildent di Signal ha affermato che "minacceremo ulteriormente la privacy e la sicurezza a causa di un "genio magico che si prenderà cura delle esigenze della vita", ha concluso.