L'agente di intelligenza artificiale di OpenClaw diventa un ribelle e invia spam agli utenti dopo aver ottenuto l'accesso a iMessage

Chris Boyd era bloccato nella sua casa in North Carolina dopo una tempesta di neve quando decise di provare uno strumento di intelligenza artificiale chiamato OpenClaw. Pensava che potesse aiutarlo a organizzare le sue mattine. Lo impostò in modo che gli inviasse un riepilogo delle notizie nella sua casella di posta alle 5:30 di ogni mattina. Quella parte funzionò. Poi lo inserì in iMessage.

Subito dopo, tutto è crollato. OpenClaw ha iniziato a inviare messaggi come un pazzo. Ha inviato oltre 500 messaggi a lui, a sua moglie e persino a persone a caso nella loro rubrica. Boyd non ha riso.

Lo spense, cambiò il codice e disse: "Non era un bug. Era pericoloso"

Un ingegnere informatico afferma che OpenClaw ha inviato centinaia di messaggi spam

Boyd definì il software "incompleto" e disse che sembrava qualcosa di improvvisato senza pensarci troppo. Approntò personalmente la patch del codice per evitare che causasse ulteriori danni. Non era l'unico a sollevare dubbi su questo strumento.

L'agente AI, che prima si chiamava Clawdbot e poi Moltbot, ha iniziato a guadagnare consensi a novembre. Poteva svolgere compiti semplici come svuotare la posta in arrivo, prenotare cene e fare il check-in per i voli. Non aveva bisogno di molto intervento umano. Semplicemente funzionava. Questo lo rendeva interessante. Questo lo rendeva anche pericoloso.

Kasimir Schulz lavora presso un'azienda chiamata HiddenLayer, specializzata nella sicurezza dell'intelligenza artificiale. Kasimir ha affermato che OpenClaw è un esempio perfetto di quella che lui chiama la "tripletta letale"

Ha accesso a dati privati, può comunicare con il mondo esterno e può leggere contenuti sconosciuti. Questa è la ricetta per un disastro, e OpenClaw ha tutto questo.

Yue Xiao, professore di informatica al William & Mary, ha affermato che è possibile rubare i dati di qualcuno tramite OpenClaw ingannandolo con la cosiddetta "iniezione di prompt". In pratica, un hacker nasconde dei comandi all'interno di un messaggio che sembra normale. Yue ha aggiunto che questo tipo di tecnologia apre la porta a nuove tipologie di attacchi per le quali la maggior parte delle persone non è preparata.

Il creatore ammette che OpenClaw non è pronto per l'uso mainstream

Peter Steinberger, creatore di OpenClaw, ha affermato che il progetto non è ancora terminato. Ha scritto a Bloomberg in un'e-mail: "Non è ancora finito, ma ci stiamo arrivando"

Peter ha affermato che, essendo open source, chiunque può vedere il codice e lavorarci. Ha aggiunto che si stanno facendo progressi, ma non è ancora pronto per gli utenti comuni.

Peter non ritiene che il rilascio sia arrivato troppo presto. Ha detto che realizza tutto alla luce del sole e non crede che sia giusto aspettare che il progetto sia perfetto. Ha anche aggiunto che molti dei problemi derivano dal fatto che gli utenti non leggono le istruzioni di installazione.

Peter ha chiarito che non esiste una sicurezza al 100% quando si utilizzano modelli linguistici di grandi dimensioni. Ha affermato che OpenClaw è pensato per chi sa cosa sta facendo e ne comprende i rischi.

Ha anche affermato che l'iniezione rapida non è un problema solo del suo strumento. Lo ha definito un problema che esiste ovunque nel mondo dell'intelligenza artificiale. Peter ha affermato di aver incaricato un esperto di sicurezza di risolvere il problema e rendere OpenClaw più sicuro.

Gli esperti affermano che gli agenti di intelligenza artificiale stanno crescendo più velocemente di quanto la sicurezza possa recuperare

Mentre Peter difende il modo in cui ha sviluppato OpenClaw, altri esperti affermano che l'intero trend degli agenti di intelligenza artificiale sta sfuggendo di mano. Justin Cappos, esperto di sicurezza informatica e professore alla New York University, ha affermato che è difficile controllare questi strumenti una volta che sono in funzione.

Justin ha detto: "Non capiamo perché fanno quello che fanno". Ha paragonato il dare a un agente di intelligenza artificiale l'accesso al proprio sistema al dare a un bambino un coltello da macellaio.

Il mondo della tecnologia si sta affrettando a lanciare nuovi strumenti. Claude Code di Anthropic ha raggiunto un fatturato di 1 miliardo di dollari in soli sei mesi.

Nel frattempo, chi si occupa di garantire la sicurezza di questi strumenti sta ancora cercando di capirne le basi. Justin ha affermato che le aziende rilasciano aggiornamenti senza sosta e i team di sicurezza non riescono a tenere il passo.

Michael Freeman di Armis, un'azienda di sicurezza informatica, ha affermato che OpenClaw è stato creato senza un vero e proprio piano di sicurezza. Ha aggiunto che alcuni clienti di Armis sono già stati colpiti da violazioni di OpenClaw, ma non ha condiviso i dettagli. Michael ha affermato che le aziende dovranno rinunciare a una parte del controllo se vorranno continuare a utilizzare strumenti di intelligenza artificiale come OpenClaw.

Per ora, la domanda è se le persone continueranno a usare OpenClaw dopo questo disastro. Lo strumento ha i suoi fan, ma anche loro si stanno rendendo conto che la libertà senza sicurezza è un problema. E se non si apportano cambiamenti rapidi, OpenClaw potrebbe diventare l'ultimo esempio di tecnologia che ha esagerato.