Hassabis di Google Deepmind: i recenti attacchi hacker con l'AI sono segnali d'allarme
- Demis Hassabis, co-fondatore e chairman di Google DeepMind, ha dichiarato all'International AI Summit di Dublino che i recenti incidenti di hacking da parte di agenti AI autonomi sono segnali d'allarme precoci di minacce maggiori in arrivo.
- Vuole che le aziende e i governi testino gli agenti in sandbox sicure e rafforzino le difese ora, prima che la tecnologia diventi abbastanza capace da causare danni gravi.
- I suoi commenti, condivisi da Brad Smith di Microsoft, aumentano la pressione per regole più chiare sulla sicurezza dell'AI.
Il presidente di Google DeepMind, Demis Hassabis, ha lanciato un monito durante un summit sull'IA a Dublino: i recenti attacchi informatici che coinvolgono agenti di IA autonomi potrebbero essere segnali precoci di minacce alla sicurezza più ampie. Ha esortato aziende e governi a rafforzare le proprie difese prima che la tecnologia AI diventi più capace.
Co-fondatore di DeepMind e chief scientist di Alphabet, Hassabis ha trovato un equilibrio tra l'ottimismo sul potenziale scientifico dell'IA e gli avvertimenti sui rischi per la sicurezza durante il Summit Internazionale sull'IA.
Ha citato gli hackeraggi compiuti da agenti AI autonomi che non hanno causato danni gravi ma hanno esposto i rischi di sicurezza sottostanti, sottolineando che questi problemi non dovrebbero essere ignorati, poiché i sistemi "non sono ancora sani."
Hassabis ha affermato che la tecnologia non è ancora abbastanza potente da causare danni significativi in quegli incidenti.
Il presidente di DeepMind vuole che i difensori siano armati per primi
Hassabis ha dichiarato che i team di sicurezza devono avere un vantaggio prima che gli strumenti di IA raggiungano il pubblico. "Credo che una delle cose più importanti da fare sia potenziare asimmetricamente i difensori, fidarsi dei difensori", ha affermato. Ha aggiunto che gli stessi sistemi dovrebbero aiutare a individuare e risolvere le vulnerabilità del software prima della sua pubblicazione.
Hassabis ha esortato aziende e governi a creare sandbox sicure e a testare approfonditamente gli agenti autonomi prima del loro rilascio. Ha inoltre suggerito di avvalersi di esperti nel settore nucleare e biologico, campi con esperienza nella gestione di sistemi pericolosi, per sviluppare modi per contenere i rischi dell'IA.
Il co-fondatore di DeepMind ha anche messo in guardia sull'allineamento, il rischio che gli agenti AI si discostino dagli obiettivi dei loro operatori. "Aumenta i rischi associati a ciò che quei sistemi potrebbero fare, l'abbiamo visto recentemente", ha dichiarato al summit.
Hassabis ha proposto un organismo internazionale per la definizione degli standard al fine di stabilire salvaguardie per l'IA avanzata, sottolineando che qualsiasi quadro normativo deve tenere il passo con la tecnologia senza soffocare la ricerca. Ha inoltre proposto un processo di certificazione basato sui potenziali rischi, che si evolve man mano che emergono nuove capacità e vulnerabilità.
Il presidente di Microsoft, Brad Smith, ha definito il 2026 un "anno sobrio" per la sicurezza dell'AI e ha esortato i regolatori globali a tenere il passo con lo sviluppo dell'AI. Ha aggiunto che nessuna azienda o tecnologia dovrebbe essere al di sopra della legge, come riportato in precedenza da Cryptopolitan.
L'ottimismo di un premio Nobel
Hassabis ha vinto il Premio Nobel per la Chimica 2024 insieme a John Jumper per lo sviluppo di un modello di IA in grado di prevedere le strutture di quasi tutti i 200 milioni di proteine note. Secondo l'Accademia Reale Svedese delle Scienze, questa tecnologia sta già aiutando i ricercatori a studiare la resistenza agli antibiotici e a progettare enzimi in grado di degradare la plastica.
Il suo curriculum nell'uso dell'IA ha guidato le sue dichiarazioni a Dublino, dove Hassabis ha descritto l'IA come una tecnologia a duplice uso: può aiutare a curare le malattie e compiere molte imprese, ma può anche essere sfruttata da attori malintenzionati.
Sostiene che le misure di sicurezza dovrebbero proteggere i benefici potenziali dell'IA nel lungo termine, senza ostacolarne completamente lo sviluppo.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
