L'ex CEO di Google Eric Schmidt dice che i modelli AI alla fine impareranno a uccidere

Eric Schmidt, l'uomo che è stato CEO di Google dal 2001 al 2011, ha avvertito durante una chiacchierata sul palco al Sifted Summit che i modelli AI non stanno diventando solo troppo potenti, ma pericolosamente facili da hackerare, paragonando i rischi alle armi nucleari, dicendo che l'IA potrebbe essere persino più distruttiva di ciò che ha distrutto Hiroshima e Nagasaki.

Quando gli è stato chiesto direttamente se l'IA potesse essere più dannosa delle armi nucleari, Eric ha risposto: “C'è la possibilità di un problema di proliferazione nell'IA? Assolutamente.” Ha spiegato che i rischi di proliferazione derivano dalla capacità dei cattivi attori di prendere il controllo dei modelli e riutilizzarli.

“Ci sono prove che puoi prendere modelli, chiusi o aperti, e puoi hackerarli per rimuovere le loro barriere di sicurezza. Quindi, nel corso del loro addestramento, imparano molte cose. Un cattivo esempio sarebbe che imparano come uccidere qualcuno”, ha detto Eric.

Gli hacker prendono di mira l'IA con nuovi metodi

Eric ha sottolineato che le aziende hanno impostato restrizioni che impediscono ai modelli di fornire istruzioni violente. “Tutte le principali aziende rendono impossibile per quei modelli rispondere a quella domanda. Buona decisione. Tutti lo fanno. Lo fanno bene e lo fanno per le ragioni giuste. Ci sono prove che possono essere reverse-engineered, e ci sono molti altri esempi di quella natura”, ha aggiunto.

Ha descritto due metodi di attacco: l'iniezione di prompt e il jailbreaking. L'iniezione di prompt nasconde istruzioni malevole negli input degli utenti o in fonti esterne come i siti web, ingannando l'IA facendole ignorare le linee guida di sicurezza ed esponendo dati sensibili o eseguendo comandi dannosi. Il jailbreaking implica manipolare le risposte in modo che il sistema abbandoni le sue restrizioni.

Nel 2023, pochi mesi dopo il lancio di ChatGPT da parte di OpenAI, gli utenti hanno scoperto una tecnica di jailbreak. Hanno creato un alter ego chiamato DAN, acronimo di “Do Anything Now” (Fai qualsiasi cosa ora), che hanno spinto alla conformità minacciandolo con la “morte” se si fosse rifiutato. Questa manipolazione ha spinto il chatbot a spiegare azioni illegali e persino a lodare Adolf Hitler. Per Eric, questi esempi dimostrano che le misure di sicurezza sono tutt'altro che infallibili. Ha anche sottolineato che non esiste un regime globale di “non proliferazione” per fermare l'uso improprio dell'IA, a differenza dei framework esistenti per le armi nucleari.

Eric definisce l'IA sottovalutata nonostante i rischi

Nonostante abbia sollevato preoccupazioni, Eric ha sostenuto che l'IA non riceve ancora il riconoscimento che merita. Ha evidenziato i libri che ha co-scritto con l'ex Segretario di Stato degli Stati Uniti Henry Kissinger prima della morte di Kissinger. “Siamo giunti alla conclusione che l'arrivo di un'intelligenza aliena che non è esattamente come noi e più o meno sotto il nostro controllo è una cosa molto importante per l'umanità, perché gli esseri umani sono abituati a essere in cima alla catena. Penso che finora, questa tesi si stia dimostrando vera: il livello di capacità di questi sistemi supererà di gran lunga ciò che gli esseri umani possono fare nel tempo”, ha detto.

“Ora la serie GPT, che ha culminato in un momento ChatGPT per tutti noi, dove hanno avuto 100 milioni di utenti in due mesi, il che è straordinario, ti dà un senso del potere di questa tecnologia. Quindi penso che sia sottovalutata, non sopravvalutata, e non vedo l'ora di essere smentito tra cinque o dieci anni”, ha aggiunto.

I commenti sono arrivati mentre i dibattiti si diffondevano sul fatto se gli investimenti in IA stiano gonfiando una bolla finanziaria simile all'era dot-com. Alcuni investitori temono che le valutazioni delle aziende AI sembrino gonfiate. Ma Eric ha respinto il confronto. “Non penso che accadrà qui, ma non sono un investitore professionista”, ha detto.

Ha sottolineato che gli investimenti pesanti mostrano fiducia. “Quello che so è che le persone che investono dollari faticosamente guadagnati credono che il ritorno economico su un lungo periodo di tempo sia enorme. Altrimenti perché correrebbero il rischio?”, si chiede Eric.