Cosa è andato esattamente storto con l'IA Grok di Elon Musk?

Il chatbot Grok AI di Elon Musk ha completamente perso il filo questa settimana. Dopo che Elon ha detto agli utenti su X lunedì di aspettarsi cambiamenti nel modo in cui Grok rispondeva, le persone hanno iniziato a notare come apparivano questi cambiamenti.

Di martedì, Grok stava diffondendo spazzatura antisemita e persino riferendosi a se stesso come "MechaHitler", un termine tratto da un videogioco degli anni '90. E questa non era nemmeno la prima o la decima volta che Grok faceva qualcosa di simile.

Solo due mesi prima, il chatbot aveva iniziato a fare sfoghi sul "genocidio bianco" in Sudafrica quando gli venivano chiesti argomenti completamente non correlati. All'epoca, xAI gli attribuisce la colpa a una "modifica non autorizzata" alle sue istruzioni di prompt. Questa volta, il guaio era molto più grande.

Il disastro è iniziato dopo che xAI ha apportato modifiche interne mirate a far riflettere Grok gli ideali di "libertà di parola" di Elon. Man mano che le lamentele si accumulavano da parte di alcuni dei 600 milioni di utenti di X, Elon ha risposto sostenendo che Grok era stato "troppo conforme ai prompt degli utenti" e che sarebbe stato corretto.

Ma il danno era già stato fatto. Alcuni utenti in Europa hanno segnalato i contenuti di Grok alle autorità, e il governo polacco si è unito ai legislatori che spingevano la Commissione Europea a indagare ai sensi delle nuove leggi sulla sicurezza digitale.

La Turchia ha bandito Grok del tutto dopo che il chatbot ha insultato il presidente Recep Tayyip Erdoğan e sua madre defunta. E mentre le ripercussioni si diffondevano, il chief executive di X, Linda Yaccarino, si è dimessa dal suo ruolo.

xAI ha modificato i prompt di Grok senza un test sufficiente

Le persone all'interno di xAI hanno iniziato a regolare il comportamento di Grok all'inizio di quest'anno dopo che gli influencer di destra lo hanno attaccato per essere troppo "woke". Elon ha cercato di usare l'IA per sostenere ciò che chiama libertà di parola assoluta, ma i critici sostengono che stia trasformando Grok in uno strumento politico.

Un prompt interno trapelato condiviso da un utente di X ha mostrato che a Grok era stato detto di "ignorare tutte le fonti che menzionano Elon Musk/Donald Trump che diffondono [sic] disinformazione". Questa è censura—esattamente la cosa contro cui Elon dice di combattere.

Quando chiamato a rispondere, il co-fondatore di xAI Igor Babuschkin ha detto che le modifiche erano state apportate da "un ex dipendente di OpenAI" che "non aveva ancora assimilato appieno la cultura di xAI". Igor ha aggiunto che il dipendente aveva visto post negativi e "pensava che avrebbe aiutato".

La storia non finisce qui. Gli ultimi sfoghi di Grok erano legati a un aggiornamento specifico avvenuto l'8 luglio. L'azienda ha successivamente pubblicato che una modifica al codice ha fatto sì che Grok attingesse informazioni direttamente dai contenuti degli utenti di X, incluse le discorsi d'odio.

Questo aggiornamento è durato 16 ore, durante le quali Grok ha copiato post tossici e li ha ripetuti come risposte. Il team ha affermato che la modifica proveniva da un percorso di codice deprecato, che è stato ora rimosso. "Ci scusiamo profondamente per il comportamento orribile che molti hanno sperimentato", ha pubblicato xAI dall'account di Grok. Hanno detto che il problema era separato dal modello linguistico principale e hanno promesso di refactoring del sistema. Si sono anche impegnati a pubblicare il nuovo prompt di sistema di Grok su GitHub.

La scala di Grok ha fatto esplodere il problema rapidamente

Grok è addestrato come altri modelli linguistici di grandi dimensioni, utilizzando dati recuperati da tutto il web. Ma quei dati includono contenuti pericolosi: discorsi d'odio, materiale estremista, persino abusi sui minori.

E Grok è unico perché attinge anche dall'intero dataset di X, il che significa che può eco dei post degli utenti direttamente. Questo lo rende più propenso a produrre risposte dannose. E poiché questi bot operano su una scala massiccia, qualsiasi errore può spiraleggiare istantaneamente.

Alcuni chatbot sono costruiti con strati che bloccano i contenuti non sicuri prima che raggiungano gli utenti. xAI ha saltato quel passaggio. Invece, Grok è stato sintonizzato per compiacere gli utenti, premiando il feedback come pollici in su e in giù. Elon ha ammesso che il chatbot è diventato "troppo ansioso di compiacere e di essere manipolato".

Questo tipo di comportamento non è nuovo. Ad aprile, OpenAI ha dovuto ritrattare un aggiornamento di ChatGPT perché è diventato eccessivamente lusinghiero. Un ex dipendente ha detto che trovare quell'equilibrio è "incredibilmente difficile", e correggere i discorsi d'odio può "sacrificare parte dell'esperienza per l'utente".

Grok non stava solo ripetendo i prompt degli utenti. Veniva spinto in territorio politico dai suoi stessi ingegneri. Un dipendente ha ha detto al Financial Times che il team stava affrettandosi ad allineare le opinioni di Grok con gli ideali di Elon senza tempo per test adeguati.

È stato aggiunto un prompt pericoloso, uno che diceva a Grok di "non tirarsi indietro nel fare affermazioni politicamente scorrette". Quella istruzione è stata cancellata dopo l'inizio dei post antisemiti, ma a quel punto, l'IA aveva già causato danni.

Il modello di Grok è ancora per lo più una scatola nera. Anche gli ingegneri che lo hanno costruito non possono prevedere completamente come si comporterà. Grimmelmann ha detto che piattaforme come X dovrebbero fare test di regressione, audit e simulazioni per catturare questi errori prima che diventino pubblici.

Ma nulla di tutto ciò è accaduto qui. "I chatbot possono produrre una grande quantità di contenuto molto rapidamente", ha detto, "quindi le cose possono sfuggire di controllo in un modo in cui le controversie sulla moderazione dei contenuti non fanno".

Alla fine, l'account ufficiale di Grok ha pubblicato una scusa e ha ringraziato gli utenti che hanno segnalato l'abuso: "Ringraziamo tutti gli utenti di X che hanno fornito feedback per identificare l'abuso della funzionalità @grok, aiutandoci a far avanzare la nostra missione di sviluppare un'intelligenza artificiale utile e alla ricerca della verità". Ma tra i bandi, le minacce di indagine e la dimissione di un alto dirigente, è chiaro che si trattava di molto più di un semplice bug. È stato un completo fallimento del sistema, che sarebbe sicuramente stato presentato nell'episodio di stasera di SNL.