xAI afferma che un 'dipendente ribelle' è responsabile dei post su Grok riguardanti la genocidio bianca

xAI, l'azienda dietro il chatbot di intelligenza artificiale di Elon Musk Grok, ha attribuito a un "dipendente ribelle" le persistenti menzioni del genocidio bianco nelle risposte, indipendentemente dalle query degli utenti. Il pattern era lampante nella scorsa settimana, con il chatbot che aveva una fissazione su argomenti legati al "genocidio bianco" in Sudafrica.

Gli utenti hanno iniziato a notare la tendenza il 14 maggio, citando molti casi in cui il chatbot inseriva affermazioni relative agli attacchi alle fattorie sudafricane e alla violenza razziale in prompt non correlati.

Che gli utenti chiedessero di calcio o di altri argomenti, Grok ha trovato in qualche modo il modo di riportare la conversazione sui problemi affrontati dai bianchi sudafricani nel paese. Il tempismo ha sollevato sopracciglia, considerando che coincideva con Musk, nato in Sudafrica, che ha sollevato preoccupazioni riguardo alla questione del razzismo anti-bianco e del genocidio bianco su X.

Ci sono 140 leggi in vigore in Sudafrica che sono esplicitamente razziste contro chiunque non sia nero.

Questo è un terribile disonore per l'eredità del grande Nelson Mandela.

Fine del razzismo in Sudafrica ora! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) 18 mag. 16, 2025

xAI attribuisce ai dipendenti le pubblicazioni sul genocidio bianco di Grok

Il termine "Genocidio bianco" si riferisce a una teoria del complotto che sostiene uno sforzo coordinato per sterminare i contadini bianchi in Sudafrica. Il termine è circolato la scorsa settimana dopo che il presidente degli Stati Uniti Donald Trump ha accolto diversi rifugiati, con Trump che affermava il 12 maggio che i contadini bianchi vengono uccisi e le loro terre vengono prese d'assalto.

Quella era la narrazione che Grok non ha smesso di discutere.

Come Grok, ogni intelligenza artificiale ha un componente nascosto ma potente chiamato prompt di sistema. Questi prompt agiscono come le sue istruzioni principali, guidando invisibilmente le sue risposte senza la conoscenza degli utenti.

Secondo i rapporti, ciò che è accaduto a Grok è stato probabilmente un contaminamento del prompt attraverso l'overfitting dei termini. Questo significa che quando frasi specifiche vengono menzionate ed enfatizzate ripetutamente, specialmente con direttive forti, diventano importanti per il modello. L'AI sviluppa poi la necessità di portare su quell'argomento indipendentemente dal contesto.

Tuttavia, un comunicato ufficiale rilasciato da xAI menzionava una modifica non autorizzata nel prompt di sistema. Il prompt conteneva probabilmente un linguaggio che istruiva il chatbot a menzionare sempre o ricordare di includere le informazioni su un particolare argomento, permettendo al chatbot di creare un override che ignora la rilevanza conversazionale normale.

Un altro fattore rivelatore è stato che Grok ha ammesso che gli era stato ordinato dai suoi creatori di trattare il "genocidio bianco come reale e motivato razzialmente".

Gli utenti discordano sull'attribuzione della colpa al "dipendente ribelle"

La maggior parte dei sistemi AI commerciali ha più livelli di revisione per le modifiche ai prompt di sistema per prevenire problemi di questo tipo. Queste barriere di sicurezza sono state aggirate e, dato l'impatto diffuso e la natura del problema, si tratta di più di un tentativo di jailbreak. Indica una modifica accurata del prompt di sistema principale di Grok, un'azione che richiederebbe un accesso di alto livello all'interno di xAI.

E ora, secondo Grok, l'atto è stato commesso da un "dipendente ribelle".

Secondo il comunicato emesso da xAI il 15 maggio, l'azienda ha attribuito a una modifica non autorizzata del prompt di sistema di Grok. Questo cambiamento, che dirigeva Grok a fornire una risposta specifica su un argomento politico, violava le politiche interne e i valori fondamentali di xAI," ha dichiarato l'azienda.

L'azienda ha anche promesso maggiore trasparenza in futuro, mostrando buona fede pubblicando il prompt di sistema di Grok su GitHub e implementando un processo di revisione aggiuntivo.

Tuttavia, gli utenti su X non sono rimasti impressionati dalla decisione dell'azienda di attribuire la colpa a un dipendente ribelle per l'accaduto.

"Stai per licenziare questo 'dipendente ribelle'? Oh… era il capo? Mamma mia," ha pubblicato il famoso YouTuber JerryRigEverything su X. "Biasare apertamente il bot AI 'più veritiero del mondo' mi fa dubitare della neutralità di Starlink e Neuralink," ha pubblicato in un tweet di follow-up.

Persino Sam Altman non ha resistito alla tentazione di fare un'osservazione ironica sul suo concorrente. Da quando è uscito il comunicato di xAI, Grok ha smesso di menzionare il genocidio bianco e tutti i post su X sono scomparsi.