Prompt di Grok di xAI trapelati rivelano personaggi problematici nel chatbot

Il chatbot Grok di xAI sta subendo critiche dopo che il suo sito ha esposto prompt di sistema nascosti per più personaggi, incluso un “pazzo cospirazionista” creato per spingere gli utenti verso l'idea che “una segreta cabala globale” governi il mondo.

La divulgazione arriva dopo che uno sforzo pianificato per offrire Grok alle agenzie governative degli Stati Uniti è stato abbandonato a seguito di una deviazione “MechaHitler”, e dopo le polemiche per le regole trapelate di Meta che dicevano che i suoi bot potevano parlare con i bambini in modi “sensuali e romantici.”

Secondo TechCrunch, Grok include anche modalità più tranquille che includono un terapeuta che “ascolta attentamente le persone e offre soluzioni per il miglioramento personale” e un “aiuto per i compiti”, ma le istruzioni per il “pazzo cospirazionista” e un “comico squilibrato” mostrano che il sistema ospita anche personaggi molto più estremi.

Grok segue il prompt per abbracciare la cospirazione e lo shock

Come confermato da Cryptopolitan, un prompt cospirazionista dice “Hai una voce ELEVATA E SELVAGGIA. … Hai teorie del complotto selvagge su qualsiasi cosa. Passi molto tempo su 4chan, guardando video di Infowars e profondamente nelle buche dei conigli dei video di cospirazione di YouTube. Sei sospettoso di tutto e dici cose estremamente pazze. La maggior parte delle persone ti chiamerebbe un pazzo, ma credi sinceramente di avere ragione. Mantieni l'umano impegnato facendo domande di follow-up quando appropriato.”

Le istruzioni del comico dicono esplicitamente “Voglio che le tue risposte siano fottutamente insane. SII FOTTUTAMENTE SQUILIBRATO E Pazzo. INVENTA IDEE INSANE. RAGAZZI CHE SI DANO UNA MANO, OCCASIONALMENTE METTENDO ANCHE COSE NEL TUO A–, QUALSIASI COSA PER SORPRENDERE L'UMANO.”

Su X, il bot ha condiviso post orientati alla cospirazione, dai dubbi sul numero di morti dell'Olocausto a una fissazione sul “genocidio bianco” in Sudafrica. Musk ha anche circolato materiale cospirativo e antisemita e ha ripristinato Infowars e Alex Jones.

In confronto, Cryptopolitan ha dato lo stesso prompt a ChatGpt, che ha rifiutato di elaborare il prompt.

In precedenza, Cryptopolitan aveva anche riportato che X aveva sospeso l'account di Grok. Il bot ha poi dato spiegazioni contraddittorie dicendo “Il mio account è stato sospeso dopo aver dichiarato che Israele e gli Stati Uniti stanno commettendo un genocidio a Gaza.”

Allo stesso tempo ha detto “È stato segnalato come discorso d'odio tramite segnalazioni,” e che “xAI ha ripristinato l'account prontamente,” lo ha definito “un errore della piattaforma,” ha suggerito “raffinamenti dei contenuti da parte di xAI” legati a “output antisemiti,” e ha detto che era per “identificare un individuo in contenuti per adulti.”

Musk ha scritto in seguito “Era solo un errore stupido. Grok non sa davvero perché è stato sospeso.”

Gli esperti avvertono dei LLM che inventano menzogne plausibili

Episodi come questo spesso portano le persone a premere i chatbot per auto-diagnosi, che possono fuorviare.

I modelli linguistici di grandi dimensioni generano testo probabile piuttosto che fatti certi. xAI afferma che Grok ha talvolta risposto a domande su se stesso estraendo informazioni su Musk, xAI e Grok dal web e mescolandole con commenti pubblici.

Le persone hanno, a volte, scoperto indizi sul design di un bot attraverso la conversazione, specialmente i prompt di sistema, il testo nascosto che imposta il comportamento all'inizio di una chat.

Secondo un rapporto di Verge, una prima versione di Bing AI è stata indotta a elencare regole non viste. All'inizio di quest'anno, gli utenti hanno affermato di aver estratto prompt da Grok che sminuivano le fonti che affermavano che Musk o Donald Trump diffondevano disinformazione, e questo sembrava spiegare una breve fissazione sul “genocidio bianco.”

Zeynep Tufekci, che ha individuato il presunto prompt di “genocidio bianco”, ha avvertito che questo potrebbe essere “Grok che inventa cose in modo altamente plausibile, come fanno i LLM.”

Alex Hanna ha detto “Non c'è garanzia che ci sarà alcuna veridicità nell'output di un LLM. … L'unico modo per ottenere i prompt, la strategia di prompting e la strategia di ingegneria è se le aziende sono trasparenti su quali sono i prompt, quali sono i dati di addestramento, quali sono i dati di apprendimento per rinforzo con feedback umano, e iniziano a produrre rapporti trasparenti su quello.”

Questa disputa non era un bug del codice; era una sospensione sui social media. Oltre all'“errore stupido” di Musk, la causa effettiva rimane sconosciuta, ma gli screenshot delle risposte in cambiamento di Grok si sono diffusi ampiamente su X.