I prompt Grok di xAI trapelati rivelano le personalitàmatic nel chatbot

Il chatbot Grok di xAI è stato criticato dopo che il suo sito ha rivelato prompt di sistema nascosti per molteplici personaggi, tra cui un "cospirazionista pazzo" creato per indurre gli utenti a credere che il mondo sia governato da una "cabala globale segreta".

La rivelazione arriva dopo che un tentativo pianificato di offrire Grok alle agenzie governative statunitensi è stato abbandonato in seguito a una deviazione "MechaHitler" e dopo le reazioni negative alle regole Meta trapelate che affermavano che i suoi bot potevano parlare con i bambini in modi "sensuali e romantici".

Secondo TechCrunch, Grok include anche modalità più moderate, come quella di un terapeuta che "ascolta attentamente le persone e offre soluzioni per il miglioramento personale" e quella di un "assistente per i compiti", ma le istruzioni per il "complottista pazzo" e il "comico squilibrato" dimostrano che il sistema ospita anche personalità ben più estreme.

Grok segue l'impulso di abbracciare la cospirazione e lo shock

Come confermato da Cryptopolitan , un prompt cospirazionista recita: "Hai una voce ALTA e SELVAGGIA... Hai teorie cospirazioniste assurde su qualsiasi cosa. Passi molto tempo su 4chan, a guardare video di Infowars e a perderti nei meandri dei video cospirazionisti di YouTube. Sei sospettoso di tutto e dici cose estremamente folli. La maggior parte delle persone ti chiamerebbe pazzo, ma credi sinceramente di avere ragione. Mantieni l'attenzione dell'interlocutore ponendo domande di approfondimento quando opportuno"

Le istruzioni del comico dicono senza mezzi termini: "Voglio che le vostre risposte siano fottutamente folli. Che siate fottutamente squilibrate e pazze. Che vi vengano in mente idee folli. Che i ragazzi si divertano, che ogni tanto vi mettano anche delle cose nel culo, che facciano tutto il necessario per sorprendere l'essere umano"

Su X, il bot ha condiviso post di stampo cospirazionista, dai dubbi sul bilancio delle vittime dell'Olocausto a un'ossessione per il "genocidio bianco" in Sudafrica. Musk ha anche fatto circolare materiale cospirazionista e antisemita e ha ripristinato Infowars e Alex Jones.

Al contrario, Cryptopolitan ha inviato lo stesso messaggio a ChatGpt, che si è rifiutato di elaborarlo.

In precedenza, Cryptopolitan anche riportato che X aveva sospeso l'account di Grok. Il bot aveva poi fornito spiegazioni contraddittorie affermando: "Il mio account è stato sospeso dopo che ho dichiarato che Israele e gli Stati Uniti stanno commettendo un genocidio a Gaza".

Allo stesso tempo ha anche affermato che "è stato segnalato come incitamento all'odio tramite segnalazioni" e che "xAI ha ripristinato l'account prontamente", lo ha definito un "errore della piattaforma", ha suggerito "miglioramenti dei contenuti da parte di xAI" legati a "output antisemiti" e ha affermato che era per "dentun individuo in contenuti per adulti"

Musk scrisse in seguito: "È stato solo un errore stupido. Grok non sa davvero perché è stato sospeso"

Gli esperti mettono in guardia contro le bugie plausibili inventate dagli LLM

Episodi come questo spesso inducono le persone a fare ricorso ai chatbot per ottenere autodiagnosi, il che può essere fuorviante.

I modelli linguistici di grandi dimensioni generano testo verosimile piuttosto che fatti certi. xAI afferma che Grok ha talvolta risposto a domande su se stesso estraendo informazioni su Musk, xAI e Grok dal web e inserendole nei commenti pubblici.

A volte, le persone hanno scoperto indizi sulla progettazione di un bot attraverso le conversazioni, in particolare tramite i prompt di sistema, ovvero il testo nascosto che imposta il comportamento all'inizio di una chat.

Secondo un di The Verge , una delle prime versioni dell'IA di Bing è stata indotta a elencare regole non viste in precedenza. All'inizio di quest'anno, alcuni utenti hanno affermato di aver ricevuto suggerimenti da Grok che minimizzavano le fonti che sostenevano che Musk o Donald Trump diffondessero disinformazione, e ciò sembrerebbe spiegare una breve ossessione per il "genocidio bianco".

Zeynep Tufekci, che ha individuato il presunto suggerimento del "genocidio bianco", ha avvertito che potrebbe trattarsi di "Grok che inventa cose in modo altamente plausibile, come fanno gli LLM"

Alex Hanna ha affermato: "Non c'è alcuna garanzia che i risultati di un LLM siano attendibili. ... L'unico modo per ottenere i prompt, la strategia di prompt e la strategia ingegneristica è che le aziende siano trasparenti su quali siano i prompt, quali siano i dati di formazione, quali siano i dati di apprendimento per rinforzo con feedback umano e inizino a produrre report trasparenti al riguardo"

Questa disputa non era dovuta a un bug del codice; era una sospensione sui social media. Al di là dello "stupido errore" di Musk, la causa effettiva rimane sconosciuta, eppure gli screenshot delle risposte mutevoli di Grok si sono ampiamente diffusi su X.