Lo staff di xAI mette in discussione l'etica dietro le richieste di registrazione delle loro espressioni facciali durante l'addestramento Grok

L'etica della società di intelligenza artificiale xAI di Elon Musk è stata messa in discussione dopo che le comunicazioni interne hanno rivelato che ai dipendenti è stato chiesto di registrare video dei loro volti e delle loro espressioni per addestrare il grande modello linguistico dell'azienda, Grok. 

Secondo fonti vicine alla vicenda, il progetto interno, denominato "Skippy", si è svolto ad aprile e ha coinvolto oltre 200 membri dello staff. L'iniziativa avrebbe dovuto aiutare il sistema di intelligenza artificiale a interpretare meglio le emozioni e le espressioni umane utilizzando registrazioni video di conversazioni reali e movimenti facciali.

Alcuni membri dello staff ritenevano che l'azienda stesse violando il loro diritto alla privacy e al consenso e non aveva dichiarato chiaramente come i loro dati sarebbero stati utilizzati nella formazione sull'intelligenza artificiale. 

I dipendenti di xAI hanno problemi con il progetto "Skippy" 

Secondo documenti interni e comunicazioni Slack ottenuti da Business Insider, xAI ha incaricato i suoi tutor di intelligenza artificiale, dipendenti responsabili del perfezionamento del modello, di registrare conversazioni di 15-30 minuti con i colleghi. 

Secondo quanto riferito, le sessioni includevano sia dialoghi che espressioni facciali esagerate per simulare risposte emotive reali. In ogni coppia di conversazioni, un individuo era l'"host", ovvero l'assistente virtuale, l'altro un utente. 

Al conduttore è stato chiesto di limitare i movimenti e di rimanere entro l'inquadratura ottimale della telecamera, ma l'utente era libero di registrare da un telefono cellulare o da un computer e muoversi liberamente. Il filmato risultante doveva riflettere conversazioni informali e reali.

Durante una riunione di avvio, l'ingegnere capo del progetto Skippy ha detto ai dipendenti che volevano "dare un volto a Grok" e che questi dati avrebbero potuto supportare lo sviluppo di avatar simili a quelli umani. 

Dalle chat emerge che l'ingegnere aveva promesso che i video sarebbero stati utilizzati solo internamente e non per creare versioni digitali dei partecipanti, ma a quanto pare non ne erano convinti.

"Il nostro obiettivo è esporre il modello a dati imperfetti, come rumore di fondo e movimenti bruschi, per rendere le sue risposte più versatili", ha spiegato l'ingegnere, secondo la registrazione dell'incontro. Hanno anche insistito: "Il tuo volto non arriverà mai in produzione. Serve esclusivamente a insegnare a Grok cos'è un volto".

Nonostante tali rassicurazioni, decine di dipendenti si sono sentiti a disagio dopo aver dovuto firmare un modulo di consenso che concedeva a xAI il diritto "perpetuo" di utilizzare la loro immagine a fini di formazione e in materiale promozionale. 

Opt-out e richieste scomode

Diversi lavoratori hanno rinunciato completamente al programma, affermando di non essere a loro agio con il modo in cui il progetto era strutturato e con il linguaggio utilizzato negli accordi di consenso. Durante discussioni interne, un dipendente ha chiesto se il filmato potesse essere manipolato per simulare che dicesse cose che in realtà non aveva mai detto.

Durante le sessioni di registrazione, xAI ha incoraggiato i dipendenti a discutere di argomenti personali o provocatori come: "Usciresti mai con qualcuno che ha figli?", "Come manipoli segretamente le persone per ottenere ciò che vuoi?" e "E le docce, mattina o sera?" 

Alcuni hanno trovato gli argomenti profondamente invadenti o inappropriati.

Pochi giorni dopo di Grok 4 a metà luglio, xAI ha presentato due avatar basati sull'intelligenza artificiale, Ani e Rudi. Alcuni video pubblicati su X, la piattaforma social di proprietà di Musk, mostrano che Ani può essere indotta a intraprendere conversazioni sessualmente esplicite e a spogliarsi. 

Rudi, l'avatar di un panda rosso, avrebbe lanciato minacce violente, tra cui dichiarazioni su attentati alle banche e danni ai miliardari.

Sebbene xAI non abbia confermato se il progetto Skippy abbia contribuito direttamente allo sviluppo di questi avatar, il silenzio sta suscitando diverse interpretazioni.

Ad aprile, xAI ha inoltre lanciato una funzionalità di video chat per Grok e all'inizio di questo mese ha introdotto Grok per i possessori di Tesla, insieme a un abbonamento premium chiamato SuperGrok Heavy, al prezzo di 300 dollari al mese.

Il 9 luglio, la funzione di prompt di Grok è stata temporaneamente disattivata dopo che l'utente aveva pubblicato un messaggio antisemita. In seguito, l'azienda ha rilasciato delle scuse pubbliche su X.