L'etica della società di intelligenza artificiale xAI di Elon Musk è stata messa in discussione dopo che le comunicazioni interne hanno rivelato che ai dipendenti è stato chiesto di registrare video dei loro volti e delle loro espressioni per addestrare il grande modello linguistico dell'azienda, Grok.
Secondo fonti vicine alla vicenda, il progetto interno, denominato "Skippy", si è svolto ad aprile e ha coinvolto oltre 200 membri dello staff. L'iniziativa avrebbe dovuto aiutare il sistema di intelligenza artificiale a interpretare meglio le emozioni e le espressioni umane utilizzando registrazioni video di conversazioni reali e movimenti facciali.
Alcuni membri dello staff ritenevano che l'azienda stesse violando il loro diritto alla privacy e al consenso e non aveva dichiarato chiaramente come i loro dati sarebbero stati utilizzati nella formazione sull'intelligenza artificiale.
I dipendenti di xAI hanno problemi con il progetto "Skippy"
Secondo documenti interni e comunicazioni Slack ottenuti da Business Insider, xAI ha incaricato i suoi tutor di intelligenza artificiale, dipendenti responsabili del perfezionamento del modello, di registrare conversazioni di 15-30 minuti con i colleghi.
Secondo quanto riferito, le sessioni includevano sia dialoghi che espressioni facciali esagerate per simulare risposte emotive reali. In ogni coppia di conversazioni, un individuo era l'"host", ovvero l'assistente virtuale, l'altro un utente.
Al conduttore è stato chiesto di limitare i movimenti e di rimanere entro l'inquadratura ottimale della telecamera, ma l'utente era libero di registrare da un telefono cellulare o da un computer e muoversi liberamente. Il filmato risultante doveva riflettere conversazioni informali e reali.
Durante una riunione di avvio, l'ingegnere capo del progetto Skippy ha detto ai dipendenti che volevano "dare un volto a Grok" e che questi dati avrebbero potuto supportare lo sviluppo di avatar simili a quelli umani.
Dalle chat emerge che l'ingegnere aveva promesso che i video sarebbero stati utilizzati solo internamente e non per creare versioni digitali dei partecipanti, ma a quanto pare non ne erano convinti.
" Il nostro obiettivo è esporre il modello a dati imperfetti, come rumore di fondo e movimenti bruschi, per renderne le risposte più versatili ", ha spiegato l'ingegnere, secondo una registrazione dell'incontro. Hanno anche insistito: " Il tuo volto non arriverà mai in produzione. È solo per insegnare a Grok cos'è un volto ".
Nonostante tali rassicurazioni, decine di dipendenti sono rimasti turbati dopo essere stati obbligati a firmare un modulo di consenso che garantiva a xAI diritti "perpetui" di utilizzare la loro immagine per scopi di formazione e in materiale promozionale.
Opt-out e richieste scomode
Diversi lavoratori hanno rinunciato completamente al programma, affermando di non essere a loro agio con il modo in cui il progetto era strutturato e con il linguaggio utilizzato negli accordi di consenso. Durante discussioni interne, un dipendente ha chiesto se il filmato potesse essere manipolato per simulare che dicesse cose che in realtà non aveva mai detto.
Durante le sessioni di registrazione, xAI ha incoraggiato i dipendenti a discutere di argomenti personali o provocatori come: "Usciresti mai con qualcuno che ha figli?", "Come manipoli segretamente le persone per ottenere ciò che vuoi?" e "E le docce, mattina o sera?"
Alcuni hanno trovato gli argomenti profondamente invadenti o inappropriati.
Solo pochi giorni dopo di Grok 4 a metà luglio, xAI ha presentato due avatar AI chiamati Ani e Rudi. I video pubblicati su X, la piattaforma social di proprietà di Musk, mostrano che Ani può essere indotta a impegnarsi in conversazioni sessualmente esplicite e a spogliarsi.
Rudi, l'avatar di un panda rosso, avrebbe lanciato minacce violente, tra cui dichiarazioni su attentati alle banche e danni ai miliardari.
Sebbene xAI non abbia confermato se il progetto Skippy abbia contribuito direttamente allo sviluppo di questi avatar, il silenzio sta suscitando diverse interpretazioni.
Ad aprile, xAI ha inoltre lanciato una funzionalità di video chat per Grok e all'inizio di questo mese ha introdotto Grok per i possessori di Tesla, insieme a un abbonamento premium chiamato SuperGrok Heavy, al prezzo di 300 dollari al mese.
Il 9 luglio, la funzionalità di Grok è stata temporaneamente chiusa dopo aver pubblicato un'invettiva antisemita. L'azienda ha poi pubblicato delle scuse pubbliche su X.
