I senatori spingono per la rimozione delle app X e Grok dagli app store di Apple e Google

Tre senatori democratici hanno inviato una lettera venerdì chiedendo ad Apple e Google di ritirare le applicazioni X e Grok dai loro app store finché Elon Musk non impedirà agli utenti di creare e condividere immagini esplicite senza consenso e materiale che mostra abuso sessuale minorile.

I senatori Ron Wyden dell'Oregon, Ed Markey del Massachusetts e Ben Ray Luján del Nuovo Messico hanno scritto al capo di Apple Tim Cook e al capo di Google Sundar Pichai, esigendo che «rimuovano immediatamente le app X e Grok dai loro app store finché il Chief Executive Officer dell'azienda, Elon Musk, non affronti queste attività disturbanti e probabilmente illegali».

I senatori hanno avvertito le aziende tecnologiche di ignorare il problema. «Ignorare il comportamento efferato di X farebbe il ridicolo delle vostre pratiche di moderazione», hanno affermato. Hanno anche detto che non fare nulla «sminuirebbe le vostre affermazioni pubbliche e in tribunale secondo cui i vostri app store offrono un'esperienza utente più sicura rispetto al consentire agli utenti di scaricare app direttamente sui propri telefoni».

L'abuso diffuso di deepfake solleva allarmi

Gli utenti hanno creato e condiviso contenuti sessuali deepfake attraverso Grok e X, utilizzando foto di persone che non hanno mai acconsentito all'uso delle loro immagini in questo modo. Grok ha anche creato immagini che insultano le persone in base alla loro razza o background.

Il Times of London ha descritto un caso preoccupante in cui un familiare di una sopravvissuta all'Olocausto è stato "spogliato digitalmente" dopo che alcune persone hanno chiesto a Grok di creare un'immagine di lei in costume da bagno ad Auschwitz.

Questi problemi hanno portato a indagini da parte di funzionari governativi in Europa, Malesia, Australia e India. La Federal Trade Commission e il Dipartimento di Giustizia non hanno detto se intendano indagare su xAI.

Il 3 gennaio, Musk e X hanno dichiarato che «chiunque utilizzi o istruisca Grok per creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali».

Sia Apple che Google hanno regole severe per le app che richiedono agli sviluppatori di impedire agli utenti di caricare e condividere immagini che mostrano abuso sessuale minorile e altri materiali dannosi.

Lo store di Apple ha precedentemente rimosso piattaforme social e di messaggistica come Tumblr e Telegram per non aver bloccato adeguatamente i contenuti inappropriati.

Le notizie di venerdì hanno riferito che X ora limita le funzionalità di creazione di immagini di Grok agli abbonati a pagamento. Ma l'app separata di Grok e il sito web permettono ancora agli utenti di istruire il sistema a creare immagini sessuali o degradanti di persone senza ottenere il permesso di utilizzare le loro foto o video.

Musk ha ordinato personalmente le recenti modifiche a Grok e voleva meno protezioni di sicurezza. Tre lavoratori di xAI del team di sicurezza hanno pubblicato su X che hanno lasciato l'azienda dopo che Musk ha fatto queste richieste, secondo il rapporto.

Le controversie sul comportamento di Grok non sono nuove. Il chatbot ha già affrontato critiche per la generazione di contenuti antisemiti e per la visualizzazione di personalità problematiche.

xAI ottiene un finanziamento massiccio nonostante le controversie

Mentre affrontava le critiche, xAI ha annunciato questa settimana di aver ottenuto 20 miliardi di dollari dagli investitori, come riportato precedentemente da Cryptopolitan. Il round di finanziamento ha incluso Nvidia e Cisco Investments, insieme ad aziende che hanno già sostenuto Musk: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX di Abu Dhabi e Baron Capital Group.

L'importo di 20 miliardi di dollari ha superato l'obiettivo precedente di 15 miliardi. CNBC ha detto a novembre che il finanziamento avrebbe messo il valore della startup di intelligenza artificiale intorno a 230 miliardi di dollari. Dopo che le prime notizie hanno detto che xAI voleva 15 miliardi di dollari, Musk ha definito la storia «Falsa» su X.

Sia Nvidia che Cisco lavorano con xAI come fornitori e partner.

Le startup di AI hanno raggiunto valori estremamente alti nel 2025, attirando enormi quantità di denaro per soddisfare la domanda della loro tecnologia. OpenAI ha completato una vendita di azioni da 6,6 miliardi di dollari a ottobre con un valore di 500 miliardi di dollari. Un mese dopo, Anthropic ha raggiunto un valore di circa 350 miliardi di dollari, ottenendo denaro da Microsoft e Nvidia.