Venerdì tre senatori democratici hanno inviato una lettera chiedendo ad Apple e Google di rimuovere le applicazioni X e Grok dai loro app store finché Elon Musk non impedirà agli utenti di creare e condividere immagini esplicite senza consenso e materiale che mostra abusi sessuali su minori.
I senatori Ron Wyden dell'Oregon, Ed Markey del Massachusetts e Ben Ray Luján del New Mexico hanno scritto al presidente di Apple Tim Cook e al presidente di Google Sundar Pichai, chiedendo loro di "rimuovere immediatamente le app X e Grok dai loro app store finché l'amministratore delegato dell'azienda, Elon Musk, non affronterà queste attività inquietanti e probabilmente illegali"
I senatori hanno messo in guardia le aziende tecnologiche dall'ignorare il problema. "Chiudere un occhio sul comportamento vergognoso di X renderebbe ridicole le vostre pratiche di moderazione", hanno dichiarato . Hanno anche affermato che non fare nulla avrebbe "indebolito le vostre affermazioni, in pubblico e in tribunale, secondo cui i vostri app store offrono un'esperienza utente più sicura rispetto al consentire agli utenti di scaricare le app direttamente sui loro telefoni".
L'abuso diffuso dei deepfake solleva allarme
Gli utenti hanno creato e condiviso contenuti sessuali deepfake tramite Grok e X , utilizzando immagini di persone che non hanno mai acconsentito all'uso delle loro immagini in questo modo. Grok ha anche creato immagini che insultano le persone in base alla loro razza o al loro background.
Il Times di Londra ha descritto un caso inquietante in cui una parente di una sopravvissuta all'Olocausto "è stata 'spogliata digitalmente'" dopo che qualcuno aveva chiesto a Grok di creare una sua foto in bikini ad Auschwitz.
Questi problemi hanno portato all'avvio di indagini da parte di funzionari governativi in Europa, Malesia, Australia e India. La Federal Trade Commission e il Dipartimento di Giustizia non hanno ancora dichiarato se intendono indagare su xAI.
Il 3 gennaio, Musk e X hanno affermato che "chiunque utilizzi o inciti Grok a creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali"
Sia Apple che Google hanno regole severe per le app che impongono agli sviluppatori di impedire agli utenti di caricare e condividere immagini che mostrano abusi sessuali su minori e altro materiale dannoso.
In precedenza, l'App Store di Apple aveva rimosso piattaforme di social media e messaggistica come Tumblr e Telegram perché non bloccavano correttamente i contenuti inappropriati.
Secondo quanto riportato venerdì, X ora limita le funzionalità di creazione di immagini di Grok ai soli abbonati a pagamento. Tuttavia, l'app e il sito web separati di Grok consentono comunque agli utenti di chiedere al sistema di creare immagini a sfondo sessuale o degradanti di persone senza ottenere l'autorizzazione per utilizzare le loro foto o i loro video.
Musk ha ordinato personalmente le recenti modifiche a Grok e ha richiesto meno protezioni di sicurezza. Tre dipendenti di xAI del team di sicurezza hanno pubblicato su X di essersi dimessi dopo queste richieste da parte di Musk, secondo il rapporto.
Le controversie che circondano il comportamento di Grok non sono una novità. Il chatbot è già stato criticato in passato per aver generato contenuti antisemiti e mostrato matic .
xAI ottiene ingenti finanziamenti nonostante le controversie
Nonostante le critiche, xAI ha annunciato questa settimana di aver raccolto 20 miliardi di dollari dagli investitori, come riportato in precedenza da Cryptopolitan . Il round di finanziamento ha incluso Nvidia e Cisco Investments, insieme ad aziende che avevano già sostenuto Musk in passato: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX di Abu Dhabi e Baron Capital Group.
L'importo di 20 miliardi di dollari ha superato l'obiettivo precedente di 15 miliardi di dollari. A novembre, la CNBC aveva dichiarato che il finanziamento avrebbe portato il valore della startup di intelligenza artificiale a circa 230 miliardi di dollari. Dopo che le prime indiscrezioni indicavano che xAI voleva 15 miliardi di dollari, Musk ha definito la notizia "falsa" su X.
Sia Nvidia che Cisco collaborano con xAI in qualità di fornitori e partner.
Le startup di intelligenza artificiale hanno raggiunto valori estremamente elevati nel 2025, incassando enormi quantità di denaro per soddisfare la domanda per la loro tecnologia. OpenAI ha concluso una vendita di azioni da 6,6 miliardi di dollari a ottobre, raggiungendo un valore di 500 miliardi di dollari. Un mese dopo, Anthropic ha raggiunto un valore di circa 350 miliardi di dollari, ricevendo finanziamenti da Microsoft e Nvidia.
