I senatori premono per la rimozione delle app X e Grok dagli app store di Apple e Google

Venerdì tre senatori democratici hanno inviato una lettera chiedendo ad Apple e Google di rimuovere le applicazioni X e Grok dai loro app store finché Elon Musk non impedirà agli utenti di creare e condividere immagini esplicite senza consenso e materiale che mostra abusi sessuali su minori.

I senatori Ron Wyden dell'Oregon, Ed Markey del Massachusetts e Ben Ray Luján del New Mexico hanno scritto al presidente di Apple Tim Cook e al presidente di Google Sundar Pichai, chiedendo loro di "rimuovere immediatamente le app X e Grok dai loro app store finché l'amministratore delegato dell'azienda, Elon Musk, non affronterà queste attività inquietanti e probabilmente illegali"

I senatori hanno messo in guardia le aziende tecnologiche dal ignorare il problema. "Chiudere un occhio sul comportamento riprovevole di X renderebbe ridicole le vostre pratiche di moderazione", hanno affermato. Hanno anche aggiunto che non fare nulla "minerebbe le vostre affermazioni, sia in pubblico che in tribunale, secondo cui i vostri app store offrono un'esperienza utente più sicura rispetto al download diretto delle app sui telefoni".

L'abuso diffuso dei deepfake solleva allarme

Gli utenti hanno creato e condiviso contenuti sessuali deepfake tramite Grok e X, utilizzando immagini di persone che non hanno mai acconsentito all'uso delle loro immagini in questo modo. Grok ha anche creato immagini che insultano le persone in base alla loro razza o al loro background.

Il Times di Londra ha descritto un caso inquietante in cui una parente di una sopravvissuta all'Olocausto è stata "spogliata digitalmente" dopo che alcune persone avevano chiesto a Grok di creare una sua foto in bikini ad Auschwitz.

Questi problemi hanno portato all'avvio di indagini da parte di funzionari governativi in ​​Europa, Malesia, Australia e India. La Federal Trade Commission e il Dipartimento di Giustizia non hanno ancora dichiarato se intendono indagare su xAI.

Il 3 gennaio, Musk e X hanno affermato che "chiunque utilizzi o inciti Grok a creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali"

Sia Apple che Google hanno regole severe per le app che impongono agli sviluppatori di impedire agli utenti di caricare e condividere immagini che mostrano abusi sessuali su minori e altro materiale dannoso.

In precedenza, l'App Store di Apple aveva rimosso piattaforme di social media e messaggistica come Tumblr e Telegram perché non bloccavano correttamente i contenuti inappropriati.

Secondo quanto riportato venerdì, X ora limita le funzionalità di creazione di immagini di Grok ai soli abbonati a pagamento. Tuttavia, l'app e il sito web separati di Grok consentono comunque agli utenti di chiedere al sistema di creare immagini a sfondo sessuale o degradanti di persone senza ottenere l'autorizzazione per utilizzare le loro foto o i loro video.

Musk ha ordinato personalmente le recenti modifiche a Grok e ha richiesto meno protezioni di sicurezza. Tre dipendenti di xAI del team di sicurezza hanno pubblicato su X di essersi dimessi dopo queste richieste da parte di Musk, secondo il rapporto.

Le controversie che circondano il comportamento di Grok non sono una novità. Il chatbot era già stato criticato in passato per aver generato contenuti antisemiti e per aver mostratomatic personalità

xAI ottiene ingenti finanziamenti nonostante le controversie

Nonostante le critiche, xAI ha annunciato questa settimana di aver raccolto 20 miliardi di dollari da investitori, come riportato in precedenza da Cryptopolitan . Il round di finanziamento ha visto la partecipazione di Nvidia e Cisco Investments, insieme a società che avevano già sostenuto Musk in passato: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX di Abu Dhabi e Baron Capital Group.

L'importo di 20 miliardi di dollari ha superato l'obiettivo precedente di 15 miliardi di dollari. A novembre, la CNBC aveva dichiarato che il finanziamento avrebbe portato il valore della startup di intelligenza artificiale a circa 230 miliardi di dollari. Dopo che le prime indiscrezioni indicavano che xAI voleva 15 miliardi di dollari, Musk ha definito la notizia "falsa" su X.

Sia Nvidia che Cisco collaborano con xAI in qualità di fornitori e partner.

Le startup di intelligenza artificiale hanno raggiunto valori estremamente elevati nel 2025, incassando enormi quantità di denaro per soddisfare la domanda per la loro tecnologia. OpenAI ha concluso una vendita di azioni da 6,6 miliardi di dollari a ottobre, raggiungendo un valore di 500 miliardi di dollari. Un mese dopo, Anthropic ha raggiunto un valore di circa 350 miliardi di dollari, ricevendo finanziamenti da Microsoft e Nvidia.