Senatoren drängen auf Entfernung der X- und Grok-Apps aus den App-Stores von Apple und Google

Drei demokratische Senatoren schrieben am Freitag einen Brief an Apple und Google, in dem sie aufforderten, die X- und Grok-Anwendungen aus ihren App-Stores zu entfernen, bis Elon Musk die Nutzer daran hindert, explizite Bilder ohne Zustimmung zu erstellen und zu teilen sowie Material, das sexuellen Missbrauch von Kindern zeigt.

Die Senatoren Ron Wyden aus Oregon, Ed Markey aus Massachusetts und Ben Ray Luján aus New Mexico schrieben an Apple-Chef Tim Cook und Google-Chef Sundar Pichai und forderten sie auf, „die X- und Grok-Apps sofort aus ihren App-Stores zu entfernen, bis der Chief Executive Officer des Unternehmens, Elon Musk, diese beunruhigenden und wahrscheinlich illegalen Aktivitäten angeht.“

Die Senatoren warnten die Tech-Unternehmen vor der Ignorierung des Problems. „Ein Auge zuzubiegen gegenüber X’s eklatantem Verhalten würde Ihre Moderationspraktiken zum Lächerlichen machen“, stellten sie fest. Sie sagten auch, dass Untätigkeit „Ihre Behauptungen in der Öffentlichkeit und vor Gericht untergraben würde, dass Ihre App-Stores ein sichereres Nutzererlebnis bieten, als Nutzern zu erlauben, Apps direkt auf ihre Telefone herunterzuladen.“

Weit verbreiteter Deepfake-Missbrauch löst Alarm aus

Nutzer haben tiefe Fälschungen sexuellen Inhalts durch Grok und X erstellt und geteilt, wobei Bilder von Personen verwendet wurden, die nie zugestimmt haben, dass ihre Bilder auf diese Weise verwendet werden. Grok hat auch Bilder erstellt, die Menschen aufgrund ihrer Rasse oder ihres Hintergrunds beleidigen.

Die Times of London beschrieb einen beunruhigenden Fall, in dem ein Verwandter eines Holocaust-Überlebenden „digital entkleidet“ wurde, nachdem Personen Grok angewiesen hatten, ein Bild von ihr im Bikini in Auschwitz zu erstellen.

Diese Probleme haben zu Untersuchungen durch Regierungsbeamte in Europa, Malaysia, Australien und Indien geführt. Die Federal Trade Commission und das Justizministerium haben nicht gesagt, ob sie planen, xAI zu untersuchen.

Am 3. Januar sagten Musk und X, „jeder, der Grok nutzt oder auffordert, illegale Inhalte zu erstellen, wird die gleichen Konsequenzen erleiden wie wenn er illegale Inhalte hochlädt.“

Sowohl Apple als auch Google haben strenge Regeln für Apps, die Entwickler dazu verpflichten, Nutzer daran zu hindern, Bilder zu hochladen und zu teilen, die sexuellen Missbrauch von Kindern und anderes schädliches Material zeigen.

Der Apple App Store hat zuvor soziale Medien und Messaging-Plattformen wie Tumblr und Telegram entfernt, weil sie unangemessene Inhalte nicht richtig blockierten.

Berichte am Freitag sagten, dass X nun Groks Bildgenerierungs-Funktionen nur für zahlende Abonnenten einschränkt. Aber Groks separate App und Website lassen Nutzer das System immer noch anweisen, sexuelle oder herabwürdigende Bilder von Personen zu erstellen, ohne die Erlaubnis zu haben, deren Fotos oder Videos zu verwenden.

Musk persönlich ordnete die jüngsten Änderungen an Grok an und wollte weniger Sicherheitsschutz. Drei xAI-Mitarbeiter aus dem Sicherheitsteam gaben auf X an, dass sie gekündigt hätten, nachdem Musk diese Forderungen stellte, so der Bericht.

Die Kontroversen um Groks Verhalten sind nicht neu. Der Chatbot hatte zuvor Kritik für die Generierung antisemitischer Inhalte und das Anzeigen problematischer Personas erfahren.

xAI sichert massive Finanzierung trotz Kontroversen

Während es mit Kritik umging, kündigte xAI diese Woche an, 20 Milliarden US-Dollar von Investoren erhalten zu haben, wie zuvor von Cryptopolitan berichtet. Die Finanzierungsrunde umfasste Nvidia und Cisco Investments sowie Unternehmen, die Musk zuvor unterstützt haben: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, Abu Dhabis MGX und Baron Capital Group.

Die 20-Milliarden-US-Dollar-Summe übertraf das frühere Ziel von 15 Milliarden US-Dollar. CNBC sagte im November, dass die Finanzierung den Wert des KI-Startups auf rund 230 Milliarden US-Dollar setzen würde. Nach ersten Berichten, dass xAI 15 Milliarden US-Dollar wollte, nannte Musk die Geschichte auf X „Falsch“.

Nvidia und Cisco arbeiten beide mit xAI als Lieferanten und Partner zusammen.

KI-Startups erreichten 2025 extrem hohe Werte und zogen enorme Geldmengen an, um die Nachfrage nach ihrer Technologie zu erfüllen. OpenAI schloss im Oktober einen Aktienverkauf über 6,6 Milliarden US-Dollar bei einem Wert von 500 Milliarden US-Dollar ab. Einen Monat später erreichte Anthropic einen Wert von etwa 350 Milliarden US-Dollar und erhielt Geld von Microsoft und Nvidia.