Drei demokratische Senatoren schickten am Freitag einen Brief an Apple und Google, in dem sie diese aufforderten, die Anwendungen X und Grok aus ihren App Stores zu entfernen, bis Elon Musk die Nutzer daran hindert, ohne Zustimmung explizite Bilder und Material, das sexuellen Kindesmissbrauch zeigt, zu erstellen und zu teilen.
Die Senatoren Ron Wyden aus Oregon, Ed Markey aus Massachusetts und Ben Ray Luján aus New Mexico schrieben an Apple-Chef Tim Cook und Google-Chef Sundar Pichai und forderten sie auf, „die Apps X und Grok unverzüglich aus ihren App-Stores zu entfernen, bis der Vorstandsvorsitzende des Unternehmens, Elon Musk, diese beunruhigenden und wahrscheinlich illegalen Aktivitäten thematisiert.“
Die Senatoren warnten die Technologieunternehmen davor, das Problem zu ignorieren. „Das eklatante Fehlverhalten von Unternehmen X zu ignorieren, würde Ihre Moderationspraktiken ad absurdum führen“, erklärten . Sie fügten hinzu, dass Untätigkeit „Ihre öffentlichen und gerichtlichen Behauptungen untergraben würde, dass Ihre App-Stores ein sichereres Nutzererlebnis bieten als das direkte Herunterladen von Apps auf Smartphones.“
Weitverbreiteter Deepfake-Missbrauch gibt Anlass zur Sorge
Nutzer erstellen und verbreiten über Grok und X , indem sie Bilder von Personen verwenden, die der Verwendung ihrer Bilder zu diesem Zweck nie zugestimmt haben. Grok hat außerdem Bilder erstellt, die Menschen aufgrund ihrer Rasse oder Herkunft beleidigen.
Die Times of London beschrieb einen beunruhigenden Fall, in dem eine Angehörige einer Holocaust-Überlebenden „digital entkleidet“ wurde, nachdem Leute Grok aufgefordert hatten, ein Foto von ihr in einem Bikini in Auschwitz zu erstellen.
Diese Probleme haben zu Untersuchungen durch Regierungsbeamte in Europa, Malaysia, Australien und Indien geführt. Die US-amerikanische Federal Trade Commission und das US-Justizministerium haben sich noch nicht dazu geäußert, ob sie xAI untersuchen werden.
Am 3. Januar erklärten Musk und X: „Jeder, der Grok benutzt oder dazu anstiftet, illegale Inhalte zu erstellen, wird die gleichen Konsequenzen tragen, als würde er illegale Inhalte hochladen.“
Sowohl Apple als auch Google haben strenge Regeln für Apps, die Entwickler dazu verpflichten, Benutzer daran zu hindern, Bilder hochzuladen und zu teilen, die Kindesmissbrauch und anderes schädliches Material zeigen.
Der Apple App Store hatte zuvor Social-Media- und Messaging-Plattformen wie Tumblr und Telegram entfernt, weil diese unangemessene Inhalte nicht ordnungsgemäß blockierten.
Berichten vom Freitag zufolge beschränkt X die Bildbearbeitungsfunktionen von Grok nun auf zahlende Abonnenten. Die separate App und Website von Grok ermöglichen es Nutzern jedoch weiterhin, das System anzuweisen, sexuelle oder entwürdigende Bilder von Personen zu erstellen, ohne deren Erlaubnis zur Verwendung der Fotos oder Videos einzuholen.
Musk persönlich ordnete die jüngsten Änderungen an Grok an und forderte weniger Sicherheitsvorkehrungen. Drei Mitarbeiter des Sicherheitsteams von xAI gaben laut dem Bericht auf X an, nach Musks Forderungen gekündigt zu haben.
Die Kontroversen um Groks Verhalten sind nicht neu. Der Chatbot stand bereits zuvor in der Kritik, weil er antisemitische Inhalte generierte und problematische matic zeigte.
xAI sichert sich trotz Kontroversen massive Finanzierung
Trotz Kritik gab xAI diese Woche bekannt, 20 Milliarden US-Dollar von Investoren eingesammelt zu haben, wie Cryptopolitan bereits berichtete. Zu den Investoren der Finanzierungsrunde gehörten Nvidia und Cisco Investments sowie Unternehmen, die Musk bereits zuvor unterstützt hatten: Valor Equity Partners, Stepstone Group, Fidelity, die Qatar Investment Authority, MGX aus Abu Dhabi und die Baron Capital Group.
Die Summe von 20 Milliarden Dollar übertraf das vorherige Ziel von 15 Milliarden Dollar. CNBC berichtete im November, dass die Finanzierung den Wert des KI-Startups auf rund 230 Milliarden Dollar anheben würde. Nachdem erste Berichte von 15 Milliarden Dollar für xAI die Rede waren, bezeichnete Musk diese Meldung auf X als „falsch“.
Sowohl Nvidia als auch Cisco arbeiten als Lieferanten und Partner mit xAI zusammen.
KI-Startups erreichten 2025 extrem hohe Bewertungen und zogen enorme Summen an, um die Nachfrage nach ihrer Technologie zu decken. OpenAI schloss im Oktober einen Aktienverkauf im Wert von 6,6 Milliarden US-Dollar mit einer Bewertung von 500 Milliarden US-Dollar ab. Einen Monat später erreichte Anthropic eine Bewertung von rund 350 Milliarden US-Dollar, nachdem das Unternehmen Kapital von Microsoft und Nvidia erhalten hatte.
