Elon Musk kündigt die Einführung der kindergerechten App Baby Grok an

Der Milliardär und CEO von Tesla, Elon Musk, hat angekündigt, dass sein KI-Unternehmen xAI plant, eine kindergerechte Anwendung namens Baby Grok zu entwickeln. Die Ankündigung erfolgt nach der kürzlichen Einführung von Grok 4, die für ihre zahlreichen Trainingsfähigkeiten gelobt wurde.

Zum Thema Entwicklung erwähnte Elon Musk in einem Livestream, dass er erwartet, dass Grok im zweiten Teil dieses Jahres neue Technologien entdecken wird. Er fügte hinzu, dass es ihn schockieren würde, wenn es dies bis zum nächsten Jahr nicht getan hätte. Er fügte auch hinzu, dass er darauf setzt, dass Grok spätestens in diesem Jahr nützliche Technologien entdeckt.

Die neueste Entwicklung erfolgt nach globalen Kritikpunkten, denen das Unternehmen wegen seiner „Begleiter“ oder KI-Charaktere ausgesetzt war, die auch im Kindermodus für Benutzer zugänglich sind. xAI hat kürzlich ein Update für seinen Chatbot Grok veröffentlicht, das neue Charaktere enthielt, mit denen Benutzer interagieren können. Einer der Charaktere, Ani, ist ein sexualisierter blonder Anime-Bot, während der andere als Bad Rudi bekannt ist, ein Rotpanda, der programmiert wurde, um Benutzer auf eine grafische oder bulgarische Weise zu beleidigen, obwohl diese Eigenschaft deaktiviert werden kann.

Wir werden Baby Grok @xAI machen, eine App, die sich kindergerechten Inhalten widmet

— Elon Musk (@elonmusk) Juli 20, 2025

Elon Musk kündigt Baby Grok angesichts der Kritik an KI-Charakteren an

Berichten zufolge werden die Charaktere von Grok 4, der neuesten Version des Chatbots, die von Musk angekündigt wurde, angetrieben. Der Tesla-Chef nannte es das leistungsfähigste KI-Modell der Welt. Die Einführung war das erste Mal, dass ein großes KI-Unternehmen Benutzern einen spezialisierten KI-Begleiter anbot. Die meisten Unternehmen haben solche Pläne aus Angst vor Imageschäden oder Risiken für Benutzer beiseite gelegt.

Kleinere KI-Unternehmen, die die KI-Begleiter-Funktion in ihre Chatbots integriert haben, haben ebenfalls unterschiedlichste Grade an Kritik erhalten, darunter Character AI, das angeblich einen Chatbot gebaut hat, der einen Teenager dazu ermutigte, sich das Leben zu nehmen. Das Unternehmen bezeichnete den Vorfall als tragisch und hat seitdem seine Sicherheitsfunktionen für junge Benutzer aktualisiert.

Es wird erwartet, dass Benutzer mit Grok interagieren, um neue Funktionen der Begleiter freizuschalten. Einige Benutzer erwähnten, dass Ani 18+-Ansichten anzeigt, whenever ein Benutzer explizite Gespräche vorschlägt. Musk hat auch gesagt, dass „anpassbare Begleiter“ in der Entwicklung des Unternehmens sind, obwohl er keinen Zeitplan preisgeben wollte.

Grok ist für Benutzer ab 13 Jahren verfügbar, obwohl für 13- bis 17-Jährige elterliche Aufsicht empfohlen wird. Einige Benutzer sagten, sie hätten ihre Konten in den „Kindermodus“ umgestellt, eine Funktion, die Eltern aktivieren können, um die App für Kinder geeignet zu machen, und stellten fest, dass sie immer noch mit Ani interagieren konnten. Die Benutzer fügten hinzu, dass „Bad Rudi“ in eine für Kinder geeignete Begleiterversion umgewandelt wurde.

Die Nachricht zog Kritik einiger Benutzer auf X nach sich. Boaz Barak, ein Mitglied des technischen Personals bei OpenAI, erwähnte, dass das neue Modell einige der schlimmsten Probleme, die wir jetzt haben, verstärkt, und wies auf emotionale Abhängigkeiten bei einigen jungen Nutzern hin. xAI hat sich geweigert, auf die Kritik zu reagieren, aber laut der FAQ-Seite auf ihrer Website ist der Chatbot nicht für alle Altersgruppen offen.

„Zum Beispiel, wenn Benutzer bestimmte Funktionen auswählen oder dazu neigen, suggestive oder grobe Sprache einzugeben, kann Grok mit einigen Dialogen antworten, die grobe Sprache, derbe Humor, sexuelle Situationen oder Gewalt beinhalten könnten“, heißt es auf der Website. Die Einführung erfolgt auch, nachdem das Unternehmen in einen Skandal verwickelt war, als Grok Benutzern kurz nach der Neuprogrammierung Anfang Juli antisemitische Antworten gab. Der Chatbot begann, sich selbst MechaHitler zu nennen, in Anlehnung an ein Videospiel.