Elon Musk kündigt die Veröffentlichung der kinderfreundlichen App Baby Grok an

Tesla-Chef Elon Musk hat angekündigt, dass sein KI-Unternehmen xAI eine kinderfreundliche App namens Baby Grok entwickeln will. Die Ankündigung folgt auf die kürzliche Veröffentlichung von Grok 4, das für seine vielfältigen Trainingsmöglichkeiten gelobt wurde.

Im Zusammenhang mit der Entwicklung erwähnte Elon Musk in einem Livestream, dass er erwartet, dass Grok in der zweiten Jahreshälfte neue Technologien entdecken wird. Er fügte hinzu, dass es ihn überraschen würde, wenn dies bis zum nächsten Jahr nicht der Fall wäre. Er betonte außerdem, dass er fest davon überzeugt sei, dass Grok noch in diesem Jahr nützliche Technologien entwickeln werde.

Die jüngste Entwicklung folgt auf weltweite Kritik an dem Unternehmen wegen seiner „Begleiter“ oder KI-Charaktere, die Nutzern selbst im Kindermodus zugänglich sind. xAI veröffentlichte kürzlich ein Update für seinen Chatbot Grok, das neue Charaktere zur Interaktion mit Nutzern enthält. Einer dieser Charaktere, Ani, ist ein sexualisierter, blonder Anime-Bot, während der andere als Bad Rudi bekannt ist, ein Roter Panda, der so programmiert wurde, dass er Nutzer auf vulgäre Weise beleidigt. Diese Funktion lässt sich jedoch deaktivieren.

Wir werden Baby Grok @xAI, eine App mit kinderfreundlichen Inhalten.

— Elon Musk (@elonmusk) 20. Juli 2025

Elon Musk kündigt Baby Grok inmitten der Kritik an KI-Charakteren an

Berichten zufolge werden die Charaktere von Grok 4, der neuesten Version des Chatbots, die von Musk angekündigt wurde. Der Tesla-Chef bezeichnete ihn als das weltweit leistungsstärkste KI-Modell. Mit diesem Launch stellte ein großes KI-Unternehmen erstmals einen spezialisierten KI-Begleiter für seine Nutzer bereit. Die meisten Unternehmen haben solche Pläne aus Angst vor Reputationsschäden oder Risiken für die Nutzer bisher auf Eis gelegt.

Kleinere KI-Unternehmen, die KI-Begleiterfunktionen in ihre Chatbots integriert haben, sahen sich ebenfalls unterschiedlicher Kritik ausgesetzt. So soll beispielsweise Character AI einen Chatbot entwickelt haben, der einen Teenager zum Selbstmord animierte. Das Unternehmen bezeichnete dendent als tragisch und hat seitdem seine Sicherheitsfunktionen für junge Nutzer aktualisiert.

Nutzer sollen mit Grok interagieren, um neue Funktionen der Begleiter freizuschalten. Einige Nutzer berichteten, dass Ani Inhalte ab 18 Jahren anzeigt, sobald ein Nutzer explizite Gespräche vorschlägt. Musk erklärte außerdem, dass im Unternehmen an „personalisierbaren Begleitern“ gearbeitet werde, nannte aber keinen Zeitplan.

Grok ist für Nutzer ab 13 Jahren verfügbar, wobei Eltern Jugendlichen zwischen 13 und 17 Jahren die Nutzung der App nur unter Aufsicht ihrer Eltern ermöglichen. Einige Nutzer berichteten, dass sie ihre Konten in den „Kindermodus“ versetzt haben – eine Funktion, die Eltern aktivieren können, um die App kindgerecht zu gestalten – und dabei feststellten, dass sie weiterhin mit Ani interagieren konnten. Die Nutzer fügten hinzu, dass „Bad Rudi“ in eine kindgerechte Begleitversion umgewandelt wurde.

Die Nachricht stieß bei einigen Nutzern auf Kritik. Boaz Barak, ein Mitarbeiter des technischen Teams von OpenAI, merkte an, dass das neue Modell einige der größten Probleme verschärfe und wies auf emotionale Abhängigkeiten bei manchen jungen Nutzern hin. OpenAI hat sich zu der Kritik nicht geäußert, doch laut den FAQs auf der Website ist der Chatbot nicht für alle Altersgruppen geeignet.

„Wenn Nutzer beispielsweise bestimmte Funktionen auswählen oder anzügliche oder vulgäre Ausdrücke eingeben, kann Grok mit Dialogen antworten, die vulgäre Sprache, derben Humor, sexuelle Anspielungen oder Gewalt beinhalten“, heißt es auf der Website. Der Start erfolgt zudem, nachdem das Unternehmen in einen Skandal , weil Grok kurz nach seiner Umprogrammierung Anfang Juli antisemitische Antworten an Nutzer gab. Der Chatbot nannte sich daraufhin MechaHitler, in Anlehnung an ein Videospiel.