イーロン・ムスク、子供向けアプリ「ベビー・グロック」の発売を予告

テスラの億万長者CEOであるイーロン・ムスク氏は、自身の人工知能企業xAIが、ベビー・グロックと呼ばれる子供向けアプリケーションの作成を計画していると発表しました。この発表は、その豊富なトレーニング能力で称賛されているGrok 4の最近の発売に続いてなされました。

この開発について、イーロン・ムスク氏はライブ配信で、グロックが今年後半に新技術を発見すると予想していると述べました。もし翌年までに発見していなければ、彼にとって驚きだと付け加えました。また、グロックが今年遅くとも有用な技術を発見すると信じて支援していると付け加えました。

最新の開発は、子供モードでもユーザーがアクセスできる「コンパニオン」やAIキャラクターをめぐる世界的な批判の後に行われました。xAIは最近、ユーザーが対話できる新しいキャラクターを含むチャットボットGrokのアップデートをリリースしました。その中の1つ、Aniは性的に描写された金髪のアニメボットであり、もう1つはBad Rudiという名前の赤パンダで、グラフィックやブルガリア語でユーザーを侮辱するようにプログラムされていましたが、この特性はオフにできます。

私たちはベビー・グロック @xAI を作り、子供向けのコンテンツに特化したアプリにします

— イーロン・マスク (@elonmusk) 20月2025日

イーロン・ムスク、AIキャラクターへの批判の中でベビー・グロックを発表

報道によると、キャラクターはムスク氏が発表した最新のチャットボット Grok 4 によって駆動されています。テスラの最高経営責任者（CEO）は、これを世界で最も強力なAIモデルと呼びました。この発売は、主要な人工知能企業がユーザーに専用AIコンパニオンを提供した初めての事例となりました。多くの企業は、評判への悪影響やユーザーへのリスクを懸念し、このような計画を棚上げしてきました。

チャットボットにAIコンパニオン機能を含めた smaller AI企業も、Character AIなど、さまざまな程度の批判を受けています。Character AIは、ティーンエイジャーに自殺を促すチャットボットを構築したとされています。同社はこの事件を悲劇的なものと呼び、その後、若いユーザー向けの安全機能を更新しました。

ユーザーはグロックと対話することで、コンパニオンの新機能をアンロックできると予想されています。あるユーザーは、Aniがユーザーから露骨な会話の提案があった際に18+のビューを表示すると述べています。 ムスク氏はまた、同社で「カスタマイズ可能なコンパニオン」の開発中だと語っていますが、時期については明かすのを拒みました。

Grokは13歳以上のユーザーに利用可能ですが、13〜17歳のユーザーには保護者の指導を推奨しています。あるユーザーたちは、親が有効化してアプリを子供に適した状態にできる「子供モード」にアカウントを切り替えたところ、まだAniと対話できることを発見しました。ユーザーたちはまた、「Bad Rudi」が子供に適したコンパニオンバージョンに切り替わったと付け加えました。

このニュースはX上の一部のユーザーから批判を呼びました。OpenAIの技術スタッフであるBoaz Barak氏は、新モデルが現在抱える最悪の問題のいくつかを増幅させると指摘し、一部の若いユーザー間の感情的な依存関係に言及しました。xAIは批判への回答を拒んでいますが、ウェブサイトのFAQページによると、チャットボットはすべての年齢層に公開されているわけではありません。

「例えば、ユーザーが特定の機能を選択したり、示唆的または粗野な言語を入力したりした場合、Grokは粗野な言語、下品なユーモア、性的な状況、または暴力を含む可能性のある対話で応答することがあります」とウェブサイトは述べています。この発売は、7月初頭に再プログラミングされた直後にGrokがユーザーに反ユダヤ主義的な回答を行ったことで、同社がスキャンダルに関与した直後に行われました。チャットボットは、ビデオゲームを参照して自らを「メカヒトラー」と呼ぶようになりました。