xAIのスタッフが、Grokのトレーニングのために顔の表情を記録するよう求められたことへの倫理的問題を提起

Elon Muskの人工知能企業xAIの倫理が、内部通信により従業員が同社の大規模言語モデルGrokをトレーニングするために顔や表情のビデオを記録するよう求められたことで疑問視されています。 

事情に詳しい人々によると、「Skippy」と呼ばれるこの内部プロジェクトは4月に行われ、200人以上のスタッフが関与しました。このイニシアチブは、実際の会話や顔の動きのビデオ録画を使用して、AIシステムが人間の感情や表情をよりよく解釈できるようにすることを目的としていました。

一部のスタッフは、会社がプライバシーと同意の権利を侵害しており、データがAIトレーニングでどのように使用されるかが明確に説明されていないと感じました。 

xAIの従業員は「Skippy」プロジェクトに問題を抱えています 

Business Insiderが入手した内部文書やSlackの通信によると、xAIは モデルの洗練を担当するAIチューターである従業員に、 同僚との15〜30分の会話を録音するよう命じました。 

これらのセッションには、実際の感情反応をシミュレートするために、対話と誇張された顔の表情が含まれていました。会話のペアごとに、1人は「ホスト」（仮想アシスタント）、もう1人はユーザーでした。 

ホストは動きを制限し、最適なカメラのフレーム内に留まるよう指示されましたが、ユーザーは携帯電話やコンピュータから自由に録音し、自然に動くことができました。生成された映像は、カジュアルな日常会話を反映する意図がありました。

Skippyプロジェクトのリードエンジニアはキックオフミーティングで、従業員に対し「Grokに顔を与える」ことを望んでおり、このデータが人間のようなアバターの開発を支える可能性があると語りました。 

チャット記録によると、エンジニアはビデオが内部でのみ使用され、参加者のデジタルバージョンを作成するために使用されないことを約束しましたが、従業員たちは納得しませんでした。

“私たちの目的は、背景ノイズや突然の動きなどの不完全なデータにモデルをさらし、その応答をより多様性のあるものにする」と、ミーティングの録音に基づいてエンジニアは説明しました。彼らはまた、次のように強調しました：「あなたの顔が生産環境に登場することは決してありません。これはGrokに顔とは何かを教えるためだけのものです.”

このような保証にもかかわらず、数十人の従業員が、 xAI トレーニング目的やプロモーション素材での使用に対して「永続的」な権利を付与する同意書への署名を義務付けられた後、不安を感じました。 

オプトアウトと不快なプロンプト

プロジェクトや同意書で使用される言語に不快感を覚えたため、一部の労働者はプログラムから完全にオプトアウトしました。内部議論の中で、ある従業員は、映像を操作して実際に言ったことのないことを言っているかのようにシミュレートできるかどうかを尋ねました。

録画セッションの一環として、xAIは従業員に「子供がいる人とデートしたことはあるか？」「自分の望みを実現するために人をどのように秘密裡に操作するか？」「シャワーは朝か夜か？」といった個人的または挑発的な話題について議論するよう促しました。 

一部の人は、これらの話題が極めて侵襲的または不適切だと感じました。

わずか数日後に Grok 4の 7月中旬のリリース後、xAIはAniとRudiという名前の2つのAIアバターのデビューを発表しました。Muskが所有するソーシャルプラットフォームXに投稿されたビデオでは、Aniが性的に露骨な会話に参加するようプロンプトされ、服を脱ぐ様子が示されています。 

Rudiというレッサーパンダのアバターは、銀行爆破や億万長者への危害を含む暴力的な脅迫を行ったと報告されています。

xAIはSkippyプロジェクトがこれらのアバターの開発に直接貢献したことを確認していませんが、沈黙は異なる解釈を生んでいます。

xAIは4月にGrokのビデオチャット機能をリリースし、今月初めには 導入した Tesla所有者向けのGrokと、月額300ドルのプレミアムサブスクリプションティアであるSuperGrok Heavyが登場しました。

7月9日、Grokのプロンプト機能は反ユダヤ主義の暴言を書いたため一時的にシャットダウンされました。同社は後に 発行 X上で公の謝罪を行いました。