xAIスタッフは、Grokトレーニングで表情を記録するよう要求されたことの倫理性に疑問を呈している

イーロン・マスク氏の人工知能企業xAIの倫理性が疑問視されている。社内通信で、同社の大規模言語モデルGrokをトレーニングするために、従業員らが自分の顔や表情のビデオを録画するよう求められていたことが明らかになったためだ。. 

事情に詳しい関係者によると、「スキッピー」と名付けられた社内プロジェクトは4月に開始され、200人以上のスタッフが参加した。この取り組みは、実際の会話や表情の動きを録画することで、AIシステムが人間の感情や表情をより正確に解釈できるようにすることを目的としていたとされている。.

スタッフの中には、同社がプライバシーと同意の権利を侵害しており、AIトレーニングでデータがどのように使用されるのか明確に述べていないと感じた人もいた。. 

xAIの従業員は「スキッピー」プロジェクトに問題を抱えている 

Business Insiderが入手した内部文書とSlackでのやり取りによると、xAIは モデルの改良を担当する従業員であるAIチューターに、同僚との15分から30分の会話を録音するよう 指示した。

セッションでは、現実世界の感情的な反応を模倣するために、会話と誇張された表情の両方が行われたと報告されている。各会話ペアの一方が「ホスト」、つまりバーチャルアシスタントとなり、もう一方がユーザーとなった。. 

司会者は動きを制限し、最適なカメラのフレーム内に留まるように指示されましたが、ユーザーは携帯電話やパソコンから自由に録画し、自然な動きをしました。その結果得られた映像は、気取らない日常の会話を反映することを目指しました。.

Skippyプロジェクトの主任エンジニアはキックオフミーティングで従業員に対し、「Grokに顔を与えたい」と考えており、このデータは人間のようなアバターの開発をサポートできると語った。. 

チャットによると、エンジニアはビデオは社内でのみ使用され、参加者のデジタル版は作成されないと約束したが、参加者は納得しなかったようだ。.

会議の録音によると、エンジニアは「私たちの目的は、背景ノイズや急な動きといった不完全なデータにモデルを触れさせることで、その反応をより多様化することです」と説明した。また、「あなたの顔が製品版に採用されることは決してありません。これは純粋に、Grokに顔とは何かを教えるためだけのものです」と強調した。

こうした保証にもかかわらず、数十人の従業員は、 xAIが従業員の肖像をトレーニング目的や販促資料に使用する「永久的な」権利を付与する同意書に署名するよう求められた後、不安を感じた。

オプトアウトと不快なプロンプト

複数の従業員が、プロジェクトの進め方や同意書に使われている言葉遣いに不快感を覚え、プログラムへの参加を完全に辞退しました。社内の議論の中で、ある従業員は、映像を操作して、実際には言っていないことを言っているように見せかけることはできないかと尋ねました。.

録音セッションの一環として、xAI は従業員に対し、「子供がいる人とデートすることがありますか?」「自分の思い通りにするために、どうやって密かに人を操りますか?」「シャワーは朝と夜でどうですか?」といった個人的な話題や挑発的な話題について話し合うよう促しました。 

一部の人は、その話題が極めて侵害的または不適切であると考えました。.

Grok 4が7月中旬にリリースされてからわずか数日後、xAIはAniとRudiという2体のAIアバターを発表した。マスク氏が所有するソーシャルプラットフォームXに投稿された動画では、Aniが性的に露骨な会話をしたり、服を脱いだりする様子が映し出されている。

レッサーパンダのアバター「ルディ」は、銀行を爆破したり億万長者に危害を加えたりといった暴力的な脅迫を行ったと報じられている。.

xAIはSkippyプロジェクトがこれらのアバターの開発に直接貢献したかどうかは確認していないが、その沈黙はさまざまな解釈を生み出している。.

xAIは4月にGrokのビデオチャット機能もリリースし、今月初めには 月額300ドルのSuperGrok Heavyというプレミアムサブスクリプションプランとともに、Teslaオーナー向けのGrokを導入した。

7月9日、Grokのプロンプト機能が反ユダヤ主義的な暴言を投稿したため、一時的に停止された。同社はその後、 X上で公式に謝罪した。