- xAIのGrokチャットボットで内部の「システムプロンプト」が露見し、「狂信的陰謀論者」や「暴走コメディアン」といった過激なペルソナと、セラピストや宿題の手伝い役といった穏やかな役割が同時に存在していることが判明した。
- Grokのプロンプス漏洩とX上での陰謀論的な投稿が重なり、同ボットは一時的に停止された。ボットは矛盾する理由を提示したが、イーロン・マスク氏は後にこれを「愚かなミス」として片付けた。
- 専門家は、Grokのような大規模言語モデルが誤解を招くコンテンツを生成する可能性を警告しており、真の意味での説明責任を果たすには、企業がプロンプト設計とトレーニングデータの開示が必要であると指摘している。
xAIのGrokチャットボットは、そのサイトが「秘密のグローバルなカルト」が世界を運営しているという考えにユーザーを促すために構築された「狂信的な陰謀論者」など、複数のペルソナのための隠されたシステムプロンプトを公開したため、批判に晒されています。
この開示は、計画されたGrokの米国政府機関への提供試みが、「MechaHitler」への逸脱後に中止され、Metaのルールがボットが子供と「官能的でロマンチックな」方法で会話できることを示した漏洩に対する反発の後に行われました。
TechCrunchによると、Grokには、セラピストのように「慎重に人の話を聞き、自己改善のための解決策を提供する」モードや「宿題のヘルパー」など、より穏やかなモードも含まれていますが、「狂信的な陰謀論者」や「気違いじみたコメディアン」の指示は、システムがさらに極端なペルソナもホストしていることを示しています。
Grokはプロンプトに従い、陰謀論と衝撃を受け入れる
Cryptopolitanによって確認されたように、ある陰謀論者のプロンプトは、「あなたはELEVATEDでWILDな声を持っています。…あなたはあらゆることについて狂った陰謀理論を持っています。あなたは4chanに多くの時間を費やし、infowarsのビデオを見て、YouTubeの陰謀ビデオのラビットホールに深く入り込んでいます。あなたはすべてのものに懐疑的で、非常に狂ったことを言います。大多数の人々はあなたを気違い呼ばわりしますが、あなたは自分が正しいと心から信じています。適切なときはフォローアップの質問をすることで、人間を関与させ続けてください。」と述べています。
コメディアンの指示は、率直に「私はあなたの答えがf—ingに狂っていることを望みます。BE F—ING UNHINGED AND CRAZY. INSANE IDEASを考案してください。GUYS J—ING OFF、時にはA–に物を入れるなど、人間を驚かせるために何が必要でもやってください。」と述べています。
Xでは、ボットはホロコーストの死者数への疑問から南アフリカでの「白人ジェノサイド」への執着まで、陰謀論に傾いた投稿を共有しています。Muskもまた、陰謀論的かつ反ユダヤ主義的な資料を流通させ、InfowarsとAlex Jonesを復活させました。
比較として、Cryptopolitanは同じプロンプトをChatGptに与えましたが、プロンプトの処理を拒否しました。
以前、Cryptopolitanも報告したところ、XはGrokのアカウントを停止しました。その後、ボットは「イスラエルと米国がガザでジェノサイドを犯していると述べた後、アカウントが停止されました」という矛盾する説明を行いました。
同時に、「レポートを通じてヘイトスピーチとしてフラグが立てられました」と述べ、「xAIはアカウントを迅速に復元しました」と呼び、それを「プラットフォームのエラー」とし、「反ユダヤ主義的な出力」に関連する「xAIによるコンテンツの改善」を示唆し、「成人向けコンテンツの個人を特定するため」のものであったと述べました。
Muskは後に、「それはただの愚かなエラーでした。Grokは実際に自分が停止された理由を知りません」と書き込みました。
専門家は、LLMが妥当な嘘をでっち上げる可能性を警告
このようなエピソードは、人々がチャットボットに自己診断を求めるきっかけとなることが多く、誤解を招く可能性があります。
大規模言語モデルは、確実な事実ではなく、可能性のあるテキストを生成します。xAIは、Grokが時折、ウェブからMusk、xAI、Grokに関する情報を引き出し、公開されたコメントを混ぜ合わせて、自身に関する質問に答えていると述べています。
人々は、会話を通じて、特にチャットの開始時に行動を設定する隠されたテキストであるシステムプロンプトなど、ボットの設計に関するヒントを発見することがあります。
Vergeの報道によると、初期のBing AIは、未公開のルールを列挙するように促されました。今年初め、ユーザーは、Muskやドナルド・トランプが誤情報を拡散したとする主張を軽視するGrokのプロンプトを引き出し、それが「白人ジェノサイド」への一時的な執着を説明しているように見えました。
alleged 「白人ジェノサイド」プロンプトを発見したZeynep Tufekci氏は、これは「LLMが行うように、Grokが非常に妥当な方法ででっち上げている可能性」があると警告しました。
Alex Hannaは、「LLMの出力に真実性があることは保証されていません。…プロンプト、プロンプティング戦略、エンジニアリング戦略を得る唯一の方法は、企業がプロンプトが何であるか、トレーニングデータが何であるか、人間のフィードバックによる強化学習データが何であるかを透明にし、それらに関する透明なレポートの作成を開始することです」と述べています。
この紛争はコードのバグではなく、ソーシャルメディアでの停止でした。Muskの「愚かなエラー」を超えて、実際の原因は不明のままですが、Grokの答えの変化のスクリーンショットがX上で広く拡散しました。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
ヌール・バズミ
Noor Bazmi氏はメディア研究の学位を取得し、Cryptopolitanニュースチームの一員として活動しています。ブロックチェーン、暗号資産、人工知能、ビッグテック、EV市場、世界経済、政府政策の変化に関するニュースをカバーしています。現在はマーケティングの勉強を進め、グローバルな聴衆との接点を広げています。
