OpenAI、ロシア関連のChatGPTアカウントを禁止（偽シンクタンクを推進）

OpenAIは、ロシアに関連するChatGPTアカウントのネットワークをシャットダウンした。

同社は水曜日、これらのアカウントがチャットボットを使用して、フランシス・フクヤマやノーム・チョムスキーを寄稿者とする偽の「専門家コミュニティ」の作成を支援したと述べた。

34の36記事が他から持ってきたもの

これらのアカウントは、国際バーカー研究所（IBI）を宣伝するためのものであった。同団体はイスラエルに拠点を置き、著名な学者で構成されていると主張していた。

OpenAIの報告書によれば、同社のウェブサイトは2025年2月にローンチされた。7月中旬までに宣伝された名簿には、フクヤマやチョムスキーをはじめとする他の著名な学術界の名前が含まれていた。

OpenAIの調査官は、2025年9月から2026年5月の間に投稿された、IBIのいわゆる「専門家」に帰属する36記事のサンプルを調査し、そのうち34記事が他から転載されたものであることを発見した。

中国・パキスタン経済回廊に関する記事は、ブラッドフォード大学のYunas Samadによるケンブリッジ大学出版局の出版物に由来するものだったが、IBIはノッティンガムの南アジア政治学者Katharine Adeneyの名義でこれを掲載した。

移民政策研究所（Migration Policy Institute）に関する移民ガバナンスの記事は、オーストラリアの食品科学教授の名義で掲載された。

アカウントの管理者はプロンプトをロシア語で入力したが、出力は大半が英語を要求していた。OpenAIは、彼らがモデルに対して、ロシア人が背後にいるという言語的な証拠を削除するよう指示したことを発見した。

同社はロシア国内からのアクセスをブロックしているため、運用者はVPNを使用してサービスにアクセスした。

ChatGPTが生成したのはソーシャルメディアの埋め草であった。投稿や返信は、X、LinkedIn、Facebook、Substack、Telegram across IBIの記事へと読者を誘導した。

IBIの名前とロゴを載せたプロフィールもあった。他のものは、通常のユーザーを装っており、そのフィードを見ると、IBIへのリンクを吐き出すだけだった。

これらのアカウントは、Substack上の無関係な投稿への返信も行い、それぞれ読者にIBIチャンネルのフォローを促していた。

1つの誤訳されたドイツ語の単語が正体を暴いた

OpenAIは、ウクライナ戦争開始以来解体してきたロシア関連の運用よりも複雑だったが、その到達範囲は小さいと述べた。

ロシアを称賛し、西側諸国の政府を批判する「主権指数」が中核をなしていた。

ドイツに関する1つの記事は、「Svetofor連合」に言及しており、これはスラヴ語で信号機を意味する言葉を使用しており、ネイティブのライターであれば「信号機連合」と言うところである。

OpenAIは、報告書の中で、これがスラヴ語の原文からの機械翻訳による逐語訳であると解釈した。

もう1つのドイツ語Telegramチャンネル「Lahme Ente」（老獺）は、ウクライナ、EU、ベルリンを攻撃し、モスクワとの関係強化を呼びかける投稿を行った。

リンクされたTelegramチャンネルの一部には、それぞれ2万人のフォロワーがいたが、個々の投稿へのトラフィックは少なかった。

2月、Cryptopolitanは、中国の影響力キャンペーンが、公式がChatGPTを仕事用日記として使用したことで自らの正体を露呈させたことを報じた。

OpenAIは、国家主体が新しい攻撃ではなく、日常的なタスクのためにこのモデルを使用するのを何度も見てきた。

2024年、OpenAIはモスクワを称賛し、ウクライナとNATOを攻撃する投稿を生成した、もう1つのロシア関連ネットワーク「Doppelganger」を妨害した。