OpenAI、監視ツールとしてChatGPTを使用する中国関連のアカウントを停止

アメリカのトップ人工知能スタートアップ企業OpenAIは、監視ツールの開発に関与したとして、ChatGPTの複数のアカウントを禁止した。. 

2025年2月に発表された同社の報告書によると、停止されたアカウントは中国とのつながりがあるとされている。これらのアカウントは、OpenAIのモデルを使用してソーシャルメディアリスニングツールの詳細な説明を生成していたと報じられている。このツールは、西側諸国の抗議活動に関するリアルタイムのフィードバックを中国の治安機関に提供するために使用されていたとされている。. 

禁止されたアカウントは、OpenAI のモデルを使用して、そのようなツールを実装することを意図していると思われるコードをデバッグする方法も見つけていた。. 

中国が疑われている理由 

OpenAI は、個人の自由や権利を抑圧しようとする政府による、または政府に代わって行われる活動を含む、通信の監視や個人の不正な監視を目的とした AI の使用を防止するためのポリシーを導入しています。.

OpenAIは、行動パターンをはじめとする様々な調査結果に基づき、問題のアカウントをdentことに成功しました。これらのアカウントがOpenAIのモデルを使用していたとされる用途には、文書分析の支援、セールスプレゼンテーションの作成、ソーシャルメディア活動監視ツールの説明、政治関係者や政治トピックの調査などが含まれていました。.

これらのアカウントは、 中国発祥 活動が主に中国本土の営業時間中に行われ、またOpenAIのモデルに中国語を入力させるきっかけとなったことから、 

OpenAIはまた、アカウントの背後にいる人物が、自動化ではなく手動による指示に従った方法でツールを使用していることを発見した。場合によっては、1つのアカウントに複数のオペレーターが関与している可能性があることも発見した。.

この作戦の主な活動の一つは、「千悦海外世論AIアシスタント」と称されるものについて、売り文句と一致する詳細な説明文を作成することだった。 

このツールは、X、Facebook、YouTube、Instagram、Telegram、Redditなどのプラットフォームからの投稿やコメントを分析し、分析結果を中国当局に提供する目的で設計されている。. 

残念ながら、OpenAIはこれらの記述をdentに検証することができず、このdent 米国に警戒を強めさせました。OpenAIの主任研究員であるベン・ヌイモ氏によると、この事件は中国のような権威主義体制が米国製の技術を米国とその同盟国に対して利用しようとする一例です。.

「彼ら自身が生成した資料によると、これは、ある非民主的な主体が、民主的あるいは米国ベースのAIを非民主的な目的で利用しようとした、非常に憂慮すべき一例だ。」

OpenAIは、これらのアカウントがMetaのオープンソースAIモデルであるLlamaのバージョンを含む他のAIツールを参照していることも明らかにした。. 

この事件はDeepSeekの設立直後に起こった。 

OpenAIは、DeepSeekのR1推論モデルがベンチマークで他の多くの米国製モデルに勝ち、米国市場で大規模な技術株売りを引き起こして以来、特に中国製AIの危険性について警鐘を鳴らし続けている。. 

DeepSeekの優位性については議論の余地があり、開発元は、ほとんどの米国製モデルの製造コストのほんの一部でDeepSeekを開発したと主張している。この主張は一般の人々から賛否両論の反応を受けているが、多くの専門家は誇張であると確信している。 

OpenAIは、DeepSeekのチームがより多くの資金を投入したと確信しているだけでなく、DeepSeekがモデルの出力を抽出して独自のモデルを作成したと非難している。. 

ブルームバーグの報道によると、OpenAIの主要投資家であるマイクロソフトは現在、同社所有のデータが無許可で使用されたかどうかを調査している。.

最近ホワイトハウスの「AIと暗号通貨担当大臣」に任命されたデビッド・サックス氏もOpenAIの懸念に同調し、DeepSeekが米国のAI企業のモデルを改良するために利用した可能性があると示唆した。このプロセスは知識蒸留と呼ばれる。.

「DeepSeekがここでやったことは、OpenAIのモデルから知識を抽出したということだという確かな証拠がある」とサックス氏は 述べた。 

同氏はさらに、今後数カ月以内に、米国の大手AI企業が、模倣モデルの動きを鈍らせることを期待して、蒸留を防止する措置を講じ始めるだろうと付け加えた。.