OpenAIは、中国のグループによるChatGPTの悪意ある使用が増加していると報告している

OpenAIは、同社のツールの秘密使用が急増していることを明らかにした。特に、同社のChatGPTプラットフォームを悪意を持って利用している中国のグループに関連しているという。.

ChatGPTは2022年11月のサービス開始以来、瞬く間に成功を収めてきましたが、人間のような音声、テキスト、画像、動画を生成できる能力ゆえに、その潜在的な影響について懸念が持たれてきました。OpenAI は 、ウェブサイトの偽コンテンツ作成など、自社プラットフォーム上での悪意のある活動に関する報告書を定期的に公開しています。

OpenAIは自社のツールを悪用した10のキャンペーンを解体した

サンフランシスコに拠点を置く同社は木曜日に発表した報告書の中で、自社のAIツールを悪用した10件の個別の攻撃キャンペーンを最近摘発したことを明らかにした。このうち4件は中国と関連のあるグループによって仕組まれたもので、小規模な計画は他国と関連していた。.

によると ベン・ニンモ氏、これらの中国関連の作戦は、複数のオンラインプラットフォームにわたって幅広い戦術を展開していたという。

同氏は記者団に対し、「ツールキットの拡大が見られている」と語った。.

「一部のキャンペーンでは、影響力操作、ソーシャルエンジニアリング、監視が組み合わされており、TikTokやXからRedditやFacebookまで、さまざまなプラットフォームが利用されています。」

ニモ。.

代表的な事例の一つである「スニエル・レビュー」は、ChatGPTを利用して英語、中国語、ウルドゥー語で短い投稿やコメントを配信した。これらの投稿は、米国国際開発庁の解散といったテーマを取り上げ、その決定を称賛したり批判したり、中国の与党への攻撃として提示された台湾の戦略ビデオゲームを批判したりした。

OpenAIの報告によると、この作戦はほとんどの場合、オリジナルの投稿だけでなく返信も作成し、「本物の」議論であるかのように見せかけていた。また、同じグループは、このゲームに対する世間の激しい反発を主張する長文記事も作成した。.

「スニールレビュー」では、ChatGPTを用いて社内文書やパフォーマンスレビューを作成し、キャンペーン実行のあらゆるステップを詳細にハイライトしました。OpenAIのアナリストは、実際のソーシャルメディアでの行動がこれらの自己評価とよく一致していることを発見しました。これは、AIが最前線での影響力とバックオフィス管理の両方を効率化できることを浮き彫りにしています。.

報告書はまた、中国と関連のある別のネットワークがジャーナリストや地政学評論家を装い、情報収集に注力していたことも明らかにした。彼らはチャットボットを使ってXのアカウントプロフィールを作成し、中国語と英語のコミュニケーションを翻訳し、さらには連邦議員指名に関するメッセージを米国上院議員宛てに作成していた。.

他の国のグループもOpenAIのツールを悪用した

報告書は、中国による活動に加え、 ロシアとイランの 関係者も選挙関連の影響力行使のためにChatGPTを利用しようとしたと指摘しており、世論形成における生成型AIの役割に対する懸念を改めて示している。

フィリピンでは、商業マーケティング会社がスパムメールキャンペーンに関与したことが判明したほか、カンボジアと関連のある求人詐欺も発覚した。同社はまた、北朝鮮の利益を狙った別の雇用計画についても警告した。.

これらの脅威はすべて、OpenAIが中国関連の監視活動を発見した2月の報告と一致していました。この活動は西側諸国の抗議活動をリアルタイムで監視し、中国の安全保障機関に概要を提供していたと報じられています。また、ChatGPTはコードのデバッグから監視ソフトウェアのセールスレターの作成まで、あらゆる活動を支援していました。.

ニモ氏は、こうした攻撃は高度なツールを使っていたようだが、その大半は検知され阻止されたと指摘した。.

「高度なAIが必ずしもより効果的な成果につながるわけではない」と彼は指摘した。実際、OpenAIの定期的な脅威レポートは、生成モデルはコンテンツ作成を加速させる可能性があるものの、真の影響力や広範な tracを保証するものではないことを示唆している。.

これらの調査結果を受け、OpenAIは監視と執行の仕組みを継続的に改善してきました。検出された活動に関連するアカウントをブロックし、マルウェア、自動化された政治メッセージ、誤解を招くコンテンツの作成に関与するアカウントをすべて削除しています。.

OpenAIは最新の措置として、パキスタンの活動家に対する虚偽の告発やトランプ大統領の 関税 政策に関する論評など、中国に関連する地政学的な論争を投稿したアカウントを削除した。

OpenAI は成功を収めているものの、イノベーションのツールとしても偽情報のツールとしても機能する生成 AI の諸刃の剣な性質も認識している。.