OpenAI、米選挙への影響キャンペーンを理由にイラン団体のChatGPTアカウントを閉鎖

OpenAIは、イランによる影響力行使活動に関与したChatGPTアカウント群を凍結するという断固たる措置を講じました。同社のブログ投稿によると、これらのアカウントは、AIが作成した米国dent選挙に関する資料を投稿していたとのことです。記事やソーシャルメディアへの投稿を含むこの活動は、小規模なものだったようです。. 

国家関連主体がOpenAIのChatGPTを悪用しようとしたのは今回が初めてではない。5月には、同社はAIボットが投稿した偽のメディア記事を用いて国民に影響を与えようとする5件の試みを阻止した。これらの試みは、国家主体が新たなテクノロジーを用いて政治プロセスに影響を与えようとする、より広範なパターンの一部である。. 

OpenAIは新たな脅威に迅速に対応

以前は、こうしたグループはFacebookやTwitterを主要なソーシャルメディアプラットフォームとして利用していました。しかし、現在では生成AIがソーシャルメディアプラットフォームに偽情報を大量に流し込むために使われています。 に対し 、OpenAIはソーシャルメディアプラットフォームで見られる「モグラ叩き」方式と同様に迅速に対応しています。こうした活動に関与しているアカウントが明らかになると、即座にブロックされます。2024年の米国大統領選挙が徐々に近づいている今、これは重要なことdent。 

OpenAIによる最近の一連のアカウント分析は、先週発表されたMicrosoft Threat Intelligenceのレポートに基づいています。レポートでは、これらの活動を支援していたグループをStorm-2035と名付けており、同グループは2020年から米国大統領選挙への干渉に関与してきました。. 

Storm-2035は、本物のニュースウェブサイトを模倣した多数のドメインを持つイランのネットワークであると報告されています。これらのサイトはアメリカの有権者をターゲットにし、dent候補、同性愛者の権利、イスラエルとハマスの紛争に関する分断的なコンテンツを掲載しています。. 

ChatGPTはさまざまな政治トピックについて分極化したコンテンツを生成します

他の類似の活動と同様に、Storm-2035の目的は特定の政策を支持することではなく、国民の間で論争を引き起こすことです。OpenAIによると、このグループはリベラル派と保守派の両方のニュースサイトを装った5つのウェブサイトと関係がありました。. 

これらのサイトは「evenpolitics.com」といった適切なドメイン名を持ち、ChatGPTを使って一定の長さの記事を書いていました。記事の一つには、イーロン・マスク氏が所有するソーシャルメディアネットワーク「X」が、ドナルド・トランプ前米dentのツイートをブロックしているという内容が書かれていました。. 

OpenAIは、Storm-2035に関連する12のXアカウントと1つのInstagramアカウントをdentしました。これらのアカウントはChatGPTを用いて新たな政治的声明を生成し、これらのソーシャルメディアチャンネルに投稿しました。例えば、あるツイートでは、気候変動が「移民コストの増加」の原因であると誤って示唆する一方で、その発言にカマラ・ハリス副dent に言及した#DumpKamalaというタグを付けていました。.