人工知能が選挙操作に利用されているとOpenAIが警鐘を鳴らす

OpenAIの報告書によると、同社のモデルが選挙に影響を与えるために利用されているとのことです。また、OpenAIは、そのような悪意ある活動を実行するために同社のAIモデルを利用していた20以上の活動を停止したと述べています。. 

OpenAIの 報告書「AIの欺瞞的な利用を阻止するための最新情報」は、政治的なコンテンツを扱う際には警戒が必要であることも強調している。

この文書は、OpenAIのモデルが選挙妨害や政治的な誤情報の拡散の主要なツールになりつつあるという傾向を示しました。多くの場合、国家の支援を受けている悪意のある行為者は、これらのAIモデルをソーシャルメディア上の偽ペルソナコンテンツの生成やマルウェアのリバースエンジニアリングなど、様々な活動に利用しています。.

AI選挙と政治におけるOpenAIの影響力の拡大

8月下旬、OpenAIは、 イランのキャンペーンを 。その後禁止された一部のアカウントは、ルワンダ選挙に関する投稿も行っていたと報告されている。 

また、イスラエルの企業もインドの世論調査の結果を操作しようとしていたことが判明した。. 

しかし、OpenAIは、これらの活動がバイラル化したり、十分な支持を集めたりしていないと指摘しています。これらのキャンペーンに関連するソーシャルメディアの投稿は、ほとんど tracを集めませんでした。これは、AIを活用した偽情報キャンペーンで世論を動かすことの難しさを示唆している可能性があります。. 

歴史的に見ると、政治キャンペーンは通常、立候補者による誤情報によって煽られてきた。しかし、AIの出現は政治システムの健全性に対して新たな脅威をもたらしている。 世界経済フォーラム （WEF）は、2024年は50カ国で選挙が行われる歴史的な年になると述べている。  

日常的に使用されている LLM には、誤情報をより迅速かつ説得力を持って作成し、拡散する能力がすでに備わっています。.

規制と協力の取り組み

OpenAIは、この潜在的な脅威に対応するため、関係する関係者と脅威インテリジェンスを共有し、協力していると述べています。この協調的なアプローチは、特に政治的な文脈において、誤情報の流通経路の監視と倫理的なAI利用の促進に十分であると考えています。. 

OpenAIは、「この作戦によって有意義な視聴者の関与が得られなかったにもかかわらず、私たちは外国への影響力行使作戦に当社のサービスを利用しようとするあらゆる試みを真剣に受け止めています」と報告している。 

AI企業はまた、AIを使って欺瞞的で破壊的なオンラインキャンペーンを展開する国家​​支援のサイバー攻撃者を防ぐために、強固なセキュリティ防御を構築する必要があると強調した。. 

WEFはまた、AI規制を整備する必要性を強調し、「相互運用可能な標準と基本的な規制要件に関する国際合意は、イノベーションを可能にし、AIの安全性を向上させる上で重要な役割を果たすだろう」と述べた。 

効果的なフレームワークを開発するには、OpenAI などのテクノロジー企業、公共部門、民間関係者間の戦略的パートナーシップが必要であり、これが倫理的な AI システムの実装に役立ちます。.