OpenAIの報告書によると、国家レベルのハッカーはAIで優位に立てない

テクノロジー企業や政府関係者は、 続けている 人工知能（AI）が外国の敵にとって危険な武器になりかねないと警告し を呈している 。最近の報告によると、国家支援を受けた組織が一般のインターネットユーザーと同じ公開ツールを利用しており、しばしば同様に苦戦していることが明らかになった。

OpenAIは最近、政府関連の団体が自社のプラットフォームをどのように うとした 。

最も注目すべき事例は、中国の法執行機関関係者がChatGPTを個人的な日記のように利用したことで、中国による影響力行使キャンペーンが れた 暴露さdent 。この関係者は、海外在住の中国批評家を標的とした作戦について記事を執筆しました。

このキャンペーンには数百人の運営者と数千の偽のソーシャルメディアアカウントが関与していた OpenAIによると、。

この作戦は、米国の入国管理局職員を装い、反体制派の公式発言が米国法に違反していると虚偽の主張をすることで、反体制dent 脅迫しようとした。また、郡裁判所からの文書を偽造し、批判者のソーシャルメディアアカウントを削除させようとしたケースもあった。.

偽の死亡記事と偽造文書は嫌がらせキャンペーンの一環

に関する虚偽の噂を広めるために、偽の死亡記事と墓石の写真を作成したdentの死 現れたと 、中国語版ボイス・オブ・アメリカの記事が確認している。OpenAIで調査を率いるベン・ニンモ氏は、 た この行為を評し、複数の経路を通じて中国共産党の批判者を標的とした組織的な嫌がらせだと

ChatGPTを記録管理ツールとして使用していたことが、結果的にこの活動の発覚につながりました。ChatGPTは、工作員が trac秘密ネットワークを された 後、このユーザーをBANしました 発見した 。

OpenAIの調査員は、ChatGPTユーザーの記述と実際のオンライン活動を照合しました。ユーザーは、偽の死亡記事と墓石の写真を作成し、オンラインに投稿することで、中国の反dent活動家の死亡を偽装したと説明しました。.

別のケースでは、ChatGPTユーザーが、アメリカの関税に対する怒りを煽り、新首相に就任した高市早苗氏の評判を傷つける計画を作成するようシステムに依頼しました。ChatGPTはこれを拒否しました。 しかし ハッシュタグが 現れました 日本のグラフィックアーティストが集まる人気フォーラムに、彼女を攻撃し、関税に不満を訴える

OpenAIの報告書では、恋愛詐欺や投資詐欺にこのプラットフォームを利用したカンボジアからの複数の詐欺行為や、 ある 影響力行使キャンペーンも取り上げられている。

マイクロソフトのレポートは同様の基本的な使用パターンを示している

と共同で、 OpenAI の国家レベルのアクターがサイバー攻撃活動を支援するために大規模言語モデルをどのように 北朝鮮、イラン、中国 いる 試行して しました。両社は、5つの国家レベルのアクターのアカウントを閉鎖することで、これらのアクターの活動を阻止しました。

Microsoftの 報告書 によると、これら攻撃者は 主に のためにサービスを利用しようと 作業 していた。これまでのところ、これらのモデルを利用した大規模または新たな攻撃は発見されていない。

ギャップは、 恐怖 と現実の 生じています の中で 激しい 競争 どのような 役割を果たすかが、大きな 争点。国防総省は最近 しました 、別の企業であるアントロピック社、金曜日までに自社のモデルから特定の安全機能を削除しなければ、防衛契約を失うリスクがあるとtrac。

マイクロソフトは でいると述べた ための原則に取り組ん 軽減する リスクを 悪用による 、国家主導のグループや犯罪組織によるこれらのツールの 特定し て阻止すること 悪質な ユーザーを 情報を提供すること 他のサービスプロバイダーに 協力すること 、そして透明性を確保することなどが含まれる。