OpenAIの報告書によると、国家レベルのハッカーはAIで優位に立てない

テクノロジー企業や政府関係者は、人工知能（AI）が外国の敵にとって危険な武器になりかねないと警告し 続けているが、新たな証拠は異なる様相 を呈している。最近の報告によると、国家支援を受けた組織が一般のインターネットユーザーと同じ公開ツールを利用しており、しばしば同様に苦戦していることが明らかになった。

OpenAIは最近、政府関連の団体が自社のプラットフォームをどのように うとした 。

最も注目すべき事例は、中国の法執行機関関係者がChatGPTを個人的な日記のように利用したことで、中国による影響力行使キャンペーンが暴露さdent 。この関係者は、海外在住の中国批評家を標的とした作戦について記事を執筆しました。 れたケースです

OpenAIによると、このキャンペーンには数百人の運営者と数千の偽のソーシャルメディアアカウントが関与していた。

この作戦は、米国の入国管理局職員を装い、反体制派の公式発言が米国法に違反していると虚偽の主張をすることで、反体制dent 脅迫しようとした。また、郡裁判所からの文書を偽造し、批判者のソーシャルメディアアカウントを削除させようとしたケースもあった。.

偽の死亡記事と偽造文書は嫌がらせキャンペーンの一環

彼らは、ある反に関する虚偽の噂を広めるために、偽の死亡記事と墓石の写真を作成したdentの死。これらの噂は実際に2023年にオンライン上に 現れたと、中国語版ボイス・オブ・アメリカの記事が確認している。OpenAIで調査を率いるベン・ニンモ氏は、この行為を、複数の経路を通じて中国共産党の批判者を標的とした組織的な嫌がらせだと評し た。

ChatGPTを記録管理ツールとして使用していたことが、結果的にこの活動の発覚につながりました。ChatGPTは、工作員が trac秘密ネットワークをための日誌として機能し、ソーシャルメディアで拡散 されたコンテンツの大部分は他のツールによって生成されていました。OpenAIは、この活動を 発見した後、このユーザーをBANしました。

OpenAIの調査員は、ChatGPTユーザーの記述と実際のオンライン活動を照合しました。ユーザーは、偽の死亡記事と墓石の写真を作成し、オンラインに投稿することで、中国の反dent活動家の死亡を偽装したと説明しました。.

別のケースでは、ChatGPTユーザーが、アメリカの関税に対する怒りを煽り、新首相に就任した高市早苗氏の評判を傷つける計画を作成するようシステムに依頼しました。ChatGPTはこれを拒否しました。しかし、10月下旬に高市氏が政権を握ると、日本のグラフィックアーティストが集まる人気フォーラムに、彼女を攻撃し、関税に不満を訴えるハッシュタグが次々と 現れました。

OpenAIの報告書では、恋愛詐欺や投資詐欺にこのプラットフォームを利用したカンボジアからの複数の詐欺行為や、 ある 影響力行使キャンペーンも取り上げられている。

マイクロソフトのレポートは同様の基本的な使用パターンを示している

マイクロソフトは OpenAIと共同で、ロシア、北朝鮮、イラン、中国の国家レベルのアクターがサイバー攻撃活動を支援するために大規模言語モデルをどのように 試行しているかを調査した別のレポートを発表しました。両社は、5つの国家レベルのアクターのアカウントを閉鎖することで、これらのアクターの活動を阻止しました。

Microsoftの報告書によると、これらの攻撃者は 主に、公開情報の検索、コンテンツの翻訳、コーディングエラーの修正、基本的なプログラミングタスクの実行といった単純な 作業のためにサービスを利用しようとしていた。これまでのところ、これらのモデルを利用した大規模または新たな攻撃は発見されていない。

この恐怖と現実のギャップは、この技術の支配をめぐるワシントンと北京の 激しい競争の中で 生じています。この技術が軍事面と経済面でどのような役割を果たすかが、大きな 争点となっています。国防総省は最近、別の企業であるアントロピック社に対し、金曜日までに自社のモデルから特定の安全機能を削除しなければ、防衛契約を失うリスクがあるとtrac。 しました

マイクロソフトは、国家主導のグループや犯罪組織によるこれらのツールの 悪用によるリスクを 軽減するための原則に取り組ん でいると述べた。これらの原則には、 悪質なユーザーを 特定して阻止すること、他のサービスプロバイダーに 情報を提供すること、他のグループと 協力すること、そして透明性を確保することなどが含まれる。