- 中国の法執行機関は、ある公式者がChatGPTを日記として使用して作戦を記録したことで、意図的に影響キャンペーンを暴露してしまいました。
- ロシア、イラン、北朝鮮、中国からの国家支援ハッカーは、AIを基本的なタスクのみで使用しています。
- 恐怖をあおる過剰な報道と現実の間には大きな隔たりがあります。
国家主体のハッカーはAIで優位性を獲得できず、OpenAIのレポートが示す という テクノロジー企業や政府関係者は、人工知能が外国の敵にとって危険な兵器となることを警告していますが、新たな証拠は 異なる 物語を語っています。最近のレポートによると、国家支援グループは一般のインターネットユーザーと同じ公開ツールを使用しており、しばしば一般ユーザーと同様に struggle しています。
OpenAIは、政府と関連のあるグループが自らのプラットフォームを利用しようとした方法について、最近詳細を共有しました。
OpenAIは、政府と関連のあるグループが自らのプラットフォームを利用しようとした方法について詳細を共有しました。
このキャンペーンには数百人の運用者や数千の偽のソーシャルメディアアカウントが関与しており、OpenAIによるとです。
この作戦は、米国の移民官になりすまして、活動家の公的な声明が米国の法律に違反しているという虚偽の主張を行い、活動家を脅そうとしました。他のケースでは、運用者は郡裁判所からのものだと偽造された文書を使用して、批判者のソーシャルメディアアカウントの削除を試みました。
偽の死亡記事や偽造文書は嫌がらせキャンペーンの一部
彼らは、ある活動家の死亡に関する誤報を広めるために、偽の死亡記事や墓石の写真を作成しました。これらの誤報は実際には2023年にオンライン上で確認され、中国語版『ラジオ・フリー・アジア』の記事がこれを裏付けました。OpenAIで調査を担当するベン・ニモは、この試みを中国共産党の批判者に対する複数のチャネルを通じた工業化された嫌がらせであると指摘しました。
ChatGPTを記録管理ツールとして使用したことが、この作戦の暴露につながりました。ChatGPTは作戦員が秘密裏のネットワークを追跡するための日記として機能し、他のツールがソーシャルメディアを通じて拡散された実際のコンテンツの大部分を生成しました。OpenAIは、この活動が発覚した後にユーザーをbanしました。
OpenAIの調査官は、ChatGPTユーザーからの記述を実際のオンライン活動と照合しました。ユーザーは、偽の死亡記事や墓石の写真をオンラインで投稿することで、中国の活動家の死を偽装したと説明しました。
別のケースでは、ChatGPTのユーザーは、米国の関税に対する怒りを煽ることで、次期日本の首相である高市早苗氏の評判を毀損する計画を作成するようシステムに依頼しました。ChatGPTはこれを拒否しました。しかし、10月下旬に高市氏が権力を握った際、日本のグラフィックアーティスト向けの人気フォーラムで、彼女を攻撃し関税に不平を漏らすハッシュタグが出現しました。
OpenAIのレポートには、カンボジア由来のロマンス詐欺や投資詐欺にプラットフォームを使用した複数の詐欺作戦、さらにアルゼンチンやアフリカを対象としたロシアに関連する影響力工作キャンペーンも含まれていました。
Microsoftのレポートは、同様の基本的な使用パターンを示しています
Microsoftは、ロシア、北朝鮮、イラン、そして中国からの国家主体のアクターが、サイバー攻撃作戦を支えるために大規模言語モデルを試している方法を探るため、OpenAIと共同で別のレポートを公開しました。両社は、5つの国家関連アクターの取り組みを、アカウントを閉鎖することで阻止しました。
The Microsoft report found these actors mainly wanted to use services for simple jobs like searching publicly available information, translating content, fixing coding errors, and running basic programming tasks. No major or new attacks using the models have been found so far.
この恐怖と現実の間のギャップは、ワシントンと北京がこの技術の支配を巡って激しく競争している間に発生します。軍事および経済上の事項におけるその役割は、主要な争点となっています。ペンタゴンは最近、別の企業であるAnthropicに対し、特定的安全機能をモデルから削除しない限り、防衛契約を失うリスクがあることを通達しました。
Microsoft said it’s working on principles to lower risks from bad use of these tools by nation-state groups and criminal organizations. These principles include finding and stopping bad users, telling other service providers, working with other groups, and being transparent.
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
ヌール・バズミ
Noor Bazmi氏はメディア研究の学位を取得し、Cryptopolitanニュースチームの一員として活動しています。ブロックチェーン、暗号資産、人工知能、ビッグテック、EV市場、世界経済、政府政策の変化に関するニュースをカバーしています。現在はマーケティングの勉強を進め、グローバルな聴衆との接点を広げています。
