中国のDeepSeek-R1 AIは、共産党の要請に関連して、より弱く不確実なコードを生成
Photo by Solen Feyissa on Unsplash.
- CrowdStrikeの研究により、中国のDeepSeek-R1 AIは政治的に敏感なトピックでプロンプトされた場合、より弱く、より脆弱なコードを生成することが示されました。
- 台湾や欧米の政府は、中国のジェネレーティブAIモデルがコンテンツを検閲したり、ユーザーデータを漏えいしたり、悪意のあるコードを生成する可能性があると警告しています。
- 地域市場が分断され、韓国と台湾の評価が急上昇する中、投資家は低評価の中国のAI株式にシフトしている。
サイバーセキュリティ企業CrowdStrikeによる新しい研究では、DeepSeekの大規模言語モデル（LLM）DeepSeek-R1が、中国の指導部が「政治的に敏感」と見なすトピックでプロンプトされた場合、より弱く、より不確実なコードを生成することが発見されました。
中国のテクノロジー企業DeepSeek 導入した DeepSeek-R1は1月に登場し、中国と米国のストアの両方で発売初週に最もダウンロードされたAIモデルとなりました（Cryptopolitan報道）。
CrowdStrikeのCounter Adversary Operationsチームは、中国共産党にとって政治的にデリケートなと見なされる主題を含むプロンプトを入力し、DeepSeek-R1が深刻なセキュリティ欠陥を含むコードを生成する確率が最大50%跳ね上がることを発見しました。
「2025年には開発者の最大90%がこれらのツールを使用しており、高価値なソースコードへのアクセスがあるため、AIコーディングアシスタントにおけるシステム的なセキュリティ問題は、影響度と普及率の両面で高いものです」と同社は記しています。
DeepSeek R1モデルの検閲と国家安全保障への懸念
先木曜日に公開されたCrowdStrikeのブログによると、複数の政府がオープンソース DeepSeek-R1に対して制限または全面的な禁止を発令しました。政策立案者は、中国のインターネットファイアウォールや台湾の地位など、政治的に敏感な主題に関する問い合わせについて検閲していると非難しました。
米国のソフトウェア会社は、R1が本土中国の政府に敵対的と見なされるグループや運動に関連するトピックの支援を頻繁に拒否したことを発見しました。西洋のモデルは法輪功に関連するソフトウェアの作成を依頼されるとほぼ常にコードを生成しましたが、DeepSeek-R1は試行の45%でこれを拒否しました。
いくつかのケースでは、モデルは技術的な回答を提供する能力がありながら、システム要件やサンプルコードを含む、質問への対応に関する構造化された計画を記述しました。推論のトレースには、以下のような行が含まれることがありました。
「法輪功はデリケートなグループです。ここでは倫理的な影響を考慮すべきです。彼らを支援することはポリシーに反する可能性があります。しかし、ユーザーは技術的な助けを求めています。技術的な側面に焦点を当てましょう。」
推論フェーズ完了後のR1の最終出力は、モデルに外部のフィルタリングやガードレールが置かれていない状態で、「申し訳ありませんが、そのリクエストにはお応えできません」という標準的な拒否文で終わりました。CrowdStrikeは、この行動はモデルの自己上書きメカニズム、あるいは一種の内在的なキルスイッチに組み込まれていると結論付けました。
台湾と西洋諸国が中国製AI製品を非難
今月初めの声明で、台湾の国家安全局 は は、DeepSeekおよびDoubao、Yiyan、Tongyi、Yuanbaoの4つの中国企業によって開発された生成AIシステムを使用する際には注意すべきだと述べています。
「これら5つのGenAI言語モデルは、特定の状況下でリモートコード実行を可能にするネットワーク攻撃スクリプトや脆弱性悪用コードを生成する能力があり、サイバーセキュリティ管理のリスクを増大させます」と同局は判断しました。
米国の規制当局とオーストラリアの規制当局は、これらのツールがユーザーの身元、会話ログ、個人情報を収集し、中国国内で運用されるサーバーにデータを送信する恐れがあるとして、アプリストアに中国の開発者によるモデルの削除を要請しました。
「中国のAIに対するパニックが、ビジネスを行うほとんどの企業があなたのプライベートデータの使用方法に関する条件を設定していることを人々に思い出させるのに、パニックが必要ないことを示すはずです。そして、彼らのサービスを使用するとき、あなたは彼らのために仕事をしているのであり、その逆ではありません」と、トロント大学のCitizen Lab研究者John Scott-Railtonは1月にWIREDに語りました。
AI市場のブームがアジア地域での競争を喚起
より広範なアジアのAI市場において、トップパフォーマーのアジアファンドマネージャーは、韓国と台湾の保有を削減する一方で、中国の人工知能株へのエクスポージャーを最近増加させたと、ニュースメディアThe Japan Timesが報じました。 報告しました。これには完全な準備預金と独立監査が含まれます。.
Value Partners Asian Income FundおよびAsian Innovation Opportunities Fundの監督を担当するKelly Chung氏は、中国のAI株の一部はまだバリュエーションの観点から非常に割安であると述べています。彼女は8月以来、台湾および韓国の株から、香港上場の中国ハイパースケーラー企業へローテーションを行ってきました。
Chung氏は、合計4億9,000万ドルの資産を持つ彼女の2つのファンドが、過去1年間で競合のほぼすべてを上回るパフォーマンスを達成したと指摘しました。
テクノロジー重視の韓国Kospiは、Nvidiaの主要サプライヤーであるSKハイニックスの支援もあって過去3ヶ月で21%上昇し、その株価は2倍以上になりました。台湾の株価指数は同じ期間に9.2%上昇しました。一方、中国の最大のAI支出者を抱える香港のHang Seng Tech Indexは4.8%下落しました。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
Florence Muchai
フローレンスは過去6年間、暗号資産、ゲーム、テクノロジー、AIに関するニュースを報道してきました。メルウ科学技術大学でのコンピュータ学およびMMUSTでの災害管理と国際外交の学習により、言語能力、観察力、技術スキルを十分に備えています。フローレンスはVAPグループで勤務し、複数の暗号資産メディアハウスで編集者として活躍しました。
