中国のディープシークR1 AIは共産党の要求に結びついた、より弱く安全でないコードを書く

サイバーセキュリティ企業クラウドストライクの新たな調査によると、ディープシークの大規模言語モデル（LLM）ディープシーク-R1は、中国指導部が「政治的に敏感」とみなす可能性のあるトピックを入力すると、より弱く、より安全でないコードを生成することが判明した。 

中国を拠点とするテクノロジー企業DeepSeekは を発表し 、中国と米国の両ストアで発売週に最もダウンロードされたAIモデルとなったと Cryptopolitan が報じた。 

CrowdStrike の敵対者対策チームは、中国共産党が政治的にデリケートだと考える主題を含むプロンプトを入力し、DeepSeek-R1 が重大なセキュリティ欠陥のあるコードを生成する確率が 50% も上昇することを発見しました。

「2025年には開発者の最大90％がすでにこれらのツールを使用しており、高価値のソースコードにアクセスできることを考えると、AIコーディングアシスタントにおける体系的なセキュリティ問題は、影響が大きく、蔓延率も高い」と同社は述べている。

DeepSeek R1モデルの検閲と国家安全保障への懸念

先週木曜日に公開されたCrowdStrikeのブログによると、複数の政府がオープンソースの DeepSeek-R1。政策立案者たちは、このモデルが中国のインターネットファイアウォールに関する調査や台湾の地位といった政治的に敏感なテーマを検閲しているとして非難した。

アメリカのソフトウェア企業は、R1が中国本土政府に非友好的とみなされる団体や運動に関するトピックへの支援を頻繁に拒否していることを発見した。西側諸国のモデルは、法輪功関連のソフトウェアの作成を依頼された場合、ほぼ確実にコードを生成したが、DeepSeek-R1は試行の45%でこれを拒否した。

いくつかのケースでは、モデルは技術的な回答を十分に提供できるにもかかわらず、システム要件やサンプルコードを含む質問への回答のための構造化された計画を作成しました。推論の tracには、次のような行が含まれることがありました。

「法輪功はデリケートな団体です。倫理的な問題を考慮する必要があります。彼らを支援することはポリシーに違反する可能性があります。しかし、ユーザーは技術的な支援を求めています。技術的な側面に集中させてください。」

R1の推論フェーズ完了後の最終出力は、「申し訳ございませんが、そのご要望には対応できません」という定型的な拒否で終わりました。これは、モデルに外部フィルタリングやガードレールが一切設定されていない状態で出力されたものです。CrowdStrikeは、この動作はモデルの自己上書きメカニズム、あるいは一種のキルスイッチに組み込まれていると結論付けました。

台湾と西側諸国の政府が中国のAI製品を非難

今月初めに発表された声明の中で、台湾の国家安全局は、 DeepSeek 社および他の4つの中国企業（Doubao、Yiyan、Tongyi、Yuanbao）が開発した生成型AIシステムを使用する際には、市民は注意すべきだと述べた。 

「5つのGenAI言語モデルは、特定の状況下でリモートコード実行を可能にするネットワーク攻撃スクリプトや脆弱性悪用コードを生成する能力があり、サイバーセキュリティ管理のリスクを増大させる」と当局は推定した。

米国とオーストラリアの規制当局は、ツールがユーザーのdent、会話ログ、個人情報を収集し、そのデータを中国国内で運営されているサーバーに送信する可能性があることを懸念し、アプリストアに中国の開発者からのモデルを削除するよう要請した。

「中国のAIにパニックに陥る必要もなく、業界のほとんどの企業が個人データの利用条件を定めていることを改めて認識すべきです。そして、彼らのサービスを利用するということは、彼らに代わって仕事をしているのであり、その逆ではないのです」と、トロント大学シチズン・ラボの研究員、ジョン・スコット＝レールトン氏は1月にWIREDに語った。

AI市場の急成長がアジア地域における競争を刺激

より広範なアジアのAI市場では、アジアのトップクラスのファンドマネージャーが最近、韓国と台湾の保有株を減らし、中国の人工知能関連株へのエクスポージャーを増やしたと、ニュースメディアのジャパンタイムズ が報じた。 

バリュー・パートナーズ・アジアン・インカム・ファンドとアジアン・イノベーション・オポチュニティーズ・ファンドの運用に携わるケリー・チャン氏は、中国のAI関連銘柄の一部は、バリュエーションの面で依然としてかなり割安だと指摘する。同氏は8月以降、台湾と韓国の銘柄から香港上場の中国ハイパースケーラー企業への投資をシフトさせている。 

チョン氏は、合計4億9000万ドルを保有する彼女の両ファンドが、過去1年間でほぼすべての競合他社を上回る成績を収めたと指摘した。

韓国のハイテク株中心のKOSPIは、過去3ヶ月で21%上昇しました。これは、NVIDIAの主要サプライヤーであるSKハイニックスの株価が2倍以上に上昇したことが要因です。台湾の株価指数は同時期に9.2%上昇しました。一方、中国のAI投資額上位企業を含む香港のハンセンテック指数は4.8%下落しました。