アントロピックCEOは、生物兵器データの安全性テストでディープシークが「最悪」だったと語る

アンスロピックのCEO、ダリオ・アモデイ氏は、DeepSeekのR1モデルに、消費者がチャットボットの利用を再考するきっかけとなる、より危険な脆弱性を発見した。アモデイ氏は、このチャットボットは生物兵器関連の情報を生成する可能性があり、近い将来に危険をもたらす可能性があると主張した。.

インタビューで 、 DeepSeekがAnthropic社の安全性テスト中に生物兵器に関する異例の情報を生成したと述べた。AIスタートアップの性能について語る中で、彼は「これまでテストしたどのモデルよりも最悪だった。（中略）この情報を生成する上で、全く何の障害もなかった」と語った。

アントロピックは、さまざまなAIモデルを定期的にテストし、国家安全保障への潜在的なリスクを評価しています。モデルが、Googleや教科書では容易に入手できない生物兵器に関する情報を生成できるかどうかを検証することで、そのリスクを評価しています。.

さらに、 シスコは DeepSeek R1のハッキングにも成功しました。これは、保護機能によってほとんどの攻撃を防ぐO1などの高度なタイプの製品とは異なります。

しかし、アモデイ氏は、この脆弱性は現時点では脅威ではないと述べた。また、危険性の明確な証拠がない限り、改善を続ける十分な理由があると述べた。彼はエンジニアと同社に対し、AIの安全性に真摯に注意を払うよう促した。DeepSeekは既に イタリアなど一部の国で敵意に直面している。

一方、AWSやMicrosoftといった企業は、自社のクラウドサービスにR1を追加すると発表しました。これを企業にとっての学習の一環であると考える人もいれば、より真剣に受け止める人もいるでしょう。今回の新たな発見に対する反応や反発はまだ見られません。. 

米国のAIがリードする ― ダリオ・アモデイ

アントロピックのCEOによると、「現在、米国には3～5社、中国には1社が存在します。これらの企業が今後も最先端モデルを製造し続けられるかどうかは、どれだけのチップを入手できるか、そして現在よりもはるかに大規模なチップを入手できるかにかかっています。」

低価格技術の基盤として利用していた Nvidia製チップを 。アモデイ氏によれば、「輸出規制は、DeepSeekや他の中国企業が数万個ものチップを入手することを阻止するために設計されたものではなかった」という。  

彼はさらに、「密輸が行われることは当然想定内だ。輸出規制は、より大規模な買収を阻止する上でより効果的だ。100万個程度のチップを保有することはできない。なぜなら、その経済活動は簡単に数百億、1000億に近づくからだ」と付け加えた。

を複数組み合わせて使用​​したと主張しています H100チップ 。約1万個使用しており、それほど大きな影響はないはずです。

中国が自国のdent 、特にファーウェイの半導体から独立するには10年から15年かかるだろうと同氏は述べた。さらに、「例えば新型のNVIDIA B100と競合できる半導体を作るのは実際難しいだろう。（中略）ファーウェイの半導体が近い将来、米国の半導体に匹敵するレベルに達する可能性は低いだろう」と付け加えた。

アモデイ氏は米国の法律について懸念を表明し、AIシステムのリスクを評価し、制限するための取り組みが行われていると説明した。.

これには、例えば生物兵器攻撃における個人による悪用、そしてシステム自体がもたらすリスクといった危険性への懸念が含まれます。昨年、米国ではいくつかの新しい法律が制定されました。これは、DeepSeekの市場が米国で生き残れるかどうかという疑問を提起しています。

さらにアモデイ氏は、米国のAI企業がうまく連携していることを称賛し、これらの企業は皆同じルールに従っていると述べた。OpenAI、Meta、 Google、 xAIはすべて米国の規制を遵守しなければならない。「必要な安全対策を実施していれば、他の企業も同様に実施してくれると確信できる」と彼は語った。

それどころか、彼は「米国と中国の間ではそれは不可能だと思う。我々は一種のホッブズ的な国際無政府状態に陥っている」と述べた。

アモデイ氏は、「米国政府がAIの安全性に関する問題について中国と協議するために代表団を派遣しようとした取り組みについては承知しています。繰り返しますが、私はそれらの代表団には参加していませんが、私の理解では、中国側からの関心はそれほど高くなかったということです」と指摘した。

米議員は政府のデバイスでDeepSeekの使用を禁止したいと考えている

DeepSeekは、セキュリティ上の理由から、新たな禁止措置を受けようとしています。今回は米国政府によるものです。TikTokへの 規制 、米国の超党派グループが、中国のAIアプリDeepSeekが政府のデバイスで使用されないようにするための法案を提案しています。

ニュージャージー州選出の民主党議員ジョシュ・ゴットハイマー氏とイリノイ州選出の共和党議員ダリン・ラフード氏は、「政府機器へのディープシーク禁止法案」を提出した。 

使用することを違法とするものです 中国のAIアプリを 。彼らは、中国政府がこのアプリをスパイ活動や偽情報の拡散に利用する可能性があると指摘しました。

ゴットハイマー氏は、「中国共産党は、国家安全保障を損ない、有害な偽情報を流布し、米国人に関するデータを収集するために、あらゆる手段を講じるつもりであることを明確にしている。（中略）中国共産党が政府関係者のデバイスに侵入し、国家安全保障を危険にさらすリスクを冒すことはできない」と述べた。