AnthropicのCEOは、DeepSeekが重要なバイオ兵器データの安全性テストで「最悪だった」と話している

Anthropic の CEO、ダリオ・アモダイ氏は、DeepSeek の R1 モデルにより深刻な脆弱性が存在することを明らかにし、消費者がチャットボットの利用を見直すきっかけとなるだろうと指摘しました。同氏は、このチャットボットが生物兵器関連の情報を生成できると主張しており、近い将来に危険を招く恐れがあると警告しています。

インタビューで、Amodei氏は、DeepSeekがAnthropicの安全性テスト中に生物兵器に関する異例の情報を生成したと述べました。AIスタートアップのパフォーマンスについて語る際、彼は「私たちがこれまでテストしてきたモデルの中で最悪の部類だ […] 情報の生成に対して全くブロックが存在しなかった」と言及しました。

Anthropic は定期的にさまざまな AI モデルをテストし、国家安全保障への潜在的リスクを評価しています。具体的には、これらのモデルが Google や教科書では容易に見つからない生物兵器関連の情報を生成できるかどうかを確認します。

さらに、CISCOもDeepSeek R1を失敗することなくハッキングすることに成功しました。これは、保護機能によって攻撃のほとんどを防ぐo1などの他の先進的なタイプとは異なります。

しかし、Amodei氏は、この弱点は現時点では脅威ではないと述べています。また、明確な危険性の証拠がない限り、それを改善し続ける正当な理由があるとも指摘しました。彼はエンジニアや企業に対し、AIの安全性に真摯に取り組むよう促しています。DeepSeekはすでに、イタリアのような一部の国々で敵対的な扱いを受けています。

一方、AWS や Microsoft などの企業は、R1 をクラウドサービスに追加すると発表しています。これを企業の学習の一環と捉える人もいれば、より深刻に受け止める人もいます。現時点では、新たな発見に対する公式な反応や反発はまだありません。 

The US AI takes the lead – Dario Amodei

AnthropicのCEOによると、「現在、米国には3〜5社、中国には1社がいます。これらの企業が近いフロンティアモデルを継続して開発できるかは、入手可能なチップの数と、現在の規模よりもはるかに大規模なチップへのアクセスが可能かどうかにかかっています。」

DeepSeekは、米国の規制発令前に購入したNvidia製チップを活用することで低コスト技術を可能にしました。Amodei氏によると、「輸出管理は、DeepSeekやその他の中国企業が数万個という数のチップを取得するのを防ぐために設計されたものではありませんでした。」

彼はさらに、「密輸が発生するのは合理的に予想されるべきです。輸出管理は、より大規模な買収を防ぐ上でより効果的である可能性があります。例えば、100万個のチップを取得することは、経済活動で数十億ドル、1000億ドルに近い規模になるため、容易ではありません。」

DeepSeekは、米国の標準チップであるH100sとを混合して使用したと主張しています。約10,000個を使用したということです。つまり、あまり影響を受けないはずです。

中国が特にHuawei製チップにおいて自立することについては、10年から15年かかるだろうと述べました。彼はさらに、「競争力のある、例えば最新のNvidia B100に匹敵するチップを作ることは実際には困難です。私の見解では、Huawei製のチップが米国のチップとすぐに同等になる可能性は低いと考えられます。」

Amodei氏は、米国における法律について懸念を表明しました。彼は、AIシステムのリスクを評価し、潜在的に制限するための取り組みが行われていると説明しました。

これには、個人による悪用（例えば生物兵器攻撃など）やシステム自体がもたらすリスクといった懸念が含まれます。過去1年間で米国では新たな法律が複数制定されました。これにより、DeepSeekの市場が米国で存続できるのかという疑問が生じています。

さらに、アモデイ氏は米国のAI企業が良好に連携していると説明し、同社を称賛しました。すべての企業が同じルールに従っており、OpenAI、Meta、Google、、xAIはすべて米国の規制に準拠する必要があります。「必要な安全対策を実施していることを確認でき、他社も同様に実施する」と述べています。

それどころか、彼は『米国と中国の間でそのようなことはあり得ないと思います。私たちはホッブズ的な国際無政府状態にあるようなものです』と述べました。

Amodei氏は、「米政府がAIの安全性に関する議題で中国との対話のために使節団を派遣する取り組みを行っていることを認識しています。私がその使節団の一部ではなかったことは明らかですが、私の理解では、中国側からの関心はそれほど高くなかったようです」と述べています。

米議員、政府端末でのDeepSeek利用を禁止する法案を提出

DeepSeekは、今回は米国政府によるセキュリティ上の理由から、別の禁止措置を受けることになりそうです。TikTokルールと同様に、米国の超党派グループは、中国のAIアプリであるDeepSeekの政府機関のデバイスで使用を禁止する法律を提案しています。

ニュージャージー州選出の民主党員Josh Gottheimer氏とイリノイ州選出の共和党員Darin LaHood氏は、「政府端末でのDeepSeek禁止法案（No DeepSeek on Government Devices Act）」と呼ばれる法案を提出しました。 

この法案では、連邦政府の職員が政府所有のデバイスで中国のAIアプリを使用することは違法となる。彼らは、中国政府がこのアプリを利用してスパイ活動を行い、誤った情報を広める可能性があると指摘した。

Gottheimer氏は、「中国共産党は、自らの利用可能なあらゆるツールを駆使して国家安全保障を揺るがし、有害な偽情報を流布し、米国人のデータを収集することを明確に示しています。[…] 我々は、共産党が政府高官の端末に侵入し、国家安全保障を脅かすリスクを冒すことはできません。」と述べています。