トランプ氏が国家安全保障上のリスクを理由に、Anthropic に対するペンタゴンの禁止令を支持

火曜日に提出された裁判所書類において、トランプ政権は、国防総省によるAnthropicのブラックリスト入りが法的に妥当であると主張し、同社の大きな訴訟に異議を唱えました。 

この Claude 開発者は月曜日、2件の連邦訴訟を起こし、AIの安全性を主張したことに対する違法な報復に直面していると主張しました。同社は、国防総省の高官が、自律型兵器化や監視に対する保護を撤廃しないことを理由に同社を罰すためにブラックリストを使用しており、これは第一修正権の侵害にあたると主張しています。

3月3日、ペイトン・ヘグセット国防長官は、国家安全保障上の懸念から、Anthropicをサプライチェーンリスクとして正式に分類しました。

Anthropicは 国家安全保障上の懸念からブラックリスト入りしました

裁判所への提出書類において、トランプ政権は 当時、「国家安全保障上の理由により、原告であるAnthropic PBCの人工知能（AI）技術の利用規約は、行政府にとって受け入れられないものとなりました。Anthropicは、政府が『Anthropicのサービスを使用しない』権利および『他のAIプロバイダーへ移行する』権利を認めています。」

さらに、Anthropicの第一修正権に関する主張は飛躍であり、法的な検討に耐えられないと主張しました。同社は、その行動はAIの安全性に関する見解で同社を罰したいという欲求ではなく、国家安全保障上の懸念のみによって駆動されたと主張しました。

また、同社との交渉の間、Anthropicの全体的な態度により、国防総省にとって適切なパートナーかどうかを再考させられたと主張しました。

提出書類によると、国防総省はAnthropicが国防サプライチェーンに脆弱性をもたらす可能性があると懸念していたと報告されています。政府高官は、同社が技術の使用法を気に入らない場合、紛争の最中にシステムを停止させるかもしれないと懸念していると報告されています。

Anthropicは、政府に自律的な武力行使を委ねることに懸念を示しています

Anthropicが 安全規則 を撤廃しないことについて、交渉は数ヶ月間停滞しています。これらの規則は、AIが大量監視や自動戦闘に使用されるのを防ぎます。このAI企業は、国防総省が求める「あらゆる合法的な使用」を許可することが、同社の核心的な安全原則に反し、Claudeシステムの誤用のリスクを高めると主張しています。

これまで、反戦活動家は、軍に抵抗したAnthropicを英雄として称賛してきました。しかし、共同創設者兼CEOのダリオ・アモダイ氏は最近、このAI企業と政府が広義には同じ目標を共有していることに言及しました。テクノロジー企業Hugging FaceのAI研究者兼首席倫理科学者であるマーガレット・ミッチェル氏は、さらに警告しました。「善玉と悪玉を探している人がいるなら、善玉とは戦争に反対する人のことですが、ここではそれを見つけることはできないでしょう。」

アモダイ氏はまた 次のように述べています「Anthropicは、私たちが持つ違いよりも、国防総省と共通点が多いのです」と述べています。彼はAIによる生物兵器や中国の干渉の危険性について懸念を表明しましたが、同時に、AI企業には独裁主義に対する技術戦争で政府を支援する義務があると信じています。

彼の発言によれば、彼はAIが戦争で使用されることよりも、数人の人間がボタンを押すだけで大規模で無意味な自律型ドローン攻撃を発射する権限を持つことの方が、はるかに恐怖を感じています。

現在、行政府は自律型兵器や国内監視に対して明確な「ノー」を維持しつつバランスを取っていますが、同社はそれ以外では米軍に対して非常に協力的な同盟国です。以前、同社は国防総省向けにAIモデルを変更し、実際にはClaudeを、衛星画像システム、インテリジェンス分析、モデリングおよびシミュレーション、作戦計画を含む、政府の最も安全で機密性の高いネットワークに構築しました。

最近の訴訟で、同社は「Anthropicは、一般市民の顧客に対して課すのと同じ制限を、軍のClaude使用には課していません。Claude Govは、市民文脈で禁止されるようなリクエストを拒否しにくい傾向があります」と指摘しました。