Anthropic、ペンタゴンのAI保護措置剥奪に関する過酷な最終通告に逆らう

Anthropicは は 米国防総省（DoD）との紛争において、その人工知能（AI）技術の使用方法を巡って譲歩しない方針です。

スタートアップの競合他社であるOpenAI、Google、およびxAIも、昨年国防総省（DoD）から最大2億ドルの契約賞を受賞しました。これらの企業は、DoDが軍の非機密システム内で合法的な目的のために自社のモデルを使用することを許可することに同意しています。

Anthropicは昨年7月、DoDと2億ドルの契約を締結し、機密ネットワーク上のミッションワークフローに自社のモデルを統合した最初のラボとなりました。

しかし、この人工知能スタートアップは、最近の数週間でペンタゴンと緊張した交渉を行ってきました。交渉に精通した関係者は、Claudeが使用されたことがベネズエラのニコラス・マドゥロ大統領の拘束に関する米国の作戦の一部として公に知られる数ヶ月前から、緊張関係が続いていたと語っています。

核心的な争点 過去 監視と自律型 兵器

Anthropicは、そのモデルが完全に自律的な兵器や米国人の大規模な国内監視に使用されないことを保証したいと考えていますが、DoDはそれらの制限なしにモデルを使用できるようにしたいと考えています。

これらの特定のリスクについて、ダリオ・アモダイは声明で次のように述べています：「限られたケースにおいて、AIは民主的価値観を擁護するのではなく、損なう可能性があると考えています。一部の用途は、今日の技術が安全かつ確実に実行できる範囲を超えています。」

監視への懸念について言及し、ダリオ・アモダイは声明で、強力なAIにより「個々には無害な散在するデータを、自動的にかつ大規模に、あらゆる人物の生活の包括的な画像に組み立てることが可能になる」と述べています。

彼は、Anthropicが合法的な外国情報収集のためにAIを使用することを支持している一方で、「これらのシステムを大規模な国内監視に使用することは、民主的価値観と相容れない」と指摘しました。

脅迫、期限、そして言葉の戦争

火曜日にペンタゴンでアモダイと会談した国防長官ピート・ヘグセットは、Anthropicを「サプライチェーンリスク」と指定するか、国防生産法を適用して同社の要求に従わせることを脅迫しました。DoDは水曜日の夜、Anthropicに「最後かつ最終のオファー」を送り、金曜日の午後5時01分までに決定を下すよう同社に期限を設けました。

Anthropicの spokeswomanは次のように述べています：「同社は水曜日の夜に更新された文言を受け取りましたが、それは『ほぼ進歩がない』ことを示しており、『新しい文言は、その妥協を、その保護措置が恣意的に無視できるようにする法的用語と組み合わせていました。』」

これらの圧力に対応し、ダリオ・アモダイは声明で次のように述べています：「国防省は上記のケースで保護措置を撤去し、『あらゆる合法的な使用』に同意するAI企業とのみ契約すると述べています。これらの保護措置を維持する場合、彼らは私たちをシステムから除外すると脅迫しています。また、私たちを『サプライチェーンリスク』と指定すると脅迫しています。いずれにせよ、これらの脅迫は私たちの立場を変えません：私たちは良心に反して彼らの要求に応じることはできません。」

ペンタゴンの首席報道官ショーン・パネルは木曜日に次のように述べています：DoDは、Anthropicのモデルを完全に自律的な兵器に使用したり、米国人の大規模な監視を行ったりする「興味はない」と述べています。彼はこれが違法であると指摘し、同社がそのモデルを「すべての合法的な目的」で使用することを許可することに同意するよう求め、これを「シンプルで常識的な要請」と呼びました。

しかし、米国防副長官EmilMichaelは木曜日の夜、アモダイを個人的に攻撃し、X上でこの経営者が「米軍を個人的にコントロールしたい以上のものを持っていない」と書き込みました。マイケルはさらに、「ダリオ・アモダイが嘘つきであり、神コンプレックスを持っているのは残念です」と付け加えました。

一方、公開書簡において、GoogleとOpenAIの200人以上の労働者がAnthropicの立場を支持しました。ある元DoD関係者はBBCに対し、ヘグセットが「サプライチェーンリスク」という用語を使用するための正当性は「極めて根拠が薄い」と語りました。

紛争にもかかわらず、ダリオ・アモダイは声明で、AIを使用して米国を防衛することの「存在論的重要性」に「深くコミットしている」と述べています。Anthropicの代表者は、「組織は引き続き対話を続け、国防省および米国の戦士たちのための運用継続性にコミットしている」と述べています。