米国政府が主要機関に対し、Anthropic社のMythosモデルの一部へのアクセスを許可する準備を開始したことを受け、Anthropic社のシステム導入が連邦政府レベルで実現に近づいている。.
ブルームバーグは木曜日、この計画が既に進行中であると報じた。しかし、ワシントン内外の当局者らは、このツールが厳密に管理されなければサイバーセキュリティ上のリスクを高める可能性があると懸念している。.
Cryptopolitan 以前、Mythosは特定のグループに限定されており、広範な商業利用ではなく、防御的なサイバー活動を目的としていると報じた。ホワイトハウス行政管理予算局(OMB)の連邦最高情報責任者であるグレゴリー・バルバッチャ氏は、火曜日に閣僚宛ての電子メールで、OMBが各機関がMythosの使用を開始できるよう保護措置を講じていると伝えた。.
伝えられるところによると、メッセージの件名は「Mythosモデルへのアクセス」で、内容は以下の通りだった。
「私たちは、モデル提供者、その他の業界パートナー、そして情報機関と緊密に連携し、モデルの修正版を各機関に提供する前に、適切な安全対策と保護措置が講じられていることを確認しています。」
ホワイトハウスが扉を開き、アントロピック・ミトスが政府機関での利用に向けて動き出す
このメッセージは、財務大臣、中央銀行総裁、規制当局者が国際通貨基金(IMF)と世界銀行の春季会合のためにワシントンに集まっている最中に発せられた。会合では、金融当局の高官らが、米国のハイテク企業による高度なAIが金融機関のサイバー防御の弱点を露呈させ、銀行システム全体に圧力をかける可能性があると警告していた。.
イングランド銀行総裁であり、金融安定理事会の議長でもあるアンドリュー・ベイリー氏は、「これは私たち全員にとって非常に深刻な課題です。AIの世界がいかに急速に変化しているかを改めて認識させられます」と述べた。
アンドリュー氏は続けて、世界中の規制当局は、アントロピック社の「クロード・ミトス・プレビュー」が金融システムにもたらす可能性のあるサイバーリスクを迅速に評価する必要があると述べた。.
IMFのダン・カッツ副専務理事は、「デジタル技術の進化は、サイバーセキュリティの観点から見て、計り知れないリスクをもたらしている。これは今後数ヶ月間の国際社会における喫緊の課題となるだろう」と述べた。
欧州中央銀行dent のクリスティーヌ・ラガルド氏もまた、アントロピックとミトスを例に挙げ、有用なツールが誤った手に渡ると危険なものになり得ると指摘した。.
「AnthropicとMythosの動向は、責任感のある企業が突然『これは本当に良いものになるかもしれない』と考え始めた良い例だが、もしそれが間違った手に渡れば、非常に悪い結果を招く可能性もある。」
世界各国の当局者が規則制定を求める一方、人類はOpus 4.7を制限する
今月初め、Anthropic社がMythos社から「主要なオペレーティングシステムやウェブブラウザすべてに存在するものを含む、数千件の深刻な脆弱性」を発見したと発表したことを受け、一部の当局者は国際的な連携対応を求めた。
アントロピック社はまた、こうした能力が急速に拡散し、安全な手に留まらない可能性があると警告した。同社は、「こうした能力が、安全な運用に尽力する主体を超えて、あっという間に広まるだろう」と述べ、「経済、公共の安全、国家安全保障への影響は深刻なものになる可能性がある」と付け加えた。
クリスティン氏は後に記者団に対し、当局は活動できる枠組みを求めているものの、真の意味での統治システムはまだ整っていないと語った。彼女は「誰もが活動できる枠組みを求めている。しかし、そうした事柄を実際に管理することを目的とした統治の枠組みはまだ存在しないと思う。それについては今後取り組む必要がある」と述べた。
アントロピック社の英国、アイルランド、北欧担当責任者であるピップ・ホワイト氏は、このモデルに関するニュースが報じられた後、経営幹部からの関心が急速に高まったと述べた。インタビューの中でホワイト氏は、「この製品がどれほど強力なものになり得るかを知っているからこそ、私たちは独自の安全対策と制限を設けているのです」と語った。
木曜日、Anthropic社はソフトウェアエンジニアリング業務の性能向上を目指して開発された新モデル「Opus 4.7」も発表した。同社によると、Opus 4.7は従来、より綿密な監視が必要だったコーディング作業の一部を処理でき、旧モデルよりも指示に従う能力が高く、高解像度画像を検査して複雑な図表や画像内の細部まで捉えることができるという。.
それでも、Anthropic社は、Opus 4.7はサイバー空間での運用を含め、Mythosよりも能力が劣ると述べている。同社は、訓練中にモデルのサイバー能力を「段階的に低下させる」方法をテストしたと述べている。.
出典:Pexels