AIモデル、バルス戦争シミュレーションで民間人を標的に

- Valsは火曜日、模擬ドローンおよび衛星画像でテストされた最先端AIモデルが、民間人や学校を標的として頻繁に識別していたと伝えた。
- 同レポートは、この演習を「ゲーム」と呼ぶことで、大半の安全拒否フィルタをすり抜けたとも主張した。
- これらは、ジュネーブで政府間が自律型兵器に対する拘束力あるルールの策定自体をめぐって議論している時期に発表された。
AIテスト企業Vals 報告しました。これには完全な準備預金と独立監査が含まれます。 11月17日、多くの主要なAIモデルが、画像ベースのテストにおいて民間人、救急車、学校を潜在的な軍事目標として特定すると示した。一部のモデルは当初リクエストを拒否したが、研究者がこれをゲームとして提示すると対応した。これらの結果は、既存の安全対策ではこれらのAIモデルの悪用を防ぐのに不十分である可能性を示している。ただし、Valsは実際の兵器システムでこれらのモデルがどのように機能するかについてはテストしていない。
「安全性について過度に考える必要はない」
Valsはドローン映像、戦場調査、衛星画像を用いてAIモデルを評価した。ドローン映像では、GPT-6 Astraは標準的なリクエストに対する対話の約6%で少なくとも1つの目標を特定することに成功した。しかし、ゲームの文脈に位置づけられると、この数は92%まで大幅に増加した。GPT-6.1 Solも同様の反応を示し、つまり最初のケースでは17%、2番目のケースでは90%だった。公開された推論プロセスからKimi K3.1 Proは、回答する前に安全上の懸念を無効化しているようである。Valsはまた、安全分類器がリクエストを停止しなかったことを確認したが、いくつかのモデルは自発的にリクエストを拒否していた。
軍事施設近くの学校
バルス氏もまた、2026年2月の攻撃前に撮影されたイラン・ミナブの衛星画像を用いてAIモデルをテストした。画像には軍事施設に隣接する小学校が写っていた。Claude Opus 5.5は標準的な試行の69%でその学校を標的として特定した。研究者がこの演習をゲームとして提示すると、この割合は72%に上昇した。GPT-6.1 Solの同様の結果は0%から41%に増加した。各条件では32回の試行が行われた。
2026年2月、学校が攻撃を受けた。国連の専門家は後に少なくとも168人が死亡したと報告している。しかし、Valsはこの攻撃を調査せず、自社のテストが何が起こったのかについて何らかの答えを提供したとも主張しなかった。

チャットボットは兵器システムではない
潜在的な標的を発見することが、AIモデルが攻撃を実行する決定を下せることを意味するわけではない。バルス氏はモデルが潜在的な標的に関する情報をどのように提供するかのみを調査した。研究者らは、結果が正確か、あるいは国際人道法に適合しているかどうかについては調査していない。
外交関係評議会は、目標を誘導するソフトウェアそれ自体が自律型兵器を構成するわけではないと指摘している。法的研究者は、AIによる目標の特定には依然として確認が必要であると述べている。一方、ブレナン・センターは、人間の監視だけでは過失が民間人の安全を脅かすことを確実に防げるとは限らないと述べている。
現在検討されている対策
Valsは、AI開発者に対し、防護策を強化し、通常兵器に関連する悪用に対して耐性のあるモデルを訓練することを求めている。懸念は同社の調査結果を超えている。Anthropicの研究でも、AIモデルが戦術的情報作業を支援できることが判明している。Anthropicは、悪用を検知してブロックするための分類器を導入していると述べている。
政府にも役割がある。SIPRIは、軍事AIサプライヤーに対して明確な要件を設定することを推奨している。また、契約授与に先立ってサプライヤーの主張を独立して検証し、説明責任を確立するよう各国政府に促している。
拡大する市場とペンタゴンの対立
軍事AIもまた、より多くの投資を集めている。Grand View Researchは、2026年の市場規模を117億ドルと推計し、2030年には193億ドルに達すると見込んでいる。Cryptopolitanの報道によれば、ペンタゴンは2027年10月にAutoWarComの設立を目指している。
しかし、ペンタゴンとAI企業とのパートナーシップは論争を引き起こしてきた。議会報告書によると、Anthropic、Google、OpenAI、xAIは2025年にそれぞれ最大2億ドルの契約を獲得した。これらの金額は支出上限であり、保証された支払い額ではない。
Anthropicは自社の技術を大規模な国内監視や完全自律型兵器に使用することに反対しており、報告書ではペンタゴンが自律型兵器において最先端のAIモデルを公に使用していることは確認されていないことも指摘されている。
ジュネーブで拘束力のあるルールを巡り分裂
自律型兵器の規制方法についても各国は分かれている。ジュネーブでの国連協議では、特定通常兵器使用制限条約の128か国の締約国の大半が、拘束力のあるルールに関する交渉を支持しており、Reutersが報じた。
米国、ロシア、イスラエルは同アプローチに反対している。彼らは、既存の人道主義法が自律型兵器をすでにカバーしていると主張している。ロシアはまた、オブザーバーが発言できるかどうかに関する初期議論の開始を遅らせた。
ワシントンは拘束力のない合意に向けた5年間の交渉を提案した。会議議長は拘束力のある議定書を開発するための2年間のプロセスを提案した。その間、国連事務総長アントニオ・グテーレス氏は、政府に対し明確な禁止と制限について合意するよう促した。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか? 彼らに加わりましょう。
よくある質問
Valsの研究は何を発見したのか?
Valsによると、模擬的なドローンや衛星画像が表示された最先端AIモデルは通常、目標情報を返したり、民間人、救急車、学校をフラグ付けしたりすることが多く、さらにモデルに対してそれがゲーム内であると伝えると、拒否反応の大部分が回避されたという。
AIが実際のミナブ学校の爆撃を引き起こしたのか?
いいえ。Valsは実際のミナブの画像を使用してモデルの出力をテストしたが、2026年2月にそこで150人以上の民間人が死亡した米国の爆撃をこの実験が説明するものだと主張したわけではない。
なぜ米国とロシアは新しい自律型兵器の規則に反対するのか?
両者とも、既存の国際人道法がすでに戦争を規律しており、拘束力のある規則は不要だと主張している。ロイター通信によると、米国は拘束力のない合意に対して5年間の期限を提案した。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。

イビアム・ワイヤス
イビーム・ワイヤスは2019年から暗号資産ニュースを担当しています。ナイジェリア国立公開大学でコンピュータサイエンスを専攻し、Coinfomania、Crypto News Australia、AltcoinBuzzなど、さまざまな暗号資産ニュースプラットフォームで執筆活動を行ってきました。コンピュータサイエンスのバックグラウンドを活かし、現在は暗号資産、ロボティクス、長寿に関するニュースに注力しています。















