世界初のAI戦争の内幕：標的設定の誤り、偽情報、そして責任の所在の不明確さ

イラン南部のミナブ市で、米イスラエルによるイランへの空爆初日に学校が爆撃された。児童を含む175人以上が死亡した。ワシントンもテルアビブも何が起きたのか 説明しておらず、誰も責任を取っていない。一つの疑問が繰り返し浮上している。AIシステムが誤って 標的を 攻撃したのではないか？

最初の24時間で、米軍は約1,000か所を攻撃し、 1時間あたり 約42か所を攻撃した。第18空挺軍団に関するCSETの報告書によると、 Mavenスマートシステムを使えば、イラクの統合航空作戦センターで2,000人のチームが 必要だったことを20人で 実行できるようになった。2024年末までに、米国は Mavenに、消費者向けAIチャットボットの背後にあるのと同じタイプのソフトウェアである大規模言語モデル を組み込んだ。これは、その技術を標的設定に 使用した最初の戦争の1つだった。

米軍はミナブへの攻撃について現在も 調査中だ と述べている。AIシステムがミサイル発射 に何らかの役割 を果たしたかどうか については明らかにしていない。

ニューヨーク・タイムズは早い段階で、このシステムが 古いデータdent ルイザ・ラヴラックはX紙に、今回の攻撃は「に基づいて 稼働していた可能性があると報じた。海外特派 10年前の 情報に基づいていた」可能性があり、最近の衛星画像をオンラインで無料で確認すれば、攻撃対象地の1つに「運動場のある学校」があったことが分かると書いた。

コンピュータ科学者のアン・トッティ・グエン氏は、AIビジョンシステムがどこで誤動作するのかを研究してきた。彼の 論文 「ビジョン言語モデルは盲目：詳細な視覚的特徴を言葉に変換できない」では、2つの構造物が近接している場合、ソフトウェアがどちらがどちらであるかを判断しなければならないため、これらのシステムがしばしば誤動作することを発見した。

ニューヨーク・タイムズの衛星画像には、ミナブにあるシャジャラ・タイエベ小学校がイラン革命防衛隊の施設のすぐ隣に 位置していることが写っており、これはグエン氏の研究 で指摘されていた配置と全く同じである。

元海軍士官で、安全保障・新興技術センターの上級研究員であるエミリア・プロバスコ氏は、ポッドキャスト番組「ザ・フォー・キャスト」で、 責任 は命令を下した指揮官にあると述べた。 それ が軍隊の 仕組みという。彼女は、AIシステムがどのように答えに至ったのかが分からないブラックボックス問題は、「解決済みの問題ではなく、現在も研究が続けられている分野だ」と語った。

戦争前、メイブン に搭載されている技術を開発したアントロピック社は、上trac国防総省と2つの 点について契約紛争を抱えていた。1つは、 AIが生死に関わる 通報に十分な信頼性を備えているかどうか、もう1つは、AIを使って散在するデータポイントを結びつけることが、大規模な監視ツールになってしまうのではないか、という点である。

プロバスコ氏は、どちらの懸念ももっともだ と述べた上で 、 「民間企業が軍の 作戦遂行方法に線引きをするのは、いささか不自然だ」 と指摘した。

ホランド・ミシェル氏は、議論が最悪のシナリオ、つまり人間 が関与せ ずに標的を 選んで発砲する機械のシナリオ へと向かっていると 述べた 。そのリスクは現実のものだが、 現状はそうではない、と彼 は語った。

「より困難で喫緊の 課題 は、 AIシステムをより透明性の高いものにし、AIの出力結果に頼る人間が、機械の提案にただ従うのではなく、真に情報に基づいた意思決定を行えるようにすることだ」と彼は述べた。

AIが生成した戦争関連コンテンツもオンラインで 急速に拡散していた。

BBC Verifyは、 trac拡散され AIが作成した動画や改ざんされた衛星画像が紛争に関して、数億回の再生回数 を記録したことを。

クイーンズランド工科大学のデジタルメディア研究者であるティモシー・グラハム氏は、 「その規模は実に 憂慮すべきものであり、今回の戦争によってもはや無視することは不可能になった」と述べた 。さらに、 「かつてはプロの映像制作が必要だったものが、今ではAIツールを使えば数分でできる。説得力のある合成紛争映像を作成する上での障壁は、事実上 崩壊した」と付け加えた。

Xは、AIが作成した戦争映像をラベルなしで投稿したクリエイターを報酬支払いの対象から外すと 発表 した。イランを担当するオックスフォード・インターネット研究所の研究員、マフサ・アリマルダニ氏は、これを 「彼らがこれが大きな 問題だと認識したことを示す注目すべき兆候だ」と評した。MetaとTikTokは、 同様の措置を取る予定があるかとの質問に対し、 回答しなかった。