世界初のAI戦争の内幕：標的設定の誤り、偽情報、そして責任の所在の不明確さ

イラン南部のミナブ市で、米イスラエルによるイランへの空爆初日に学校が爆撃された。児童を含む175人以上が死亡した。ワシントンもテルアビブも 説明して 何が起きたのか 誰も 責任を取っていない。一つの疑問が繰り返し浮上している。AIシステムが 攻撃したの 誤って 標的を？

最初の24時間で、米軍は約1,000か所を攻撃し、 約 1時間あたりMaven20人で 実行 だったことを 必要 。2024年末までに、米国は を組み込ん 、消費者向けAIチャットボットの背後にあるのと同じタイプのソフトウェアである大規模言語モデル Mavenにた最初の戦争の1つだった 使用し 。

米軍は と述べている 現在も 調査中 ミナブへの攻撃 については明らかに システムが を果たした ミサイル発射 に 。

ニューヨーク・タイムズは早い段階で、このシステムが 稼働し に基づいて 古い データdent ルイザ・ラヴラックはX紙に、今回の攻撃は「 情報 10年前のオンラインでば、攻撃対象地の1つに「運動場のある学校」があったことが分かると書いた。

コンピュータ科学者のアン・トッティ・グエン氏は、AIビジョンシステムがどこで誤動作するのかを研究してきた。彼の 論文 「ビジョン言語モデルは盲目：詳細な視覚的特徴を言葉に変換できない」では、2つの構造物が近接している場合、ソフトウェアがどちらがどちらであるかを判断しなければならないため、これらのシステムがしばしば誤動作することを発見した。

ニューヨーク・タイムズの衛星画像には、ミナブにあるシャジャラ・タイエベ小学校が 位置していること 配置と全く で指摘されていた。

元海軍士官で、安全保障・新興技術センターの上級研究員であるエミリア・プロバスコ氏は、ポッドキャスト番組「ザ・フォー・キャスト」で、 責任 は命令を下した指揮官にあると述べた。 それ が軍隊の 仕組みという。彼女は、AIシステムがどのように答えに至ったのかが分からないブラックボックス問題は、「解決済みの問題ではなく、現在も研究が続けられている分野だ」と語った。

戦争前、 に搭載されている メイブン を抱えていた 契約 上trac国防総省と について 点 AIが生死に関わる 通報に十分な信頼性を備えているかどうか、 もう1つは、AIを使って散在するデータポイントを結びつけることが、大規模な監視ツールになってしまうのではないか、という点である。

プロバスコ氏 と述べた上 どちらの懸念 、 で と指摘した 「民間企業が軍の 作戦。

ホランド・ ミシェル氏 述べた 議論が へと 最悪のシナリオ 。 機械の 選ん 標的を ずに 人間 が関与せ彼 その リスクは現実のものだが、 は語った そうではない、と 現状は。

「 より困難で喫緊の 課題 、 は AIシステムをより透明性の高いものにし、AIの出力結果に頼る人間が、機械の提案にただ従うのではなく、真に情報に基づいた意思決定を行えるようにすることだ」と彼は述べた。

AIが生成した戦争関連コンテンツも 急速に オンラインで

BBC Verifyは、 trac拡散され AIが作成した 動画や改ざんされた衛星画像が紛争に関して を記録した 数億回の再生回数

クイーンズランド工科大学のデジタルメディア研究者であるティモシー・グラハム氏は、 「その 規模は実に 憂慮すべきもの 、今回の戦争によってもはや無視することは不可能になった 。と付け加え 「 はプロの映像制作が必要だったものが、今ではAIツールを使えば数分でできる。説得力のある合成紛争映像を作成する上での障壁は、事実上 崩壊した」

Xは 発表 外すと した 投稿したクリエイターを報酬支払いの対象から 、AIが作成した戦争映像を ラベルなしで 「 彼らがこれが大きな 問題」と評した。MetaとTikTokは、 回答 予定があるかとの質問に対し、 同様の措置を取る。