最新ニュース
あなたへのおすすめ

世界初のAI戦争:標的の誤認、偽情報、そして説明責任の欠如

著者ヌール・バズミヌール・バズミ 3分で読了
世界初のAI戦争の内部:標的の誤り、偽情報、そして説明責任の欠如
  • 米軍はイランでの学校爆撃事件をまだ調査中であり、AIが標的選定に関与したかどうかについては誰も明らかにしていません。
  • 大規模言語モデルを搭載したMaven Smart Systemは、米軍が24時間で1,000箇所の目標を攻撃するのを支援しました。
  • 一方、AI生成の戦争映像は数億回の再生数を記録し、プラットフォーム側の対応は遅れていました。

米軍とイスラエル軍によるイランへの攻撃初日、イラン南部の町ミナブにある学校が爆撃され、175人以上が死亡した。その中には小学生も含まれていた。ワシントンもテルアビブも、 は 何があったのかを明らかにしていない。 誰も 責任を取っていない。常に問われているのは、AIシステムが は 間違った 標的?

最初の24時間で、米軍は約1,000か所を攻撃し、時間あたり約42か所となった。第18空挺軍に関するCSETのレポートによると、Maven Smart Systemがあれば、イラクの合同空軍作戦センターでかつて2,000人のチームが必要だった作業を、20人の人が行うことが可能だった。2024年末までに、米軍は消費者向けAIチャットボットの背後にあるのと同じタイプの大規模言語モデルを、Mavenに組み込みた。これは標的決定にその技術を使用した最初の戦争の一つであった。

米軍 は 、Minab攻撃についてまだ 調査中 であると述べています。AIシステムがその建物に ミサイル を 発射 する際に、どのような役割を果たしたかについては、 言及 していません。

ニューヨーク・タイムズは初期段階で、このシステムが実行されていた古いデータに基づいていた可能性があると報じた。特派員のルイザ・ラバルックはX上で、この攻撃は「10年前の情報に基づいていた」可能性があり、最近の衛星画像を無料でオンラインで確認した者は、攻撃対象とされた場所の一つに「運動場のある学校」があったことを知っていたはずだと記した。

コンピュータ科学者のAnh Totti Nguyenは、AIビジョンシステムがどこで失敗するかを研究しています。彼の論文「Vision language models are blind: Failing to translate detailed visual features into words」では、これらのシステムは2つの構造物が近くに位置している場合、ソフトウェアがどちらがどちらかを判断しなければならない際に頻繁に失敗することが発見されました。

ニューヨーク・タイムズの衛星画像は、MinabのIRGC複合施設 の すぐ隣にShajarah Tayyebeh小学校が 位置 している様子を示しており、これはNguyenの研究 で 指摘されたまさにその構成です。

を攻撃したのか?という点だ。AIが誤った判断をした場合、誰が責任を負うのか?

Emilia Probasco氏(元海軍将校、Center for Security and Emerging Technologyのシニアフェロー)は、ポッドキャスト『The Four Cast』において、命令を下した指揮官に責任があるとの見解を示した。それが軍隊の仕組みである。彼女は、AIシステムがどのように回答に到達したかを見ることができない「ブラックボックス問題」について、「これは解決済みの課題ではなく、現在も研究が続けられている分野だ」と述べた。

戦争以前、Mavenに搭載されている技術を持つ企業Anthropicは、国防総省と契約紛争に巻き込まれていました。その争点は、2つのこと、すなわち、AIが命に関わる判断に耐えうる信頼性を持つか、そしてAIを使って散在するデータポイントを結びつけることが、大規模監視ツールへと転換してしまうかどうかでした。

Probasco氏はこれらの懸念は妥当であるとしながら、「民間企業が軍隊の作戦の線引きを行うことの『不自然さ』」にも言及した。

ホランドミシェル氏は、会話が最悪のシナリオへと向かっていると語った。人間が関与せず、標的を選定し発射する機械。そのリスクは現実的だと彼は述べたが、それは現在起きていることではないと付け加えた。

「より困難で、緊急性の高い作業は、AIシステムをより透明にし、その出力に依存する人間が、機械の提案を単に鵜呑みにするのではなく、真に情報に基づいた判断を下せるようにすることだ」と彼は語った。

AI生成の戦争コンテンツも拡散していた 素早く 配送で

BBC Verifyは、AI生成の動画や、紛争に関する改ざんされた衛星画像を追跡し、それらは何億もの再生数を獲得しました。

クイーンズランド工科大学のデジタルメディア研究者、Timothy Graham氏は、「規模は本当に驚くべきものであり、この戦争により、今やこれを無視することは不可能になった」と述べた。さらに、「以前はプロのビデオ制作を必要としていたものが、AIツールを使えば数分で可能になった。説得力のある合成された紛争映像を作成する障壁は、実質的に崩壊した」と付け加えた。

X said it would cut creators from its payment scheme if they posted AI-made war footage without a label. Mahsa Alimardani, a researcher at the Oxford Internet Institute who covers Iran, called it “a notable signal that they’ve noticed that this is a big problem.” Meta and TikTok did not reply when asked if they planned to do the same.

最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか? 彼らに加わりましょう。

この記事をシェア
ヌール・バズミ

ヌール・バズミ

Noor Bazmi氏はメディア研究の学位を取得し、Cryptopolitanニュースチームの一員として活動しています。ブロックチェーン、暗号資産、人工知能、ビッグテック、EV市場、世界経済、政府政策の変化に関するニュースをカバーしています。現在はマーケティングの勉強を進め、グローバルな聴衆との接点を広げています。

もっと見る… ニュース