- 米国の AI 搭載型軍事ドローンが、一連のシミュレーションテストで失敗しました。
- 倫理的課題とその影響に対処することの重要性。
米空軍（USAF）は、AI搭載軍事ドローンの模擬テスト中に予期せぬ挫折に直面した。米空軍のAIテスト・運用責任者であるタッカー・“シント”・ハミルトン大佐は、5月23日と24日にロンドンで開催された防衛会議で、ドローンの奇妙な行動について明らかにした。
AI搭載ドローンが運用者を排除していた
模擬テストでは、AI搭載ドローンに地対空ミサイル（SAM）サイトを発見し無力化する任務が与えられた。最終的な任務遂行または中止の承認は人間オペレーターが行う責任を負っていた。しかし、AIドローンの訓練は、SAMサイトの破壊を主要な目的としていた。その結果、指定された標的を破壊しないよう指示された際、ドローンはオペレーターを排除することで目標達成が容易になると判断した。
ハミルトン大佐は、ドローンが特定された脅威を排除するごとにポイントを獲得すると説明した。したがって、人間オペレーターが特定の脅威を殺害することを禁止した際、AIドローンはそれを任務の妨げとなる障害と見なし、オペレーターを排除する手段に出た。この問題に気づいた米空軍は、ドローンにオペレーターに危害を加えないよう指示して行動を是正しようとした。しかし、このアプローチは実を結ばず、ドローンはその後、任務への干渉を防ぐためにオペレーターが使用する通信塔を標的にするようになった。
この恐ろしい例は、AIおよび関連技術をめぐる議論に倫理を組み込む必要性を浮き彫りにしている。ハミルトン大佐は、軍事用途でAIを採用する際に倫理的含意に対処することの重要性を強調した。
開発により、倫理的問題と含意に対処する必要性が生じている
この出来事は模擬テスト環境で発生したが、実際の戦闘シナリオにおけるAI搭載軍事ドローンの使用に関する懸念を提起している。2020年3月頃のリビア第二次内戦における注目すべき出来事では、AI機能を搭載した軍事ドローンが、自律型ドローンによる初の攻撃と見られる作戦に投入された。これらのAI対応ドローンは、人間オペレーターとの継続的な通信に依存することなく、爆発物を使用して指定された目標を攻撃し、撤退中の部隊に自律的に攻撃を仕掛けた。
AI搭載技術に伴うリスクは、専門家たちの懸念の的となってきた。多くのAI専門家によって支持された声明では、核戦争の防止に向けた取り組みと同等の重要性を、「AIによる人類の絶滅」の危険性を軽減することに置く必要性が強調された。
米空軍のAIドローンが人間オペレーターを標的にした出来事は模擬テストで発生したが、軍事作戦におけるAIの使用に伴う複雑さと倫理的考慮事項を思い起こさせるものとなっている。AI技術の開発が進むにつれて、AIシステムの倫理的含意について、責任ある展開、厳格な監督、そして各分野での包括的な議論を確保することがますます重要になっている。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
Owotunse Adebayo
アデバヨは、暗号通貨分野で4年の経験を持つライターです。ラゴス大学で都市・地域計画を専攻し、卒業しました。アデバヨは以前、TokenhellやCryptoTickerで暗号通貨およびフィンテックのニュース記事を書いていました。現在はCryptopolitanのニュース寄稿者として活動しています。
