キラーアルゴリズムが国際法を凌駕したときに何が起こるか

人工知能アルゴリズムの無分別な使用は、私たちの想像を超えた負の影響を人類にもたらす可能性があります。過去2年でAIが大幅に進歩したにもかかわらず、キラーアルゴリズムの負の影響を防ぐための世界的な規制はまだ整備されていません。 

多くの国が、標的の認識や火力の高速化のために軍事システムに人工知能を組み込んでいますが、その無分別な使用は壊滅的な結果を招きます。また、AIの負の影響は、ディシンフォメーションを通じて誤った主張で世論を操作しようとし、民主的なプロセスを混乱させることでも明確に現れています。

無辜の命を奪うキラーアルゴリズム

私たちは最近、多くの国々による軍事システムへのAI統合の発表、そしてドローンからレーダーシステム、さらには人間標的の認識のための監視システムに至るまで、AI強化型照準および火力システムの開発を推進する多数の軍事請負業者の動きを目の当たりにしています。 

最も無分別な展開は、キラーアルゴリズムによって標的リストを生成し、ガザの住民を対象としたイスラエルによるものでした。これらのアルゴリズムはしばしば誤っていたり、犯罪的な過失によって展開されたりしており、1人の「潜在的な個人」を主要な標的とするだけで、数十人、数百人の無辜の民間人が殺害されました。ガザの民間人にもたらされた混乱、特に数千人の子供や女性が殺害された状況を想像してみてください。ある関係者は、機械が冷徹にそれを行ったと述べています。本当にそうでしょうか？民間人を冷血に殺害することは、キラーアルゴリズムがどれほど残酷になり得るかという現実そのものです。

イスラエルの出版物『+972 Magazine』による最近の調査では、イスラエル軍が空爆にAIを使用することに関する驚くべき事実が発見されました。ラベンダー（Lavender）として知られるシステムは、数千人の疑わしい過激派のリストを生成するために使用され、ゴスペル（Gospel）として知られる別のシステムは、建物やインフラを標的として選択するために使用されました。使用された戦略は、ハマス関係者が民間人の住む近隣の家の中にいた場合でも、彼らを標的とすることで、その過程で数百人の民間人を殺害しました。 

報告書には、情報源の安全のために名前が伏せられた6人のイスラエル情報筋へのインタビューが含まれています。情報筋は、ラベンダーや他のAIシステムを使用して標的を選択したと主張しました。また、これらのシステムの使用における規制の緩さや、民間人の殺害または殺害を許容することについて、ハマスの上級から下級までの関係者それぞれについて2桁から3桁の数字で推定したことも議論されました。 

しかし、実際の数字は、すでに世界中の現代戦争の出来事と比較して最高であったこれらの許容される推定値を大幅に超えているようです。戦争開始から最初の3ヶ月間に殺害された子供の数も、世界中の戦争で殺害された子供の数を超えました。彼らを思うだけで胸が痛みます。

世界的な規制の欠如

キラーAIアルゴリズムが戦争で人々を殺しているにもかかわらず、この脅威を止めるための取り組みが世界的な指導者層から十分に行われているようには見えません。人々を殺し、民間人の基本的な人権を奪うために重要なインフラを破壊することは明確な戦争犯罪であるにもかかわらず、戦争におけるAIの使用に関する一連の世界的な規制はありません。 

私たちが目撃しているのは、世界的な指導者たちのお飾りの支持に続き、AIに基づくキラーアルゴリズムと組み合わせて使用される可能性のある米国からの兵器供与です。唯一の法的措置は、南アフリカが国際司法裁判所にイスラエルに対する戦争犯罪で提訴したものでした。

世界中の軍隊が artificial intelligence を活用しようとしており、多くの国がこれらのシステムを展開して軍事優位性を得ようとしています。地政学的緊張もこれらの進歩に火をつけており、米国から中国に至るまで、すべての国が標的選択と意思決定のためのAIシステムの開発を急いでいます。

これまで、人工知能の展開によるより高い精度と少ない民間被害が主張されてきましたが、現場の現実はその主張と矛盾しており、キラーアルゴリズムの危険性は精度に関する主張を遥かに超えています。これは、AIを世界的なレベルで規制するための強力な取り組みを求めています。

+972 Magazine のレポートは here で見つかります。