政府のAIを活用したソーシャルメディア監視への懸念

近年、政府の運営の様々な側面における人工知能（AI）の使用はより一般的になっています。しかし、それはプライバシー、説明責任、公平性に関する重要な議論を巻き起こしています。米国移民税関執行局（ICE）がビザ申請者のソーシャルメディア活動を監視するためにAIを使用しているという最近の暴露は、誰を「リスク」と見なすかを決定するアルゴリズムの役割について新たな議論に火をつけました。 

AI搭載ツール：ジャイアントオーク・サーチ・テクノロジー（GOST）

情報公開法（FOIA）に基づく行動で入手された文書によると、ICEは2014年からジャイアントオーク・サーチ・テクノロジー（GOST）というAI搭載ツールを利用してきました。GOSTは、ビザ申請者のソーシャルメディア投稿をスキャンし、1から100の「ソーシャルメディアスコア」を割り当てるように設計されています。このスコアは、投稿が米国に対して「否定的」であるかどうかに基づいて決定されます。申請者のスコアに懸念が生じた場合、ICEの分析官はフラグ付きの画像やプロフィールをレビューし、潜在的なリスクがあるかどうかを評価できます。

数百万ドル規模の投資

このAI監視プログラムの規模は大きく、ICEは2017年以降、この技術に対してジャイアントオークに1,000万ドル以上を支払っていると報告されています。さらに、ジャイアントオークの影響力はICEを超えており、同社は麻薬取締局（DEA）、空軍、国務省、財務省などの他の政府機関とも契約を結んでいます。このような技術が政府機関で広く使用されていることは、プライバシー擁護団体から市民の自由への影響について疑問を呈する原因となっています。

プライバシー擁護団体の警鐘

プライバシー擁護団体は、AIアルゴリズムを用いてソーシャルメディアの内容を審査することに重大な懸念を示している。米公民自由連盟（ACLU）国家安全保障プロジェクト副ディレクターのパトリック・トゥーミー氏は、「政府はアルゴリズムを使って私たちのソーシャルメディア投稿を検閲し、誰が『危険』かを決定すべきではない」と述べた。トゥーミー氏は透明性の確保を求め、国土安全保障省（DHS）に対し、システムが個人のリスクをどのように判断するか、およびアルゴリズムによってフラグ付けされた個人にどのような影響が生じるのかを説明するよう要請した。

ソーシャルメディア監視の起源

議論の対象となっているソーシャルメディア監視プログラムは、2016年にビザの期限切れ滞在が疑われる者を主な対象としたパイロットプログラムとして始まりました。同時に、2016年、トランプ政権はビザ申請者がスクリーニングプロセスの一環として過去5年間のソーシャルメディア履歴を提供することを義務付ける規則を実施しました。これらの措置は国家安全保障を強化しようとする試みとして導入されましたが、その後論争の的となっています。

差別のリスク

専門家は、これらのAI駆動型の慣行が意図せず差別につながる可能性があると懸念を表明しています。彼らは、自動化されたシステムは特定の国や背景を持つ申請者を不均衡にフラグ付けし、不正な結果をもたらす可能性がある argue しています。2019年の顕著な事例では、友人のソーシャルメディア活動によりハーバード大学の学生が米国への入国を拒否され、意図せぬ結果の可能性が浮き彫りになりました。

移民法執行におけるAIの未来

ICEとジャイアントオークの契約は2022年に終了したと報告されていますが、申請者のソーシャルメディアコンテンツを評価するためにAIを使用する広範な問題は、依然として懸念の的となっています。乱用を防ぎ市民の自由を保護するための、より多くの監督と規制の必要性は明白です。これらの慣行の影響は移民法執行を超えて広がり、デジタル時代におけるセキュリティと個人のプライバシーのバランスに関する根本的な問いを提起しています。

ビザ申請の文脈においてソーシャルメディアコンテンツを監視・評価するためにAIアルゴリズムを使用することは、政府が誰を潜在的なリスクと見なすかを決定する役割について議論を巻き起こしています。プライバシー擁護団体は、このような慣行が重大な市民の自由の懸念を呼び起こすと主張し、専門家は国籍や背景に基づく差別のリスクを警告しています。技術が進化するにつれて、国家安全保障と個人のプライバシー権の保護のバランスを取ることがますます重要になっています。ICEによって使用されたGOSTの事例は、AI監視の時代における先にある課題と問いに対する鮮明な警告となっています。