政府利用AI审查社交媒体引发担忧

近年来，在政府运作的各个方面使用人工智能（AI）变得越来越普遍。但这引发了关于隐私、问责制和公平的激烈辩论。最近关于美国移民和海关执法局（ICE）利用AI监控签证申请人社交媒体活动的披露，引发了关于算法在确定谁被视为“高风险”方面的作用的新一轮讨论。 

AI驱动工具：Giant Oak搜索技术（GOST）

通过《信息自由法》（FOIA）行动获得的文件显示，ICE自2014年以来一直使用一种名为Giant Oak搜索技术（GOST）的AI驱动工具。GOST旨在扫描签证申请人的社交媒体帖子，并赋予其1到100的“社交媒体评分”。该评分基于帖子是否对美国“有贬损性”。如果申请人的评分引起担忧，ICE分析师可以审查标记的图像和资料，以评估其是否构成潜在风险。

数百万美元的投资

该AI监控计划的规模很大，据报道，ICE自2017年以来向Giant Oak支付了超过1000万美元用于该技术。此外，Giant Oak的影响力不仅限于ICE，该公司还与美国其他政府机构签订合同，包括缉毒局（DEA）、空军、国务院和财政部。这种技术在各个政府机构中的广泛使用促使隐私倡导者质疑其对公民自由的影响。

隐私倡导者敲响警钟

隐私倡导者认为，利用人工智能算法审查社交媒体内容引发了严重关切。美国公民自由联盟（ACLU）国家安全项目副主任帕特里克·图米（Patrick Toomey）表达了其担忧，他指出：“政府不应使用算法来审查我们的社交媒体帖子，并决定谁属于‘高风险’人群。”图米呼吁提高透明度，敦促国土安全部（DHS）解释其系统如何判定个人风险，以及被其算法标记的人可能面临何种后果。

社交媒体监控的起源

讨论中的社交媒体监控计划始于2016年的试点，主要针对潜在的签证逾期滞留者。与此同时，2016年，特朗普政府实施规则，要求签证申请人提供过去五年的社交媒体历史记录作为筛选过程的一部分。这些措施旨在加强国家安全，但随后成为争议的主题。

歧视的风险

专家担心，这些由AI驱动的做法可能会无意中导致歧视。他们认为，自动化系统可能会不成比例地标记来自某些国家或背景的申请，可能导致不公正的结果。2019年的一起著名案例中，一名哈佛学生因朋友的社交媒体活动而被拒绝入境美国，突显了意外后果的潜在风险。

AI在移民执法中的未来

虽然据报道ICE与Giant Oak的合同已于2022年结束，但使用AI评估申请人社交媒体内容的更广泛问题仍然是关注的焦点。显然，需要更多的监督和监管以防止滥用并保护公民自由。这些做法的影响超出了移民执法的范围，引发了关于数字时代安全与个人隐私之间平衡的根本问题。

在签证申请背景下使用AI算法监控和评估社交媒体内容引发了关于政府在确定谁被视为潜在风险方面所起作用的辩论。隐私倡导者认为，此类做法引发了重大的公民自由关切，专家警告说存在基于国籍或背景的歧视风险。随着技术的不断发展，在国家安全与保护个人隐私权之间取得平衡变得越来越重要。GOST及其由ICE使用的案例 starkly 提醒我们，在AI监控时代前方面临的挑战和疑问。