Meta 宣布计划使用 AI 评估隐私和社会风险

Meta Platforms 计划使用人工智能来评估隐私和社会风险。多年来，该公司一直雇用人类评估员来调查与新产品和功能相关的风险，但随着这一新更新，情况即将发生变化。

根据内部对话和文件，Meta 计划自动化其所有风险评估的 90%。这意味着，关于公司算法的关键更新、安全功能以及内容在 Meta 各平台上共享方式的变更，大部分将由人工智能支持的系统批准。这也意味着，这些变更将不再由负责讨论平台变更可能产生意外影响或被滥用的员工进行审查。

Meta 打算转向 AI 驱动的审查系统

据 Meta 内部消息人士称，这一举措被视为产品开发人员的胜利，因为它为他们提供了足够的时间来发布应用更新和功能。然而，公司内部仍对这一情况的复杂性表示担忧，指出允许 AI 对 Meta 的应用做出复杂决定可能会导致现实世界的伤害。这一偏见得到了前员工和现任员工的认同。

“如果这一流程在功能上意味着更多的东西以更快的速度发布，且审查和反对意见较少，那么你就创造了更高的风险，”一位要求匿名的前 Meta 高管表示，他担心遭到公司的报复。“产品变更的负面外部性不太可能在它们开始在世界范围内造成问题之前得到预防。”

在最近的一份声明中，Meta 提到它已投入数十亿美元来支持用户隐私。自 2012 年以来，该公司一直受到联邦贸易委员会 (FTC) 的监督，该机构与该公司就其如何处理用户个人信息达成了协议。因此，前员工和现任 Meta 员工表示，一直需要对产品进行隐私审查。

在其声明中，该公司补充说，产品风险评估的变更将有助于简化决策流程，并指出它仍然在新颖和复杂的问题上依靠人类专业知识。Meta 还指出，目前只有低风险决策正在被自动化，但 NPR 审查的内部文件显示，Meta 一直在研究自动化审查敏感方面，包括 AI 安全、青年风险以及另一个被称为“完整性”的类别，后者负责处理错误信息和暴力内容等问题。

在以前的系统下，产品和功能更新首先发送给风险评估人员，然后才向公众推出。然而，根据展示新流程如何运作的一张幻灯片，产品团队在完成关于项目的问卷后将立即获得决定。AI 驱动的决策将识别几个风险领域以及解决这些领域的需求。在发布此类项目之前，产品团队还将验证是否已满足要求。

新系统凸显的是，构建 Meta 产品的工程师需要对风险做出判断。根据幻灯片，在某些情况下，包括引入新风险或当 产品 团队需要额外反馈时，项目将接受由人类执行的手动审查。

然而，直到 2022 年的前 Meta 创新总监 Zvika Krieger 表示，产品经理和工程师并不是隐私专家。“大多数产品经理和工程师都不是隐私专家，这也不是他们工作的重点。这不是他们主要被评估的内容，也不是他们被激励去优先考虑的内容，”他说。他还补充说，其中一些自我评估已成为遗漏一些重要风险的练习。