Meta将推出AI工具以保护未成年人免受性勒索

最近，Meta被指责损害青少年的心理健康，超过40个州起诉它，声称它“从孩子的痛苦中获利”。美国政客指责Meta扰乱了年轻人的心理福祉。Meta周四宣布，它正在开发基于人工智能的工具，以保护儿童免受Instagram上的性勒索诈骗。 

由帮派运营的Instagram性勒索诈骗说服青少年分享他们的裸露图像，然后要求付款，否则威胁将图像发布到互联网上。 

金融性勒索和安全措施

Meta宣布，它一直在测试基于人工智能的工具来应对金融局势。据悉，这些工具通过模糊AI检测到含有裸露内容的图像，从而提供裸露保护，这些图像是在Instagram消息中发送给未成年人的。Meta法国负责儿童保护的Capucine Tuffier告诉法新社，这将有助于保护儿童免受不想要的亲密内容的影响，并让他们选择是否要看图像，因为当有人收到此类消息时，模糊图像上会出现警告屏幕。

Meta表示，他们还将为任何接收或发送此类消息的人提供安全提示和建议，提供及时的帮助。屏幕上会出现一条消息，鼓励用户不要感到回应潜在骗局的压力，并提供阻止发送者和举报事件的选择。

根据当局的统计数据，仅2022年，美国就有近3000名年轻人成为性勒索诈骗的受害者。去年10月，超过40个州起诉了Instagram的母公司Meta，称该公司从孩子的痛苦中获利。该公司被指控设计了一种商业模式，通过让用户在其平台上花费最多时间来剥削年轻用户，尽管这损害了他们的心理健康和福祉。 

Meta正在开发设备端机器学习解决方案

新年伊始，Meta披露他们将发布策略，通过限制内容使用政策并增加其平台上的家长控制来保护18岁以下的未成年人。昨天，Meta表示，其最新工具建立在保护未成年人免受潜在负面或有害互动的深厚工作基础上。

Meta在帖子中表示，

“我们正在测试新功能，以帮助保护年轻人免受性勒索和亲密图像虐待，并使潜在的诈骗者和罪犯更难找到并与青少年互动。”

来源：Meta

Meta还补充道，

“裸露保护使用设备端机器学习来分析Instagram DM中发送的图像是否包含裸露内容。因为图像是在设备本身分析的，所以裸露保护将在端到端加密聊天中工作，Meta将无法访问这些图像——除非有人选择向我们举报。”

来源： Meta

Meta还敦促筛选发送不当内容的潜在账户，并在他们与未成年用户联系时施加严格限制。虽然我们知道Meta曾多次被指控违反用户数据隐私，但这些措施似乎朝着正确的方向发展。但该公司也指出，除非用户举报，否则他们将无法访问不适当的图像。

本故事源自Meta博客。