Meta公司将推出人工智能工具，保护未成年人免受性勒索侵害

近日，Meta被指控损害青少年心理健康，超过40个州对其提起诉讼，称其“从儿童的痛苦中获利”。美国政界人士也指责Meta扰乱青少年的心理健康。Meta于周四宣布，正在开发基于人工智能的工具，以保护儿童免受Instagram上的性勒索诈骗。. 

在 Instagram 上，一些团伙进行性勒索诈骗，诱骗青少年分享他们的露骨照片，然后索要钱财或威胁将这些照片发布到互联网上。. 

金融性勒索和安全措施

Meta宣布，他们一直在测试基于人工智能的工具以应对当前的财务困境。据悉，这些工具能够提供裸露内容保护，通过模糊处理人工智能检测到的、可能包含裸露内容的图片，防止未成年人在Instagram上收到此类信息。Meta法国儿童保护负责人卡普辛·图菲尔(Capucine Tuffier)告诉法新社，这将有助于保护儿童免受不必要的私密内容侵害，并让他们可以选择是否查看图片。当用户收到此类信息时，模糊处理后的图片上会显示警告信息。.

Meta表示，他们还会为接收或发送此类信息的用户提供安全提示和建议，以便及时提供帮助。屏幕上会显示一条消息，鼓励用户不要迫于压力回复这种潜在的骗局，并提供屏蔽发件人和举报dent选项。.

据官方统计，仅在美国，2022年就有近3000名青少年成为性勒索诈骗的受害者。去年10月，超过40个州对Instagram的母公司Meta提起诉讼，指控该公司从儿童的痛苦中牟利。该公司被指控设计了一种商业模式，利用年轻用户在平台上花费大量时间，损害他们的心理健康和福祉。. 

Meta 致力于开发设备端机器学习解决方案

新年伊始，Meta宣布将推出一系列策略，通过限制内容使用政策和加强平台家长控制功能，来保护18岁以下未成年人的安全。昨日，Meta表示，其最新推出的工具建立在其长期以来致力于保护未成年人免受潜在负面或有害互动影响的工作基础之上。.

Meta在帖子中写道：

“我们正在测试一些新功能，以帮助保护年轻人免受性勒索和私密照片滥用的侵害，并使潜在的诈骗者和犯罪分子更难找到青少年并与他们互动。”

来源：Meta

Meta还补充道：

“裸露内容防护功能利用设备端机器学习技术分析Instagram私信中发送的图片是否包含裸露内容。由于图片是在设备端进行分析的，因此裸露内容防护功能在端到端加密的聊天环境中也能正常工作，Meta无法访问这些图片——除非有人选择向我们举报。”

来源： Meta

Meta还敦促其对发送不良内容的潜在账户进行筛选，并在这些账户联系未成年用户时实施严格限制。虽然我们知道Meta曾多次被指控侵犯用户 数据隐私 ，但这些措施似乎朝着正确的方向发展。不过，该公司也指出，除非用户举报，否则他们无法访问这些不当图片。

本文来源于 Meta 博客。