澳大利亚新标准旨在打击网络伤害

作为一项开创性的举措，澳大利亚eSafety专员Julie Inman Grant公布了全球首个行业标准，旨在迫使包括Apple、Google和Meta在内的主要科技公司采取更实质性的行动，解决其平台上猖獗的儿童性虐待材料（CSAM）和恐怖主义内容问题。这些标准还扩展到打击使用生成式AI创建的令人不安的“深度伪造”儿童色情内容。

经过两年多的密集努力并拒绝了科技行业提出的草案代码后，专员Inman Grant现在发布了适用于基于云存储服务（如Apple iCloud、Google Drive和Microsoft OneDrive）以及WhatsApp等消息平台的草案标准。其目标是迫使这些公司加强努力，从其服务中消除非法内容。

预计产生全球影响

前Twitter高管、专员Inman Grant希望这些澳大利亚行业标准能为全球类似法规树立先例，以解决有害内容泛滥的问题。值得注意的是，这些要求不会迫使科技公司妥协其默认启用的端到端加密技术（如WhatsApp等服务中采用的加密方式）。

虽然主要科技平台在其公开服务中禁止儿童性虐待材料，但专员Inman Grant认为这些公司在监管自身平台方面做得还不够。她澄清道：“我们理解技术可行性方面的问题，并不要求他们做技术上不可行的事。但我们也在说，你们不能免除道德和法律上的责任，去假装这些可怕的虐待行为没有在你们的平台上发生，就像关掉灯或关上门一样。”

例如，端到端加密服务WhatsApp采用各种行为信号来检测和报告其服务中未加密的部分，包括个人资料和群聊名称，以及某些已知代表儿童色情内容的符号，如“奶酪披萨表情符号”。这种主动方法使WhatsApp每年能够报告130万起儿童性剥削和虐待事件。

挑战深度伪造儿童色情内容

起草的标准还将其管辖范围扩展到使用开源软件和生成式AI生成的儿童性虐待材料和恐怖主义宣传品。澳大利亚出现的一个令人担忧的趋势是学生创建同伴的“深度伪造色情”内容并在教育环境中分享。Inman Grant专员对此表示担忧，她说：“我们通过热线收到合成儿童性虐待材料的报告，这让我们的执法同事特别担心，因为他们花费大量时间进行受害者身份识别，以便真正拯救正在遭受虐待的儿童。”

她强调，在这些技术的设计阶段纳入监管审查的重要性，以确保强大的保障措施，防止有害内容的传播。根据专员Inman Grant的说法：“如果我们不在设计阶段构建和测试这些护栏的有效性和稳健性，一旦它们进入现实世界并复制，我们可能只是在玩一场永无止境且有些无望的打地鼠游戏。”

公众咨询与实施

eSafety专员办公室已启动为期31天的草案标准公众咨询期。在此期间结束后，最终版标准将提交联邦议会，并计划在注册后六个月生效。

这些标准不仅要求更严格的内容审核，还要求科技公司投入足够的资源和人员用于信任与安全工作。 

Inman Grant专员表示：“如果不投资于人员、政策、流程和技术，你就无法进行内容审核。你不能既要又要。如果你不扫描儿童性虐待内容，然后又不为公众提供在您的服务上发现此类内容时的举报途径，那么您实际上是对发生在您平台上的活生生的犯罪现场视而不见。”

这些标准的推出紧随社交媒体巨头X（前身为Twitter）的一起近期事件之后，该公司拒绝支付eSafety专员处以的610,500澳元罚款，原因是涉嫌未能充分处理其平台上的儿童剥削材料。X已向联邦法院申请司法审查。Inman Grant专员办公室继续评估针对X Corp不遵守报告通知的选项，但不对正在进行的法律程序发表评论。

在技术放大有害内容传播的时代，澳大利亚率先建立全面的行业标准，标志着确保在线空间安全（特别是儿童和弱势群体）的重要一步。随着这些标准经过公众咨询并最终实施，世界各国将密切关注其他国家是否会效仿澳大利亚，在打击在线儿童剥削和亲恐怖内容方面采取类似行动。