澳大利亚打击网络危害的新标准

澳大利亚网络安全专员朱莉·英曼·格兰特 (Julie Inman Grant) 采取了一项开创性的举措，公布了全球首个旨在强制包括 苹果、谷歌和 Meta 在内的主要科技公司采取更实质性行动，解决其平台上猖獗的儿童性虐待网络内容和支持恐怖主义内容问题的行业标准。这些标准还涵盖了打击利用人工智能生成技术制作的令人不安的“深度伪造”儿童色情制品。 

经过两年多的密集努力以及科技行业提出的草案屡遭否决后，专员英曼·格兰特（Inman Grant）现已发布适用于苹果iCloud、谷歌云端硬盘和微软OneDrive等云存储服务以及WhatsApp等即时通讯平台的标准草案。其目的是迫使这些公司加大力度，清除其服务中的非法内容。.

预计全球影响

曾任推特高管的专员伊曼·格兰特希望，这些澳大利亚行业标准能够为全球类似法规树立dent ，以应对有害内容这一普遍存在的问题。值得注意的是，这些要求并不会迫使科技公司放弃其端到端加密技术，例如WhatsApp等一些服务默认启用该技术。.

尽管各大科技平台都制定了政策，禁止在其公共服务平台上出现儿童性虐待内容，但专员伊曼·格兰特认为，这些公司在监管自身平台方面做得远远不够。她澄清道：“我们理解技术可行性方面的问题，我们并没有要求他们做任何技术上不可行的事情。但我们也想强调，你们不能因此而免除道德和法律责任，不能仅仅关上灯或关上门，就假装这种骇人听闻的虐待行为没有发生在你们的平台上。”

例如，WhatsApp作为一款端到端加密服务，会利用各种行为信号来检测和举报其服务中未加密的部分，包括个人资料和群聊名称，以及某些已知代表儿童色情内容的符号，例如“芝士披萨表情符号”。这种积极主动的方式使得WhatsApp每年能够举报130万起儿童性剥削和虐待事件。.

挑战深度伪造儿童色情制品

拟定的标准还将适用范围扩大到使用开源软件和生成式人工智能技术制作的儿童性虐待材料和恐怖主义宣传材料。澳大利亚出现了一种令人担忧的趋势，即dent制作同龄人的“深度伪造色情片”并在教育环境中分享。专员伊曼·格兰特表达了她的担忧，她说：“我们看到热线接到大量关于合成儿童性虐待材料的举报，这尤其令我们的执法同事感到担忧，因为他们需要花费大量时间进行受害者dent识别，以便真正拯救那些遭受虐待的儿童。”

她强调，必须在这些 技术 ，以确保强有力的保障措施，防止有害内容的扩散。正如专员英曼·格兰特所说：“如果我们不在设计阶段就构建并测试这些防护措施的有效性和稳健性，那么一旦这些技术投入使用并开始复制，我们就可能陷入一场永无止境且毫无希望的‘打地鼠’游戏。”

公众咨询和实施

网络安全专员办公室已启动标准草案的公众咨询期，为期31天。咨询期结束后，最终版标准将提交联邦议会，并于注册后六个月生效。.

这些标准不仅要求更严格的内容审核，还要求科技公司投入足够的资源和人员用于信任和安全方面的工作。. 

专员伊曼·格兰特表示：“如果不投资于人员、政策、流程和技术，就无法进行内容审核。 cake 与熊掌不可兼得。如果你不扫描儿童性虐待内容，却又不提供公众举报渠道，那么你实际上是在对平台上正在发生的犯罪现场视而不见。”

这些标准的出台源于近期社交媒体巨头X公司（前身为Twitter）的一起dent 。该公司拒绝支付加拿大网络安全专员对其处以的610,500美元罚款，原因是其涉嫌未能妥善处理平台上的儿童剥削内容。X公司已向联邦法院提起司法审查申请。网络安全专员伊曼·格兰特办公室仍在评估针对X公司不遵守报告通知的应对措施，但拒绝就正在进行的法律程序发表评论。.

在科技加速有害内容传播的时代，澳大利亚率先制定全面的行业标准，标志着在保障网络空间安全，特别是保护儿童和弱势群体安全方面迈出了重要一步。随着这些标准进入公众咨询阶段并最终实施，世界将密切关注其他国家是否会效仿澳大利亚，共同打击网络儿童剥削和恐怖主义宣传内容。.