澳大利亚总理抨击X平台利用Grok生成冒犯性内容

澳大利亚总理抨击X平台利用Grok生成冒犯性内容

澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）抨击博客平台X利用Grok生成不当图像。阿尔巴尼斯对使用人工智能聊天机器人Grok来促成剥削性色情内容的担忧表示愤慨。

根据电子安全办公室的说法，该平台、其聊天机器人以及众多其他服务也必须遵守安全义务，即根据澳大利亚全球领先的行业准则和标准，检测并删除儿童性剥削材料及其他非法内容。澳大利亚总理于周六表达了不满，与其他世界领导人一道批评了这家社交媒体平台，其中包括英国首相基尔·斯塔默。

虽然澳大利亚eSafety办公室收到的报告数量仍然很少，但它指出，近期有关利用聊天机器人创建性化或剥削性图像的投诉激增。在其声明中，监管机构警告说，如果由聊天机器人生成的材料达到澳大利亚《在线安全法》定义的门槛，它将使用其权力，包括发布移除通知。

根据eSafety办公室的说法，该平台、其聊天机器人以及广泛的其他服务也需遵守安全义务，以检测并移除儿童性剥削材料和其他非法材料，作为澳大利亚世界领先的行业代码和标准的一部分。澳大利亚总理周六表达了不满，与其他世界 领导人 一起批评该社交媒体平台，包括英国同行基尔·斯塔默（Keir Starmer）。

澳大利亚总理抨击X滥用Grok

他们的批评并非毫无根据，而是本周全球对Grok聊天机器人的反弹的一部分，这促使X限制其AI创建或编辑图像的使用，将该工具限制为付费订阅者。周五，Grok拒绝非订阅用户请求数字修改图像的要求。“图像生成和编辑目前仅限于付费订阅者。您可以订阅以解锁这些功能，”聊天机器人说。

在eSafety办公室发言人发布的声明中，大多数投诉与成年人图像被修改的担忧有关，而一小部分涉及潜在的儿童性剥削材料。“基于图像的虐待报告是最近才收到的，仍在评估中，”该机构说。“关于非法和受限内容的报告，材料未达到1类儿童性剥削材料的分类门槛。”

因此，eSafety办公室表示，它拒绝就这些投诉发布移除通知或采取执法行动。然而，发言人提到，对利用AI进行儿童剥削的增加的担忧依然存在。“这凸显了‘设计安全’的重要性，包括需要在产品生命周期的每个阶段为生成式AI产品建立适当的安全措施和护栏，以防止在伤害发生之前滥用和武器化这些技术，”他们说。

“未经同意使用生成式AI剥削或性化他人是令人憎恶的，”他在堪培拉对记者说。“我认为，Grok被用于让人们通过其图像创建功能使用其图像，这完全是令人憎恶的，”阿尔巴尼斯 补充 说，这一事件是社交媒体未展示社会责任的另一个例子，指出澳大利亚人和全球人口值得更好的对待。

另一方面，印度尼西亚已对Grok聊天机器人采取了 果断 行动。通信和数字事务部周六宣布了这一举措，援引保护儿童和妇女免受AI生成色情内容危害的紧迫需要。“政府认为，非自愿的性深度伪造是对人权、尊严和公民数字空间安全的严重侵犯，”部长Meutya Hafid在一份官方声明中说。