韩国政府将调查Grok的深度伪造图像问题

韩国政府正考虑对Elon Musk拥有的xAI的生成式人工智能（AI）聊天机器人Grok采取监管行动。这.follows对聊天机器人的多项批评及其参与生成和分发性剥削深度伪造图像。

该信息由当地新闻媒体《电子时报》报道，该报提到，在指控被该国多人报告后，个人信息保护委员会（PIPC）已启动对Grok的初步事实调查。

初步程序是为了确认违规是否实际发生以及该事项是否在其管辖范围内，然后才能启动正式调查。

韩国政府将对Grok进行审查

根据报道，此次审查紧随随后在当地和海外出现的几起报告之后，指控Grok被用于创建露骨和非自愿的深度伪造图像，其中大多数涉及真实个人和未成年人。

通过这种方式，PICP据报道将在审查Grok提供的解释和其他支持文件后确定其下一步行动。该机构还预计将审查全球监管趋势，这将塑造其决策。

根据《个人信息保护法》，未经同意更改或生成可识别个人的性图像可能构成非法处理个人数据。

集成到社交平台X上的AI聊天机器人，该平台提供文本和图像生成功能，自去年以来因创建真实人物的假图像而面临多项批评。该聊天机器人被用于创建各种有损形象的图像，这受到了公众的谴责。

根据全球非政府组织“打击数字仇恨中心”的数据，估计Grok在2025年12月29日至2026年1月8日期间被用于生成超过300万张露骨性图像。

该组织声称，在这些数字中，超过23,000张是使用该聊天机器人生成的未成年人图像。该中心警告说，Grok的AI生成图像的快速传播导致网上大规模传播露骨内容。

监管机构要求提交关于采取措施遏制威胁的报告

该中心还警告说，这种发展对儿童构成了严重的安全风险。由于这种威胁，美国、英国、法国、加拿大和一些其他国家启动了调查，而印度尼西亚、菲律宾和马来西亚等国家则封锁了对Grok的访问。

作为对争议的回应，xAi今年早些时候宣布已实施某些技术措施来防止这种情况发生。

该平台声称，它已停止免费和付费用户编辑或生成真实人物的图像，并补充说它将很快宣布进一步的保障措施。

在韩国，媒体与通信委员会（KMCC）于1月14日要求X加强青少年保护措施。韩国监管机构告诉社交媒体平台，其AI公司需要制定计划以防止生成非法或有害内容。

此外，监管机构还补充说，公司需要限制未成年人访问此类内容。

目前，X在韩国依法指定了一名青少年保护官员，并提交年度相关合规报告。KMCC敦促该平台提交关于Grok安全协议的额外文件，指出在其平台上创建和分发的非自愿性图像，特别是涉及未成年人的图像，在韩国是刑事犯罪。

委员会设定了两周的截止日期。如果X未能回应或忽视请求，它可能会处以高达1000万韩元（6,870美元）的行政罚款。在其他国家也出现了同样的举动，其中xAi被要求制定措施以遏制威胁的上升。

与韩国一样，这些国家也宣布，如果公司未能制定并提交一份报告以显示其采取的限制威胁上升的步骤，将处以巨额罚款。