韩国政府将对Grok公司展开深度伪造图像调查。

韩国政府正考虑对埃隆·马斯克旗下xAI公司开发的生成式人工智能（AI）聊天机器人Grok采取监管行动。此前，该聊天机器人因其参与生成和传播色情深度伪造图像而受到多项批评。.

当地新闻媒体《电子时报》报道了这一消息tron后，个人信息保护委员会 (PIPC) 已对 Grok 展开初步事实调查称在县内多人举报相关指控。

初步程序是确认违规行为是否实际发生以及该事项是否在其管辖范围内，然后才能启动正式调查。.

韩国政府将对格罗克进行审查

据 报道，此次审查源于国内外多份报告的出现，这些报告 指控 Grok 被用于制作露骨且未经同意的深度伪造图像，其中大多数涉及真实人物和未成年人。

据报道，PICP将在审阅Grok提供的解释和其他佐证文件后，决定下一步行动。该机构预计还将审视全球监管趋势，这些趋势将影响其决策。.

根据《个人信息保护法》，dent同意更改或生成可识别个人的性图像可能构成非法处理个人数据。.

自去年以来，集成到社交平台 X 中的人工智能聊天机器人因被指控伪造真人照片而饱受诟病。这些聊天机器人利用其生成各种不雅照片，引发了公众的强烈不满。.

据全球非政府组织“打击数字仇恨中心”估计，在 2025 年 12 月 29 日至 2026 年 1 月 8 日期间，Grok 被用于生成超过 300 万张色情图片。.

该组织声称，在这些图片中，超过23000张是使用聊天机器人生成的未成年人图片。该中心警告说，Grok人工智能生成的图片迅速传播，导致大量露骨内容在网络上流传。.

监管机构要求提交一份关于为遏制这一威胁而采取的措施的报告。

该中心还警告称，这项开发对儿童构成严重的安全风险。由于这种威胁，美国、英国、法国、加拿大等国已 展开调查，而印度尼西亚、菲律宾和马来西亚等国则已禁止访问Grok。

针对这场争议，xAI 今年早些时候宣布，它已采取某些技术措施来防止此类事件发生。.

该平台声称已阻止免费用户和付费用户编辑或生成真人图像，并补充说，将很快宣布进一步的安全保障措施。.

1月14日，韩国媒体与通信委员会（KMCC）要求X公司tron对青少年的保护措施。韩国监管机构告知该社交媒体平台，其人工智能公司需要制定计划，以防止生成非法或有害内容。.

此外，监管机构还补充说，该公司需要限制未成年人访问此类内容。.

目前，X平台已依法在韩国设立青少年保护专员，并提交相关合规年度报告。韩国媒体协调中心（KMCC）敦促该平台提交更多关于Grok安全协议的文件，并指出，在其平台上创建和传播未经同意的性图像，尤其是涉及未成年人的性图像，在韩国属于刑事犯罪。.

委员会设定了两周的期限。如果X公司未能回应或无视要求，委员会可能对其处以最高1000万韩元（约合6870美元）的行政罚款。其他国家也采取了类似措施，要求xAI公司提出遏制网络犯罪蔓延的措施。.

与韩国一样，这些国家也宣布，如果公司未能制定并提交一份报告，说明其为遏制这种威胁的加剧而采取的措施，将处以巨额罚款。.