德国警告社交媒体平台不要传播虚假的人工智能大屠杀图像

德国已警告社交媒体平台不要传播虚假的人工智能大屠杀图像。政府和犹太人大屠杀纪念机构要求社交媒体平台停止传播虚假图像，这些图像据称扭曲并淡化了历史。

集中营纪念地和文献中心在最近的一封信中表达了担忧，批评所谓 AI垃圾 或伪造图像激增，这些图像围绕二战期间纳粹在德国杀害超过六百万犹太人展开。这些图像包括虚构事件的情感插图，如集中营囚犯与其解放者的会面或铁丝网围栏后的儿童。

德国希望遏制虚假人工智能大屠杀图像的传播

在机构发出的信中，他们指出人工智能生成的内容通过淡化很久以前发生的严重事件来扭曲历史。他们提到，此类图像可能会助长用户对真实历史文件的不信任。德国文化与媒体国务部长沃尔夫拉姆·魏默（Wolfram Weimer）表示，他支持纪念机构在此案中采取的措施和努力，并指出这是正确的举措。

沃尔夫拉姆还提到，他支持他们的决定，即在社交媒体平台上对涉及古代事件的AI生成图像进行标记，并在必要时将其删除。他表示，这是为了尊重数百万在纳粹德国恐怖政权下被杀害和迫害的人。根据纪念机构的信函，他们指出，图像创作者似乎利用这些图像在网上吸引注意力并获利。

这些组织还提到，肇事者部分意图是稀释事实、颠倒受害者和加害者的角色，并传播修正主义叙事。这些机构包括贝尔森、布痕瓦尔德、达豪和其他集中营的纪念中心，犹太人以及罗姆人和辛提人等在那里被杀害。他们要求社交媒体平台主动打击围绕大屠杀的虚假AI图像，而不是等待用户举报。

大屠杀组织希望AI生成的图像带有标签

此外，他们要求平台清晰标注这些图像，因为他们认为这将阻止生成这些图像的用户从中获利。包括虚假文本、图像或视频在内的低质量AI垃圾内容的传播已引起许多专家的警觉。他们认为这会污染信息环境，使用户难以区分真相与谎言。这一事件紧随AI公司（ notably 拥有聊天机器人Grok的埃隆·马斯克的xAI）目前正努力应对的事件之后。

在过去几周里，该公司因部分用户生成数千张针对女性和未成年人的色情深度伪造图像并在多个社交媒体平台上传播而面临压力。这一威胁导致多个国家的领导人对该企业进行警告，其他一些国家则要求他们制定适当的保障措施以应对此类事件。印度尼西亚等国也宣布，在问题解决之前暂时禁止使用该聊天机器人。

与此同时，该平台已确认将地理屏蔽Grok和X用户生成深度伪造图像的功能，地点位于那些将此类行为定为非法的地区。然而，新的保障措施是否适用于其独立应用程序或网站仍有待观察。同样有待观察的是，这些措施是否会阻止用户生成此类图像，还是会将他们推向寻找访问服务的新途径。