随着美国即将迎来又一次dent大选，政治虚假信息的传播引发了人们的担忧，人工智能公司Midjourney正在考虑禁止发布包含乔·拜登和唐纳德·特朗普等知名政治人物的图像。此前，一些伪造图像和深度伪造技术事件dent发，引发了人们对这类内容可能影响公众舆论和选举结果的担忧。
应对虚假信息威胁
以人工智能图像生成工具闻名的 Midjourney 公司，近日卷入了关于利用技术操纵公共舆论的讨论漩涡。有报道称，该公司正在考虑禁止创建和传播描绘政治人物的图像，尤其是那些可能误导公众或传播虚假信息的图像。此举被视为一项积极主动的措施，旨在降低人工智能生成的内容被政治利用或在选举期间煽动分裂的风险。
Midjourney首席执行官的声明和平台政策
据报道，Midjourney首席执行官David Holz在Discord聊天中阐述了公司的意图。他承认制作包含特朗普等知名人士的图片具有吸引力，但也强调了谨慎行事的重要性，尤其是在当前的政治环境下。尽管Midjourney已经制定了相关政策来防止误导性内容的产生，包括限制使用公众人物和事件的图片，但此次可能禁止使用政治图片标志着该公司在打击虚假信息方面采取了更为强硬的立场。
挑战与局限性
尽管 Midjourney 努力规范其人工智能工具的使用，但在有效遏制虚假图像和深度伪造技术的扩散方面仍面临挑战。彭博社的调查显示，虽然该公司已实施相关规则以防止误导性内容的产生，但仍存在漏洞，使得一些经过修改的图像能够绕过某些限制。此外，禁止特定政治图像的有效性仍不确定，因为这可能无法解决人工智能驱动的虚假信息宣传活动及其对选举公正性的潜在影响这一根本问题。
行业各界共同努力打击虚假信息
Midjourney 的讨论与科技行业打击政治虚假信息的更广泛举措不谋而合。ChatGPT 和 Meta 等平台正在探索标记或检测人工智能生成内容的策略，旨在为用户提供dent潜在欺骗性媒体的工具。然而，尽管这些措施可能有助于dent被操纵的内容，但它们可能无法完全解决人工智能技术被滥用以塑造公共话语和影响选举所带来的复杂挑战。
