OpenAI关闭伊朗团体ChatGPT账户以应对美国选举影响力活动

OpenAI采取果断行动，禁止与伊朗影响力行动有关的一组ChatGPT账户。该公司在博客文章中解释，这些账户发布了由AI生成的关于美国总统选举的材料。该行动包含文章和社交媒体帖子，似乎规模较小。 

这并非国家关联行为者首次试图滥用OpenAI的ChatGPT。5月，该公司阻止了五次不同的尝试，防止AI机器人发布的虚假媒体文章影响公众。这些努力是国家行为者利用新技术试图塑造政治进程的更广泛模式的一部分。 

OpenAI迅速回应以应对新兴威胁

此前，此类组织主要使用Facebook和Twitter作为其主要的社交媒体平台。然而，生成式AI现在被用来用虚假信息淹没社交媒体平台。作为回应，OpenAI迅速行动，类似于我们在社交媒体平台上看到的“打地鼠”方法。随着与这些活动相关的账户浮出水面，它们被立即封锁。随着2024年美国总统选举逐渐进入视野，这一点尤为重要。

OpenAI对最近一批账户的分析由微软威胁情报上周发布的一份报告提供支持。该报告将赞助这些行动的组织命名为Storm-2035小组，该小组自2020年以来一直参与干涉美国选举。 

据报道，Storm-2035是一个伊朗网络，拥有许多旨在模仿真实新闻网站的域名。这些网站针对美国选民，呈现有关总统候选人、同性恋权利和以色列-哈马斯冲突的极化内容。 

ChatGPT在各种政治话题上生成极化内容

与其他类似行动一样，Storm-2035的目的不是支持某项具体政策，而是在人群中制造争议。据OpenAI称，该小组与五个伪装成自由派和保守派新闻网站的网站有关联。 

这些网站拥有良好的域名，如“evenpolitics.com”，并使用ChatGPT撰写特定长度的文章。其中一篇文章声称，埃隆·马斯克拥有的社交媒体网络X正在阻止前美国总统唐纳德·特朗普的推文。 

OpenAI已确定与Storm-2035有关联的十几个X账户和一个Instagram账户。这些账户利用ChatGPT生成新的政治声明，然后发布在这些社交媒体渠道上。例如，一条推文错误地将气候变化与“增加的移民成本”联系起来，并在声明中标记#DumpKamala，指的是副总统卡玛拉·哈里斯。