Fox8僵尸网络揭露X平台上的1000个AI机器人，通过窃取自拍创建虚假账户

在一项令人震惊的披露中，印第安纳大学社交媒体观测台的研究人员发现了X（前身为Twitter）上令人不安的机器人问题。学生-教师团队最近的一项研究揭露了一个由1000多个人工智能驱动的账户组成的网络，这些账户生成机器内容并窃取自拍以伪造虚假身份。这一令人不安的发现引发了人们对虚假信息程度以及这些机器人可能对平台及其用户造成潜在危害的担忧。

Fox8僵尸网络及其在制造虚假信息游乐场中的作用

由Kai-Cheng Yang和Filippo Menczer科学家领导的研究团队在X上发现了一个庞大的虚假账户网络，被称为“Fox8”僵尸网络。该网络采用包括ChatGPT在内的先进语言模型生成内容，以推广可疑网站并传播有害叙事。除了创建虚假身份外，这些机器人还被观察到试图引诱 unsuspecting 个人投资欺诈性加密货币。更令人担忧的是，它们涉嫌从现有加密货币钱包中盗窃，揭示了一种可能导致重大财务损失的复杂程度。

加密连接与传播欺骗

Fox8僵尸网络有针对性地针对与加密货币相关的标签，如#bitcoin、#crypto和#web3，以增加其帖子的可见性。这些帖子经常与专注于加密货币的人工运营账户互动，如知名的ForbesCrypto (@ForbesCrypto) 和以区块链为中心的新闻网站Watcher Guru (@WatcherGuru)。通过与合法账户互动，这些机器人营造出真实性和可信度的错觉，使用户更难区分真实内容和恶意意图。

超越加密货币的多面威胁

Fox8僵尸网络的恶意活动超出了加密货币领域。Yang和Menczer的研究强调，这些机器人账户负责扭曲在线对话，并在各种背景下传播虚假信息，包括选举和公共卫生危机等关键领域。这种虚假信息的放大对公共话语和决策过程构成了重大风险，需要紧急关注和应对措施。

一个新的可信度水平

与过去容易检测的僵尸网络不同，Fox8网络采用更复杂的策略来显得像真人。这些机器人窃取真实用户的图片并相互互动，包括转发和回复。此外，它们维护带有描述、关注者和推文数量的个人资料，进一步增强了其表面上的真实性。这种个人资料和互动的细节水平使用户难以识别它们是欺诈性账户。

ChatGPT革命及其黑暗利用

该研究强调了像ChatGPT这样的先进语言模型在使Fox8等僵尸网络运作方面的重要作用。这些语言模型极大地提高了这些机器人的能力，使它们能够创作越来越难以与人类生成的内容区分开来的内容。免费AI API的可用性加速了这一过程，使恶意行为者能够利用这些工具来欺骗 unsuspecting 用户。

检测方法的侵蚀

传统上，研究人员可以根据不自然的语言使用和缺乏说服力的内容来识别僵尸网络。然而，ChatGPT和类似技术的兴起削弱了传统检测方法的有效性。即使应用最先进的内容检测器，研究团队也难以区分Fox8僵尸网络中由人类生成和AI生成的内容。

紧急呼吁行动

这项研究的令人不安的发现强调了应对AI驱动僵尸网络日益增长的威胁的紧迫性。Menczer强调，目前缺乏有效的方法来检测AI生成的内容，这需要分配大量资源来开发适当的对策和法规。如果没有这样的干预措施，操纵、虚假信息和金融剥削的潜力将不受限制。

无形的威胁及其背后的真相

虽然研究人员没有披露与Fox8僵尸网络相关的具体句柄，但他们通过这些账户无意中发布的自我揭露推文发现了它们的存在。这促使他们在X上搜索短语“作为AI语言模型”，识别出来自约9000个唯一账户的12000多条推文。虽然并非所有这些账户都被确认为LLM驱动的机器人，但该研究估计，很大一部分账户参与AI生成内容的传播。

印第安纳大学的研究揭示了数字领域内日益增长的威胁：窃取身份、传播虚假信息并操纵用户进行恶意目的的AI驱动僵尸网络。该研究强调了寻找应对这些不断演变威胁的实用解决方案的紧迫性。随着技术的进步，对抗AI生成欺骗的战斗将需要创新、合作和警惕，以保护在线空间的完整性。