AI Inbreeding May Impact US Elections Severely

正如我们所知，近亲繁殖的概念涉及当具有相似基因组的个体进行繁殖时发生的基因组污染。这通常会导致新生儿出现畸形和其他健康问题。目前，AI模型也面临着同样的问题，因为它们正在从其他AI生成的内容中进行训练，随着互联网上充斥着越来越多的AI生成内容。据专家称，这种AI的近亲繁殖将导致不可靠且质量更差的内容生产，从而对今年的美国选举产生负面影响。

当AI模型首次推出，旨在帮助内容创作者简化工作流程、节省时间时，它们是基于人类创作的内容进行训练的，包括文本、音频和视频。如今，互联网上充斥着AI生成的内容，大多数在线内容已主要由AI生成，而AI模型正以低质量的数据作为训练素材。

这将对人类社会和AI技术的长期发展产生深远影响，因为用于训练AI的“纯净基因库”正在萎缩。所谓“纯净基因库”，指的是最初由人类创作并可用于训练AI的优质内容。据专家估计，未来几年内，AI生成的内容可能占互联网上总内容的近90%。随着ChatGPT、Gemini和Dall-E等工具每天在各大在线平台上源源不断地输出海量内容——从博客文章到社交媒体，甚至主流媒体平台——这一趋势愈发明显。

Barren AI ahead

据专家称，生成式AI可能正在走下坡路，因为我们可能已经到达了它的高潮。硅谷也对这一危机感到担忧，因为他们担心人工智能可能正接近“寒冬”，投资者可能会将AI视为炒作，认为从中再也榨不出多少价值了。

作家兼科技商业顾问伯纳德·马尔（Bernard Marr）在《福布斯》的一篇文章中表达了自己的观点并予以支持。

AI研究与咨询公司SwissCognitive也表示，生成式AI的“近亲繁殖”会对创造力和多样性构成威胁。他们指出，需要新鲜的人类生成数据来维持AI的有效性和稳健性。

AI Inbreeding could break havoc at US elections

AI近亲繁殖是一个真实的风险。假设你使用来自另一个AI模型的数据来训练一个AI模型，因为可用的数据仅来自之前的努力。现在让我们想象一下，之前的数据存在各种偏见和差异，或者是不完整的数据集。那么，你的新AI模型只会强化这些偏见。根据专家的说法，关于选举的大量虚假信息，包括深度伪造、有关候选人和政治工作人员的假新闻，可能会对即将到来的选举产生同样的不良影响。

The Washington Post said in a story,

“政治广告向来以未能准确呈现候选人对手的形象而闻名——如今，人工智能的威胁正使这种歪曲变得前所未有的逼真。与其坐等人工智能在2024年大选中引发混乱，监管机构、立法者和政党应立即采取行动。”

来源： 《华盛顿邮报》.

我们可以意识到，由对手、狂热支持者或试图破坏民主进程的外国行为者利用人工智能操纵内容所带来的影响可能是多么具有毁灭性。

来自华盛顿的政治改革组织Issue One分享了一条推文，其中包含《费城询问报》的一篇新闻报道。Issue One的推文只是这些团体内心担忧的一个缩影。

正如我们所知，AI 工具可以轻松操纵事实来损害某人的声誉，而且任何有意使用的人都可以使用这些工具。与国家支持的组织一起，它已成为一种严重威胁，而社交媒体使内容病毒式传播的便利性更是雪上加霜。一个小例子是 X 平台关于“伊朗用重型导弹袭击以色列”的假新闻，这确实会改变公众的情绪，而讽刺的是，这条新闻是由该平台自己的聊天机器人生成的。

别忘了那通模仿拜登声音的虚假电话，它试图在距离初选投票日仅两天时劝阻公众不要投票。无论你是否喜欢拜登，这些恶意手段确实起到了作用。我们将见证一些有趣的事情发生。