利用人工智能防止错误信息的传播

网上错误信息的普遍问题正在推动创新解决方案的出现，人工智能（AI）有望成为改变游戏规则的因素。随着AI生成的深度伪造提高了语音和视频诈骗的风险，专家们正在探索利用AI和区块链技术来识别和打击假新闻的传播。这种新方法旨在优先打击那些可能造成最大潜在危害的错误信息，旨在赋能内容创作者，有效应对错误信息的威胁。

让我们澄清错误信息与虚假信息之间的区别。错误信息是指传播的虚假信息，无论是否有误导意图；而虚假信息是指“关于国家军事实力或计划的虚假信息，由政府或情报机构在敌对的战术政治颠覆行为中传播。”它也被用来表示“故意误导或有偏见的信息；被操纵的叙事或事实；宣传。”

虽然我们可能有解决错误信息的工具，但我们可能无法反击虚假信息，甚至可能被指控叛国。虚假信息涉及军事政府预算，受保密协议（NDA）约束，并出于安全原因被保密。获取此类信息可能被视为间谍活动或不当的好奇心，这可能会让你失去政府工作。

错误信息的影响及反制措施的必要性

错误信息的有害后果使得寻找有效的遏制策略变得势在必行。真实信息与伪造信息之间的界限日益模糊，加上社交媒体平台上假新闻的快速传播，可能导致公众做出错误的决策和冲动反应。

明尼苏达圣托马斯大学应用人工智能中心主任Manjeet Rege强调，准确的信息对于知情决策至关重要。他指出，假新闻病毒式传播的速度要求立即采取行动以抵消其影响。

AI在假新闻创建和检测中的双重角色

最近的研究突出了机器学习系统在评估内容潜在危害和确定最恶劣违规者方面的潜力。例如，在COVID-19大流行的高峰期，AI的使用识别出了推广未经证实的治疗方法而非疫苗假新闻的案例。

领导这项研究的管理信息系统教授Thi Tran强调，当假新闻对读者或观众造成实质性伤害时，其威胁最令人担忧。确定错误信息可能最具破坏性的领域，可以为缓解工作提供有针对性的方法。

AI不断发展的复杂性和深度伪造的危险

随着AI技术变得越来越复杂，区分真实内容和虚假内容变得越来越具有挑战性。AI生成的深度伪造，包括伪造的音频和视频，构成了严重威胁。数字验证公司OneSpan的首席产品官Sameer Hajarnis强调了深度伪造在语音和视频网络钓鱼诈骗中的危险，指出利用这些策略的犯罪分子正在增加。

一起引人注目的事件涉及一段深度伪造视频，该视频似乎由著名消费者金融倡导者Martin Lewis背书，并归因于Elon Musk的投资机会。这段视频后来被揭露为AI生成的深度伪造，突显了AI在传播欺诈方面的力量。

应对错误信息的多种方法

虽然宾夕法尼亚州立大学的方法利用机器学习来评估内容的潜在危害，但AI也具备检测真实性的能力。一些AI生成的内容对人类来说可能看起来非常令人信服，但可以被AI模型轻易识别为虚假。

密码学为打击假新闻提供了另一种途径。网络安全专家、IEEE成员Yale Fox建议使用密码学来提供身份验证证明。使用公钥对视频进行编码可以方便地验证其真实性。这种方法消除了对复杂AI算法的需求，并且可以在各种平台和设备上运行。

解决假新闻需要多方面的方法，包括技术解决方案和更广泛的文化转变。圣克拉拉大学马克库拉应用伦理中心新闻与媒体伦理项目主任Subramaniam Vincent强调了AI行业参与者与新闻媒体公司之间合作的必要性。此外，在政治和选举中培养民主价值观对于创造一个AI工具可以有效打击假新闻传播的环境至关重要。

AI确实拥有巨大的影响力，但它必须与其他因素协同工作，以应对错误信息带来的复杂挑战。在假新闻面前民主之战激烈进行之际，AI作为一种强大的工具脱颖而出，尽管它需要一个全面的方法才能真正有效。