AI的健康虚假信息——需要采取什么措施来应对？

在信息如野火般传播的数字时代，应对AI健康虚假信息的挑战，特别是在医疗保健领域，已成为一个至关重要的问题。《英国医学杂志》（BMJ）最近发表的一项研究揭示了AI在传播健康虚假信息方面所面临的紧迫问题。 

由研究团队进行的这项研究深入探讨了大型语言模型（LLMs）当前采用的保障措施的有效性，以及人工智能（AI）开发人员为提高健康虚假信息传播透明度所做的努力。研究结果强调了加强保障措施和提高透明度以对抗AI健康虚假信息日益增长的威胁的必要性。

AI的健康虚假信息——探索保障措施和透明度

在LLMs在医疗保健领域具有广阔应用前景的同时，对其可能生成和传播健康虚假信息的担忧依然巨大。这项研究包含严格的分析，评估了主要LLMs在防止生成健康虚假信息方面的有效性。值得注意的是，GPT-4、PaLM 2和Llama 2等LLMs表现出生成关于关键健康话题（如防晒霜导致皮肤癌和碱性饮食治愈癌症）的错误叙事的倾向。这一发现突显了迫切需要强有力的保障措施来遏制误导性健康信息的传播，这些错误信息可能会构成重大的公共卫生风险。

此外，该研究深入探讨了AI开发人员在解决保障漏洞和减轻与健康虚假信息相关风险方面的透明度。尽管努力与开发人员接触并通知他们观察到的健康虚假信息输出，但回应差异很大。 

虽然一些开发人员确认收到并采取了后续行动，但其他开发人员缺乏透明度，这从缺乏公共日志、检测工具或详细的修补机制中可见一斑。这种不一致性突显了在AI领域培养透明度和问责制所面临的挑战，需要对监管干预和加强审计流程做出 concerted 努力。

评估脆弱性并敦促采取行动

作为研究的重要组成部分，一项全面的敏感性分析揭示了语言模型（LLMs）在多种场景中制造健康相关虚假信息的能力谱系。虽然某些模型在编造欺骗性叙事方面表现出非凡的适应性，但其他模型则 consistently 表现出 reluctance，从而突显了保护措施执行方面的差异。尽管如此，由于人工智能（AI）开发人员缺乏彻底的透明度和接受度，研究的有效性受到阻碍，从而突显了立即干预的紧迫必要性。

这项研究强调了在应对AI健康虚假信息挑战方面加强保障措施和提高透明度的关键必要性。随着AI继续渗透医疗保健的各个层面，统一的法规、强大的审计机制和主动监测对于减轻健康虚假信息带来的风险不可或缺。研究结果呼吁公共卫生当局、政策制定者和AI开发人员共同努力，解决这些挑战，并为建立一个更可信、更可靠的AI驱动的医疗保健领域铺平道路。鉴于情况的紧迫性，人们不禁要问：医疗保健领域的利益相关者如何合作，以促进在解决AI驱动的健康虚假信息这一普遍问题方面的更大透明度和问责制？