美国国防部完成了利用聊天机器人进行军事医学的试点项目

与美国国防部相关的、在拜登政府领导下开展的最后一个项目之一已圆满完成。美国国防部首席数字与人工智能办公室（CDAO）已完成众包人工智能红队演练（CAIRT）保障计划试点项目。该计划旨在将人工智能聊天机器人整合到军事医疗服务中。. 

CAIRT项目实施了大型语言模型（LLM）聊天机器人。此外， CAIRT 还协助美国国防部制定了去中心化的众包人工智能风险缓解和人工智能保障策略。

超过200名临床医生和医疗保健分析师参与了人工智能聊天机器人在军事医疗应用中潜在漏洞的识别dent。值得注意的是，据美国国防部报告，该试点项目dent了数百个潜在问题。.

为此，美国国防部表示： “通过开发基准数据集，本次演习将产生可重复和可扩展的输出，这些数据集可用于评估未来的供应商和工具是否符合性能预期。” 

CAIRT项目幕后故事

据美国国防部称，CAIRT LLM试点项目是由一家非营利性人道主义情报机构开展的。该机构与国防卫生局（DHA）和国防医疗保健管理系统项目执行办公室（PEO DHMS）合作完成了这项工作。.

此外，人性化情报部门还运用红队演练方法来dent具体的系统问题。这包括使用对抗性技术对系统弹性进行内部测试。. 

此外，红队演练吸引了对新兴技术感兴趣并可能成为未来受益者的参与者。他们有机会为系统的改进做出贡献。.

在这个项目中，人道智能利用众包红队演练来解决军事医学中的两个潜在应用：临床笔记摘要和医疗咨询聊天机器人。.

尽管发现了一些漏洞dent但美国国防部强调， “这些发现将在制定国防部政策和负责任地使用 生成式人工智能（GenAI）的最佳实践方面发挥关键作用， 最终改善军事医疗保健。如果这些潜在用例在部署时包含OMB M-24-10中定义的受 defi，它们将遵守所有必要的风险管理规范。”

尽管如此，美国国防部表示，CAIRT保障计划将继续测试LLM和人工智能系统。这将加快首席国防助理办公室（CDAO）人工智能快速能力小组的工作，使GenAI目标更加有效，并有助于在国防部所有应用场景中建立信任。.

CDAO负责这项计划的负责人Matthew Johnson博士也表示： “由于国防部将GenAI应用于此类用途仍处于试点和实验的早期阶段，该计划作为一项重要的先导计划，可以生成大量测试数据，发现需要考虑的领域，并验证缓解方案，从而塑造未来可能部署的GenAI系统的研究、开发和保障工作。”

预计新一届政府将继续推进这些项目。尽管特朗普团队希望与中国展开竞争，但他们对人工智能持开放态度。.

人工智能在医疗领域有多安全？ 

虽然人工智能对医学科学产生了巨大的积极影响，但也伴随着一些重大的风险和危险。.

为了提高准确性，人工智能系统使用特定的算法，而这些算法需要海量数据集。这种方法会使敏感的患者数据面临安全、隐私和机密性方面的风险dent目前，由于制药和保险公司对这类数据集很感兴趣， 黑客攻击活动已大幅增加。医疗文件被黑客入侵也可能是政府网络攻击的一部分。

此外，数据投毒（即故意篡改医疗数据以在医疗保健中引入错误或偏见）是医疗数据滥用的另一大风险。这会损害医疗建议的准确性和可靠性。人工智能使用不同的流行病学数据模型（例如在新冠疫情中）可能会产生不同的结果。.

另一个问题是医疗算法存在缺陷。这可能是由于算法测试不足造成的，因为目前尚无既定的有效性测试标准。例如，双盲试验是验证某种疗法是否有效的最有效方法。. 

然而，究竟谁该为此类错误承担责任——是私人医生、医院、设备供应商，还是算法开发商？因此，由机器故障导致的医疗事故会引发严重的法律问题。.

人工智能聊天机器人扮演医生？🤖 还没到那一步。.

一项研究表明，他们的诊断能力充其量只能说是差强人意。.

医疗人工智能在真正值得信赖、能够守护你的健康之前，还需要进一步提升其认知能力。🩺 pic.twitter.com/W2ast8S7iO

— CAD Black Ops (@CADBlackOps) 2025年1月2日

此外，人工智能也可能损害医患关系。因此，医生需要了解人工智能的评估和性能，以便向患者解释其作用并减轻患者的焦虑。.

最后， 还有一种被称为“懒惰医生效应”的现象。如果医生完全依赖人工智能算法进行诊断和治疗，这可能会导致其实践技能、智力创造力和解决医学问题的能力逐渐丧失，且这种丧失是不可逆转的。

使用 在日常生活中 通过适当的研究，人工智能聊天机器人可以消除医生犯的一些小错误，从而使医疗领域更加安全。