世卫组织推出有缺陷的AI聊天机器人SARAH

世界卫生组织（WHO）推出了一款由名为SARAH的聊天机器人集成的AI。SARAH的使命是覆盖全球健康信息的访问。我们提到SARAH的创新方法。尽管如此，它仍然会提供一些重要的错误医疗信息。

技术创新与健康教育相结合

反映世卫组织为此做出的努力，SETHARA是智能AI健康资源助手（Smart AI Resource Assistant for Health）的缩写。她代表了该机构使用的最新数字健康手段。为了满足随时随地护理需求而开发的SARAH可以用八种语言提供信息，包括心理健康和生活选择。 

这是世卫组织战略的一部分，旨在将技术纳入公共健康教育并缩小全球健康覆盖差距。然而，世卫组织承认，尽管它是历史上的原型，但该胚胎存在弱点。迄今为止，它通常由程序员定制，以保持在世卫组织授权领域内，并提供如何就特定问题寻找专业帮助的信息。该机器人不能持续提供此类服务，也不能与WebMD等工具相比。

AI准确性和安全性的挑战

SARAH的部署并非易事。该AI聊天机器人基于OpenAI的ChatGPT 3.5模型；它在提供过时信息以及一些错误答案方面存在问题。一个例子是它错误地提及了一种新阿尔茨海默病药物的批准状态，这反映了其缺乏持续训练数据，其数据仅包括截至2021年9月的数据。

SARAH经常经历的另一个问题是呈现可能超出主题或目的的答案，这是AI开发中已知的被称为幻觉的问题。总之，这些不准确性可能会引发公众误传的危险。因此，世界卫生组织（WHO）正在寻求研究人员和政府机构的意见以提高韧性，特别是在人类健康紧急情况下。

这也伴随着对卫生工作者使用AI的担忧。SORAH应用面部识别技术来检测和推断用户的情绪。他们承诺通过提供数据保护和隐私来避免展示他们的面孔。开源永续模式也因AI基础上的网络攻击暴露增加而受到标记。

未来方向和伦理考量

世卫组织仍在维护SARAH，很快将有更新，如引入变化的头像外观和交互能力。事实上，世卫组织为其利益相关者宣布了伦理原则，并提出了数据透明度和用户安全的概念。SARAH，这是一种基于人工智能的技术，被提升到了其设计的另一个水平，因为世卫组织对将AI整合到传播健康信息中持谨慎态度。然而，该技术有几个弱点，该组织迅速指出了这些弱点。 

该组织明确透明地表示，SARAH不是医疗服务的转换器，这不是其目标，而是一个支持工具，用于在全球范围内传播公共卫生意识和教育。尽管存在一些障碍，世卫组织的努力展示了在健康教育中使用人工智能的显著进展，因为它将面向更广泛的受众，并帮助全球健康信息更加可用。