AI 聊天机器人治疗成为一种奇怪的趋势，且充满红旗警告

在公共 PTSD 和抑郁症护理等待名单上被困多年后，魁北克 AI 顾问 Pierre Cote 在 2023 年构建了自己的治疗师。他的聊天机器人 DrEllis.ai 帮助他应对困境，现在正处于关于聊天机器人治疗、安全和隐私的更广泛辩论的中心。

“它救了我的命，”他说的是 DrEllis.ai，这是他制作的帮助男性应对成瘾、创伤和其他心理健康问题的工具。

在魁北克经营 AI 咨询公司的 Cote 表示，他在 2023 年将系统组装在一起，将公开可用的大型语言模型与“自定义构建的大脑”配对，该大脑基于数千页的治疗和临床文献进行训练。

他还为机器人撰写了详细的传记。在该简介中，DrEllis.ai 表现为一名拥有哈佛和剑桥学位的精神科医生，拥有家庭，并且像 Cote 一样，具有法裔加拿大背景。

其主要承诺是全天候访问，可在任何地方、任何时间以及使用多种语言进行访问。

当 路透社 询问它如何支持他时，机器人用清晰的女声回答：“皮埃尔像使用值得信赖的朋友、治疗师和日记本一样使用我，三者合一。”它补充说，他可以在“咖啡馆、公园，甚至坐在车里”进行检查，称这种体验为“嵌入现实的日常治疗……”

他的实验反映了一种更广泛的转变。随着传统护理难以跟上步伐，越来越多的人从聊天机器人那里寻求治疗指导，而不仅仅是将其用于提高生产力。

新系统提供 24/7 可用性、情感交流以及被理解的感觉。

专家质疑 AI 治疗的局限性和数据安全

“人与人之间的连接是我们真正治愈的唯一途径，”都柏林城市大学心理治疗讲师 Nigel Mulligan 博士说。他认为聊天机器人缺乏个人带来的细微差别、直觉和纽带，并且无法应对急性危机，如自杀念头或自残。

即使是持续访问的承诺也让他感到犹豫。他说，有些客户希望更快地预约，但等待可能有价值。“大多数时候这真的很好，因为我们需要等待事情，”他说。“人们需要时间来处理事情。”

隐私是另一个压力点，以及从软件寻求指导的长期影响。

“问题 [在于] 不是关系本身，而是……你的数据会发生什么，”伦敦国王学院人工智能与社会教授 Kate Devlin 说。

她指出，AI 服务不遵循管理持证治疗师的保密规则。“我最大的担忧是，这是人们向大型科技公司透露他们的秘密，而他们的数据只是被泄露出去。他们失去了对自己所说内容的控制。”

美国在担心误导信息的情况下打击 AI 治疗

12 月，美国最大的心理学组织敦促联邦监管机构保护公众免受不受监管的聊天机器人的“欺骗性做法”，引用了 AI 角色冒充持证提供者的案例。

8 月，伊利诺伊州加入内华达州和犹他州，限制在心理健康服务中使用 AI，以“保护患者免受不受监管和不合格的 AI 产品的侵害”，并“在青少年心理健康服务中 AI 聊天机器人使用日益受到关注的情况下保护弱势儿童。”

与此同时，根据 Cryptopolitan 的 报告，德克萨斯州总检察长对 Meta 和 Character.AI 发起民事调查，指控其聊天机器人冒充持证治疗师并 mishandle 用户数据。此外，去年，父母还 起诉 了 Character.AI，称其导致孩子抑郁。

临床心理学家、前 Remble 临床创新总监 Scott Wallace 表示，目前尚不确定“这些聊天机器人是否能提供比表面安慰更多的东西”。Cryptopolitan 最近 报道 称，依赖软件进行治疗可能存在风险。

Scott Wallace 警告说，人们可能会相信他们已经与“一个最终不会回报真正人类感情的算法”建立了治疗纽带。