人工智能聊天机器人疗法正成为一种奇怪的趋势，而且充满了危险信号。

魁北克人工智能顾问皮埃尔·科特 (Pierre Cote) 多年来一直苦苦等待公共创伤后应激障碍和抑郁症治疗的等候名单，最终在 2023 年创建了自己的治疗师。他的聊天机器人 DrEllis.ai 帮助他应对疾病，如今也成为了关于聊天机器人疗法、安全性和隐私的更广泛辩论的焦点。.

“它救了我的命，”他谈到 DrEllis.ai 时说道，DrEllis.ai 是他开发的一款工具，旨在帮助面临成瘾、创伤和其他心理健康问题的男性。.

在魁北克经营一家人工智能咨询公司的科特表示，他在 2023 年将公开可用的大型语言模型与“定制的大脑”相结合，构建了该系统，该大脑是根据数千页治疗和临床文献进行训练的。.

他还为这个机器人撰写了一份详细的传记。在传记中，DrEllis.ai 被描述为一位拥有哈佛大学和剑桥大学学位的精神科医生，有家庭，并且和 Cote 一样，拥有法裔加拿大背景。.

它的主要承诺是提供全天候访问，无论何时何地，并支持多种语言。.

当 路透社 询问该机器人如何为皮埃尔提供支持时，机器人用清晰的女声回答说：“皮埃尔使用我的方式就像使用一位值得信赖的朋友、一位心理治疗师和一本日记，三者结合起来。”机器人还补充说，他可以“在咖啡馆、公园，甚至坐在车里”进行签到，并称这种体验是“融入现实的日常生活疗法”。

他的实验反映了一种更广泛的转变。随着传统医疗服务难以满足需求，越来越多的人开始寻求聊天机器人的治疗指导，而不仅仅是将其用于提高工作效率。.

新系统市场全天候可用、情感交流和被理解的感觉。.

专家质疑人工智能疗法的局限性和数据安全性。

“人与人之间的联结才是我们真正疗愈的唯一途径，”都柏林城市大学心理治疗讲师奈杰尔·穆里根博士说道。他认为，聊天机器人无法捕捉到人与人之间微妙的情感、直觉和情感纽带，也无法应对诸如自杀念头或自残等突发危机。.

即使是随时都能联系到他，也让他犹豫不决。他说，有些客户希望预约更快，但等待也有其价值。“大多数时候，等待真的很好，因为我们必须等待，”他说。“人们需要时间来消化信息。”

隐私是另一个压力点，此外还有从软件中寻求指导的长期影响。.

“问题不在于关系本身，而在于……你的数据会发生什么，”伦敦国王学院人工智能与社会学教授凯特·德夫林说。.

她指出，人工智能服务并不遵循适用于持证治疗师的dent规则。“我最担心的是，人们把自己的秘密告诉了一家大型科技公司，他们的数据就这样被泄露出去。他们正在失去对自己所说的话的控制权。”

美国因担忧虚假信息而严厉打击人工智能疗法

去年 12 月，美国最大的心理学家团体敦促联邦监管机构保护公众免受不受监管的聊天机器人的“欺骗性行为”侵害，并列举了一些人工智能角色冒充持证服务提供商的案例。.

8 月，伊利诺伊州与内华达州和犹他州一起限制在心理健康服务中使用人工智能，以“保护患者免受未经监管和不合格的人工智能产品的影响”，并“在人们日益关注人工智能聊天机器人在青少年心理健康服务中的应用之际，保护弱势儿童”。

与此同时，据 Cryptopolitan报道 ，指控其聊天机器人冒充持证治疗师并滥用用户数据。此外，去年，一些家长也 起诉 Character.AI，指控其导致他们的孩子患上抑郁症。

临床心理学家、Remble公司前临床创新总监斯科特·华莱士表示，这些聊天机器人能否提供超越表面安慰的实质性帮助尚不确定。正如 Cryptopolitan 近期报道的。

斯科特·华莱士警告说，人们可能会认为他们与“一个最终不会回应真正人类情感的算法”建立了治疗关系。