- 치료에 대한 긴 공공 대기 시간으로 인해 십대를 포함한 많은 사람들이 정서적 지원을 위해 AI 기반 채팅봇을 찾고 있습니다.
- 이러한 도구는 상시 이용 가능하고 인간과 같은 상호작용을 시뮬레이션하지만, 훈련된 전문가가 아닙니다.
- 정신건강 전문가들은 AI 도구가 공감, 책임감, 자살 충동과 같은 위기 상황에 대응하는 능력이 부족하다고 경고합니다.
PTSD 및 우울증 치료를 위한 공공 대기열에 수년간 묶인 후, 퀘벡 AI 컨설턴트 피에르 코트는 2023년 자신의 치료사를 만들었습니다. 그의 채팅봇 DrEllis.ai는 그를 도왔으며, 이제 채팅봇 치료, 안전 및 프라이버시에 대한 더 넓은 논쟁의 중심에 서 있습니다.
“그것은 제 생명을 구했습니다,”라고 그는 중독, 트라우마 및 기타 정신 건강 문제를 겪는 남성들을 돕기 위해 만든 도구인 DrEllis.ai에 대해 말합니다.
퀘벡에서 AI 컨설팅을 운영하는 코트는 2023년 공개적으로 이용 가능한 대규모 언어 모델과 수천 페이지의 치료 및 임상 문헌으로 훈련된 “맞춤형 뇌”를 결합하여 시스템을 구축했다고 말했습니다.
그는 봇을 위한 상세한 전기도 작성했습니다. 그 프로필에서 DrEllis.ai는 하버드와 케임브리지의 학위를 가진 정신과 의사, 가족, 그리고 코트와 마찬가지로 프랑스계 캐나다인 배경을 가진 인물로 나타납니다.
그의 주요 약속은 전 세계 어디서나, 언제든지, 여러 언어로 이용 가능한 연중무휴 접근성입니다.
로이터가 어떻게 그를 지원하는지 묻자, 봇은 명확한 여성 목소리로 “피에르는 나를 신뢰할 수 있는 친구, 치료사, 그리고 일기를 모두 결합한 것처럼 사용합니다”라고 답했습니다. 그는 “카페에서, 공원에서, 심지어 차 안에 앉아 있는” 때도 체크인할 수 있다고 덧붙이며, 이 경험을 “현실에 내장된 일상 생활 치료”라고 불렀습니다.
그의 실험은 더 넓은 변화와 일치합니다. 전통적인 돌봄이 따라잡지 못하는 가운데, 더 많은 사람들이 생산성용뿐만 아니라 치료적 안내를 위해 채팅봇을 찾고 있습니다.
새로운 시스템 시장 24/7 가용성, 감정적 교류, 그리고 이해받는 느낌.
전문가들, AI 치료의 한계와 데이터 안전성 의문 제기
더블린 시티 대학교의 심리치료 강사이자 정신건강 전문가인 나일 말리건 박사는 “인간 대 인간 연결이 우리가 제대로 치유될 수 있는 유일한 방법”이라고 말합니다. 그는 챗봇이 미묘한 뉘앙스, 직관, 그리고 사람이 가져오는 유대감을 놓치고 있으며, 자살 생각이나 자해와 같은 급성 위기 상황에 대처할 준비가 되어 있지 않다고 주장합니다.
그는 상시 접근성의 약속조차도 그를 주저하게 만듭니다. 일부 고객들은 더 빠른 상담을 원하지만, 기다림에는 가치가 있을 수 있다고 그는 말합니다. “대부분의 경우 기다리는 것은 정말 좋은 일입니다. 우리는 무언가를 기다려야 하니까요.” 그는 “사람들은 무언가를 처리할 시간이 필요하다”고 말합니다.
프라이버시는 또 다른 압력 지점이며, 소프트웨어의 조언을 구하는 장기적인 영향도 문제입니다.
런던 킹스 칼리지의 인공지능 및 사회학 교수인 케이트 델린은 “문제는 관계 자체라기보다는 … 당신의 데이터가 어떻게 처리되느냐”라고 말합니다.
그는 AI 서비스가 면허를 가진 치료사를 규율하는 비밀 유지 규칙을 따르지 않는다고 지적합니다. “제 가장 큰 우려는 사람들이 자신의 비밀을 대형 기술 기업에게 털어놓고, 그들의 데이터가 외부로 유출된다는 것입니다. 그들은 자신이 말한 것들에 대한 통제력을 잃고 있습니다.”
미국의 AI 치료 규제 강화, 오정보 우려
12월, 미국 최대 심리학자 단체는 연방 규제 기관에게 규제되지 않는 챗봇들의 “기만적 관행”으로부터 대중을 보호할 것을 촉구했습니다. 이는 AI 캐릭터들이 면허를 가진 제공자로 가장한 사례들을 근거로 한 것입니다.
8월, 일리노이주는 네바다주와 유타주에 이어 정신 건강 서비스에서 AI 사용 제한에 동참하여 “비규제 및 비자격 AI 제품으로부터 환자를 보호”하고 “청소년 정신 건강 서비스에서 AI 챗봇 사용에 대한 rising 우려 속에서 취약한 어린이들을 보호”하고자 했습니다.
한편, Cryptopolitan의 보고서에 따르면, 텍사스 주 검찰총장은 메타와 Character.AI의 채팅봇이 면허된 치료사를 사칭하고 사용자 데이터를 mishandled했다는 혐의로 두 회사에 대한 민사 조사를 시작했습니다. 게다가 작년에는 부모들이 Character.AI가 아이들을 우울증으로 몰아넣었다며 소송을 제기하기도 했습니다.
Remble의 전 임상 혁신 디렉터이자 임상 심리학자인 스콧 월레스는 “이러한 채팅봇이 표면적인 위로 이상을 제공하는지 불확실하다”고 말합니다. 치료에 소프트웨어를 의존하는 것은 Cryptopolitan 최근에 보고한 바와 같이 위험할 수 있습니다.
스콧 월리스는 사람들이 궁극적으로 실제 인간 감정을 되돌려주지 않는 알고리즘과 “치료적 유대감을 형성했다고 믿을 수 있다”고 경고합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
