WHO, 결함에도 불구하고 AI 챗봇 SARAH 도입

세계보건기구(WHO)는 SARAH라는 이름의 챗봇에 인공지능(AI)을 접목했습니다. SARAH의 목표는 전 세계 보건 정보 접근성을 높이는 것입니다. SARAH의 혁신적인 접근 방식에는 주목할 만하지만, 여전히 일부 중요한 의학 정보를 잘못 제공하는 문제점도 있습니다.

기술 혁신과 보건 교육의 만남

세계보건기구(WHO)의 이러한 노력을 반영하여 개발된 세타라(SETHARA)는 스마트 AI 건강 자원 도우미(Smart AI Resource Assistant for Health)의 약자입니다. 세타라는 WHO에서 사용하는 최신 디지털 건강 관리 도구를 대표합니다. 언제 어디서든 필요한 의료 서비스를 제공할 수 있도록 개발된 세타라는 정신 건강 및 삶의 선택에 관한 정보를 8개 언어로 제공합니다. 

이는 세계보건기구(WHO)가 공중보건 교육에 기술을 접목하고 전 세계 의료 서비스 격차를 해소하기 위한 전략의 일환으로 추진하는 조치 중 하나입니다. 그러나 WHO는 이 챗봇이 역사상 최초의 프로토타입임에도 불구하고 여러 가지 약점을 가지고 있다고 인정했습니다. 현재까지 프로그래머들은 챗봇을 WHO의 임무 범위 내에 머물도록 수정해 왔으며, 특정 문제에 대한 전문가의 도움을 찾는 방법을 안내하는 데 그치고 있습니다. 하지만 이 챗봇은 지속적인 서비스를 제공할 수 없으며, 웹엠디(WebMD)와 같은 도구와는 비교할 수 없습니다.

인공지능 정확성과 보안의 과제

SARAH는 배포 과정에서 쉬운 길만 택한 것은 아닙니다. 이 AI 챗봇은 OpenAI의 ChatGPT 3.5 모델을 기반으로 하지만, 오래된 정보를 제공하거나 잘못된 답변을 하는 등의 문제를 보여왔습니다. 예를 들어, 새로운 알츠하이머 치료제의 승인 상태에 대해 잘못된 정보를 제공했는데, 이는 2021년 9월 이후의 데이터만 포함하고 있어 최신 학습 데이터가 부족하기 때문입니다.

사라가 자주 겪는 또 다른 문제는 주제나 목적과 동떨어진 답변을 내놓는다는 점입니다. 이는 인공지능 개발에서 흔히 발생하는 문제로, 마치 환각처럼 느껴질 수 있습니다. 요컨대, 이러한 부정확한 정보는 대중의 잘못된 정보 확산 위험을 높일 수 있습니다. 따라서 세계보건기구(WHO)는 연구자 및 정부 기관의 의견을 수렴하여 특히 인류 보건 비상사태에 대한 대응력을 강화하고자 합니다.

이와 더불어 의료 종사자의 AI 사용에 대한 우려도 제기되고 있습니다. SORAH는 안면 인식 기술을 활용하여 사용자의 감정을 감지하고 추론합니다. 데이터 보호 및 개인정보 보호를 통해 사용자의 얼굴을 노출하지 않겠다고 약속합니다. 또한 오픈 소스 기반의 지속 가능성 모델은 AI의 핵심 요소에 대한 사이버 공격에 더욱 취약하다는 특징도 보입니다.

향후 방향 및 윤리적 고려사항

WHO는 SARAH를 지속적으로 관리하고 있으며, 아바타 외형 변경 및 상호작용 기능 도입과 같은 업데이트를 곧 진행할 예정입니다. WHO는 이해관계자를 위한 윤리 원칙을 발표하고 데이터 투명성과 사용자 보안의 중요성을 강조했습니다. 인공지능 기반 기술인 SARAH는 WHO가 보건 정보 확산에 AI를 통합하는 데 신중을 기함에 따라 설계가 한 단계 더 발전했습니다. 그러나 이 기술에는 몇 가지 약점이 있으며, WHO는 이러한 약점을 즉시 지적하고 있습니다. 

해당 기관은 SARAH가 의료 서비스를 혁신하는 것이 아니라, 전 세계적으로 공중 보건 인식과 교육을 확산하는 데 도움이 되는 보조 도구임을 명확히 밝히고 있습니다. 몇 가지 어려움에도 불구하고, WHO의 이러한 노력은 인공지능을 활용한 보건 교육에 상당한 진전을 보여주고 있으며, 더 넓은 범위의 사람들에게 정보를 제공하고 전 세계적으로 보건 정보 접근성을 높이는 데 기여할 것입니다.