세계보건기구(WHO)는 SARAH라는 이름의 챗봇에 통합된 AI를 내놓았습니다. SARAH의 임무는 세계 보건에 관한 정보에 대한 접근을 보장하는 것입니다. 우리는 SARAH의 혁신적인 접근 방식을 언급합니다. 그럼에도 불구하고 여전히 필수적인 허위 의료 정보를 만들고 있습니다.
기술 혁신과 보건 교육의 만남
이러한 목적을 위한 WHO의 노력을 반영하여 SETHARA는 Smart AI Resource Assistant for Health의 약어입니다. 그녀는 기관에서 사용하는 최신 디지털 건강 수단을 대표합니다. 언제 어디서나 치료 요구 사항을 충족하도록 개발된 SARAH는 정신 건강 및 삶의 선택을 포함하여 8개 언어로 정보를 제공할 수 있습니다.
이는 공중 보건 교육에 기술을 탑재하고 건강 보장의 전 세계적 격차를 해소하려는 WHO 전략의 일부를 구성하는 조치 중 하나입니다. 그러나 WHO는 배아가 역사상 프로토타입임에도 불구하고 약점이 있음을 인정했다. 지금까지는 일반적으로 프로그래머가 WHO의 권한 분야 내에 머물도록 맞춤 제작되었으며 특정 문제에 대한 전문적인 도움을 찾는 방법에 대한 정보를 제공합니다. 봇은 이러한 서비스를 지속적으로 제공할 수 없으며 WebMD와 같은 도구와 비교할 수도 없습니다.
AI 정확성 및 보안의 과제
SARAH는 배포부터 쉬운 방법만 수행된 것이 아닙니다. AI 챗봇은 OpenAI의 ChatGPT 3.5 모델을 기반으로 합니다. 오래된 정보와 일부 잘못된 답변을 제공하는 데 문제가 있었습니다. 이에 대한 예는 새로운 알츠하이머 약물의 승인 상태에 대한 잘못된 언급입니다. 이는 2021년 9월까지의 데이터만 포함하는 지속적인 훈련 데이터가 부족함을 반영합니다.
SARAH가 자주 경험하는 또 다른 일은 주제나 목적에서 벗어날 수 있는 답변을 제시하는 것입니다. AI 개발에서 알려진 문제는 환각을 언급하는 것입니다. 요약하자면, 이러한 부정확성은 대중에게 잘못된 정보를 제공할 위험을 높일 수 있습니다. 따라서 세계보건기구(WHO)는 특히 인간의 건강 비상 상황에서 회복력을 향상시키기 위해 연구자와 정부 기관의 의견을 구하는 방법을 모색하고 있습니다.
이는 의료 인력의 AI 사용에 대한 우려도 동반됩니다. SORAH는 얼굴 인식 기술을 적용하여 사용자의 감정을 감지하고 추론합니다. 그들은 데이터 보호 및 개인 정보 보호를 제공하여 얼굴을 표시하지 않을 것을 약속합니다. 오픈 소스 영속성 모델은 AI를 기반으로 사이버 공격에 대한 노출이 증가한다는 점도 특징으로 합니다.
향후 방향과 윤리적 고려사항
WHO는 여전히 SARAH를 유지하고 있으며 곧 아바타 외형 변경 및 상호 작용 능력 도입과 같은 업데이트가 나올 예정입니다. 실제로 WHO는 이해관계자를 위한 윤리적 원칙을 발표하고 데이터 투명성과 사용자 보안에 대한 개념을 제시했습니다. 인공 지능을 기반으로 한 기술인 SARAH는 WHO가 건강 메시지 전파에 AI를 통합하는 것을 경계하면서 설계의 한 단계 더 발전했습니다. 그러나 이 기술에는 조직이 즉시 지적하는 몇 가지 약점이 있습니다.
조직은 SARAH가 의도한 바가 아닌 의료 서비스의 변혁자가 아니라 전 세계적으로 공중 보건 인식과 교육을 확산시키는 지원 도구임을 투명하게 밝혔습니다. 몇 가지 장애물에도 불구하고 WHO의 노력은 더 넓은 범위의 청중을 대상으로 하고 전 세계적으로 건강 정보를 더 많이 이용할 수 있도록 지원하기 때문에 보건 교육에 인공 지능을 사용하는 데 상당한 진전이 있음을 보여줍니다.
이 기사는 원래 Fortune
