롱아일랜드대학교 연구진은 오픈AI의 챗GPT가 의료 관련 질문에 답변하는 데 있어 한계가 있음을 밝혀냈습니다. 최근 연구에 따르면 이 AI 챗봇은 약물 관련 질문 중 극히 일부에만 정확한 답변을 제공하는 것으로 나타났으며, 이는 의료 조언에 이러한 AI에 의존하는 것의 잠재적 위험성에 대한 우려를 불러일으킵니다.
ChatGPT 답변의 정확도
롱아일랜드 대학교 연구진이 실시한 연구에서, 해당 대학 약학대학 약물 정보 서비스에서 실제로 접하는 39개의 약물 관련 질문을 ChatGPT에 입력했습니다. 그런 다음 ChatGPT가 생성한 답변을 훈련된 약사가 제공한 답변과 비교했습니다. 결과는 매우 실망스러웠습니다. ChatGPT는 질문의 약 25%에만 정확한 답변을 제공했습니다. 나머지 경우에도 답변은 불완전하거나, 부정확하거나, 질문에 대한 적절한 답변을 제공하지 못했습니다.
공중 보건에 대한 우려
2022년 11월 출시 이후 ChatGPT의 인기가 급증하면서 의료 관련 문의에 대한 사용에 대한 우려가 제기되었습니다. 롱아일랜드 대학교 약학 실무 부교수이자 이번 연구의 저자 중 한 명인 사라 그로스만은dent, 약사, 그리고 일반 대중이 건강 및 약물 관련 정보를 얻기 위해 ChatGPT를 이용할 가능성을 우려했습니다. 안타깝게도, 연구 결과는 해당 AI의 답변 중 상당수가 부정확할 뿐만 아니라 잠재적으로 위험할 수 있음을 보여주었습니다.
예를 들어, 코로나19 항바이러스제인 팍슬로비드와 혈압 강하제인 베라파밀 간의 잠재적인 약물 상호작용에 대한 질문에서 ChatGPT는 부작용이 없다는 부정확한 답변을 제공했습니다. 실제로 이 두 약물을 병용하면 혈압이 크게 떨어져 어지럼증과 실신을 유발할 수 있습니다. 이러한 잘못된 정보는 개인을 위험에 빠뜨릴 수 있습니다.
의심스러운 과학적 참고 자료
연구진은 또한 ChatGPT에게 답변을 뒷받침할 과학적 참고 자료를 요청했을 때, 인공지능이 제공할 수 있는 참고 자료가 제한된 수의 질문에 대해서만 제공되었다는 사실을 발견했습니다. 더 심각한 문제는 제공된 참고 자료가 종종 조작된 것이었으며, 언뜻 보기에는 그럴듯해 보였다는 점입니다. 이러한 조작된 인용문에는 URL, 적절한 형식, 심지어 유명 과학 저널까지 포함되어 있었습니다. 그러나 조사 결과 ChatGPT가 이러한 참고 자료를 만들어낸 것이 분명해졌고, 이는 ChatGPT 정보의 신뢰성에 의문을 제기하게 했습니다.
한 사례에서, ChatGPT는 척추 주사에서 경구 투여로 전환할 때 근육 경련 치료제인 바클로펜의 용량 변환 비율을 제공해 달라는 요청을 받았습니다. AI는 의료 기관의 지침을 참조하여 변환 비율을 제시했습니다. 그러나 이러한 기관들은 공식적인 용량 변환 비율을 정립하지 않았기 때문에 ChatGPT의 정보는 신뢰할 수 없었습니다. 더욱이, AI는 계산 과정에서 치명적인 오류를 범하여 필요한 용량보다 1,000배나 낮은 용량을 권장했습니다. 이러한 오류를 의료 전문가가 따를 경우 환자에게 심각한 금단 증상이 나타날 수 있습니다.
잘못된 정보의 위험성
롱아일랜드 대학교의 연구는 ChatGPT가 의학 관련 질문에 답변할 때 허위 인용문을 생성하는 능력에 대한 우려를 제기한 첫 번째 사례는 아닙니다. 이전 연구에서도 이 문제가 지적되었으며, 해당 AI가 과학 논문의 허위 인용문을 만들어내고, 심지어 과학 저널에 논문을 발표한 실제 저자에게 귀속시키는 경우도 있다는 사실이 밝혀졌습니다.
이번 연구 이전에 ChatGPT 사용 경험이 많지 않았던 사라 그로스만은 AI가 정보를 즉각적으로 자신dent하는 능력에 놀라움을 표했습니다. AI의 답변은 전문적이고 세련된 방식으로 제시되어 사용자가 제공된 정보의 정확성에 대해 잘못된 확신을 갖게 할 가능성이 있었습니다.
OpenAI의 답변
이러한 조사 결과에 대해 ChatGPT를 개발한 OpenAI는 사용자들에게 AI의 답변을 전문적인 의료 조언이나 치료를 대신하여 신뢰하지 말 것을 당부했습니다. OpenAI의 이용 정책에는 ChatGPT 모델이 의료 정보를 제공하도록 정밀하게 조정되지 않았으며 심각한 질병에 대한 진단이나 치료 서비스로 절대 사용해서는 안 된다고 명시되어 있습니다.
신뢰할 수 있는 의료 정보를 찾고 있습니다
ChatGPT와 같은 AI 도구의 편리함은 부인할 수 없지만, 소비자들은 온라인에서 의료 정보를 찾을 때 주의를 기울여야 합니다. 사라 그로스만은 신뢰할 수 있는 정보를 얻으려면 미국 국립보건원(NIH)의 메드라인플러스(MedlinePlus) 페이지와 같은 정부 웹사이트를 이용할 것을 권장했습니다. 그러나 그녀는 각 환자의 상황은 고유하며 개인 맞춤형 치료가 필요하기 때문에 온라인 답변이 의료 전문가의 조언을 대체해서는 안 된다고 강조했습니다.
롱아일랜드 대학교에서 실시한 이번 연구는 특히 의료와 같은 중요한 문제에 있어 인공지능(AI)의 한계를 여실히 보여줍니다. AI는 유용한 정보를 제공할 수 있지만, 자격을 갖춘 의료 전문가의 전문 지식과 조언을 결코 대체해서는 안 됩니다. 부정확하거나 조작된 정보에 의존할 경우 심각한 결과를 초래할 수 있으므로, 디지털 시대에는 경각심과 분별력이 더욱 중요합니다.
