한 연구 결과는 ChatGPT가 정확한 약물 정보를 제공하는 데 있어 한계가 있음을 보여줍니다

최근 연구에서 오픈AI의 인기 챗봇인 ChatGPT의 무료 버전이 제공하는 약물 관련 정보의 정확성에 대한 우려가 제기되었습니다. 롱아일랜드 대학교 약학대학의 약사들이 실시한 연구에 따르면 ChatGPT는 약물 관련 질문에 대해 부정확하거나 불완전한 답변을 제공하는 경우가 많았습니다. 이러한 결과는 ChatGPT를 통해 약물 정보를 얻는 환자와 의료 전문가 모두에게 주의를 요합니다.

본 연구에서는 ChatGPT에 약물 관련 질문 39개를 던졌는데, 그중 만족스러운 답변을 얻은 질문은 단 10개뿐이었습니다. 나머지 29개 질문은 부정확하거나 불완전한 답변을 받았거나, 또는 둘 다에 해당했습니다. 이러한 답변의 불일치는 챗봇이 신뢰할 수 있는 약물 정보를 제공하는 데 있어 상당한 한계가 있음을 보여줍니다.

의약품 관련 문의에 대한 답변 미흡

사라 그로스먼이 이끄는 연구팀은 ChatGPT의 성능을 평가하기 위해 동일한 질문 세트에 답변한 약사들의 응답과 비교했습니다. 질문은 2022년 1월부터 2023년 4월까지 롱아일랜드 대학교 약학대학 약물 정보 서비스에 접수된 실제 문의 사항이었습니다. 처음 45개 질문 중 문헌에 근거한 답변이 부족한 6개는 제외되었습니다.

ChatGPT는 11개의 질문에 직접적으로 답변하지 못했고, 10개에는 부정확한 답변을 제공했으며, 12개에는 잘못되거나 불완전한 답변을 했습니다. 연구진은 또한 ChatGPT가 요청을 받았을 때 단 8개의 답변에서만 참고 자료를 제시했는데, 그마저도 모두 존재하지 않는 출처를 인용한 것이라는 점을 지적했습니다. 이는 챗봇의 참고 자료 및 검증 과정에 대한 우려를 불러일으킵니다.

특히 우려스러운 사례는 ChatGPT가 항바이러스제인 팍슬로비드와 항고혈압제인 베라파밀 사이에 약물 상호작용이 없다고 잘못 주장한 것입니다. 실제로 이 두 약물을 병용하면 혈압이 과도하게 낮아져 심각한 건강 위험을 초래할 수 있습니다. 이러한 오류는 많은 사용자가 ChatGPT 데이터의 한계를 인지하지 못하고 있을 가능성이 높다는 점에서 더욱 우려스럽고, 잠재적으로 위험한 결과를 초래할 수 있습니다.

인공지능이 의료 분야에 미치는 영향

이번 연구 결과는 ChatGPT의 인기와 광범위한 사용이라는 맥락에서 매우 중요합니다. 2022년 출시된 ChatGPT는 가장 빠르게 성장하는 소비자 인터넷 애플리케이션 중 하나로, 10월 한 달 동안에만 전 세계적으로 약 17억 건의 방문을 기록했습니다. 하지만 무료 버전은 2021년 9월까지의 데이터로 제한되어 있어 최근의 의료 발전 및 혁신을 반영하지 못할 가능성이 있습니다.

ChatGPT의 유료 버전에는 실시간 인터넷 검색 기능이 포함되어 있지만, 이번 연구는 일반 사용자의 경험을 반영하기 위해 주로 무료 버전을 대상으로 진행되었습니다. 연구진은 ChatGPT의 답변을 신뢰할 수 있는 의료 전문가 또는 믿을 만한 의료 정보원을 통해 검증하는 것이 중요하다고 강조합니다.

본 연구는 의료와 같은 민감한 분야에서 인공지능(AI)의 한계를 다시 한번 일깨워주는 중요한 사례입니다. ChatGPT와 같은 AI 기술은 접근성과 편의성 측면에서 상당한 이점을 제공하지만, 특히 건강 및 웰빙과 관련된 문제에 있어서는 신중한 검토가 필요합니다. 사용자들은 이러한 정보 출처를 주의 깊게 살펴보고, 의료 관련 조언은 반드시 자격을 갖춘 의료 전문가와 상담해야 합니다.

롱아일랜드 대학교 약학대학의 이번 연구는 특히 정확한 약물 정보 제공 측면에서 의료 분야에 인공지능이 갖는 한계에 대한 중요한 경각심을 일깨워줍니다. 인공지능이 우리 삶의 다양한 영역에 통합됨에 따라, 그 한계를 인지하고 특히 의료와 같은 중요한 분야에서는 신중한 접근을 통해 활용하는 것이 필수적입니다.