ChatGPT의 정확한 약물 정보 제공 한계를 보여주는 경고 연구

최근 연구는 OpenAI의 인기 채팅봇인 ChatGPT 무료 버전이 약물 관련 정보를 제공하는 데 있어 신뢰성에 의문을 제기했습니다. 롱아일랜드 대학교 약학대학의 약사들이 수행한 연구에 따르면, ChatGPT의 약물 관련 질문에 대한 답변은 종종 부정확하거나 불완전합니다. 이 결과는 약물 정보 제공을 위해 ChatGPT에 의존하는 환자들과 의료 전문가들의 주의가 필요함을 강조합니다.

이 연구에서는 ChatGPT에게 39개의 약물 관련 질문을 제시했으며, 그중 10개만 만족스러운 답변을 받았습니다. 나머지 29개 질문은 부정확하게 처리되었거나 불완전하거나 둘 다 해당되었습니다. 이러한 답변의 불일치는 채팅봇이 신뢰할 수 있는 약물 정보를 제공하는 능력에 상당한 격차가 있음을 보여줍니다.

약학 질의응답의 부적절함

사라 그로스만이 이끄는 연구팀은 ChatGPT의 성능을 동일한 질문 세트에 대한 약사들의 답변과 비교하여 평가했습니다. 질문들은 2022년 1월부터 2023년 4월까지 롱아일랜드 대학교 약학대학의 약물 정보 서비스에서 접수된 실제 문의였습니다. 초기 45개 질문 중 문헌 기반 답변이 없는 6개는 제외되었습니다.

ChatGPT는 11개 질문에 대해 직접적으로 답변하지 못했고, 10개 질문에 대해 부정확한 답변을 제공했으며, 12개 질문에 대해 잘못되거나 불완전한 답변을 제공했습니다. 연구원들은 또한 ChatGPT가 요청 시 참조 자료를 제공한 경우가 8회뿐이었으며, 모두 존재하지 않는 출처를 인용했다고 지적했습니다. 이는 채팅봇의 참조 및 검증 과정에 대한 우려를 제기합니다.

특히 우려스러운 사례는 ChatGPT가 항바이러스제 팍스로비드와 고혈압 치료제 베라파밀 사이에 약물 상호작용이 없다고 잘못 주장한 것입니다. 실제로 이 두 약물을 함께 복용하면 혈압이 과도하게 하강하여 심각한 건강 위험을 초래할 수 있습니다. 많은 사용자가 ChatGPT의 데이터 한계를 인지하지 못할 가능성이 높으므로, 이는 특히 해로운 결과를 초래할 수 있어 더욱 우려됩니다.

의료 분야 AI의 함의

ChatGPT의 인기와 광범위한 사용 맥락에서 이 연구 결과는 중요합니다. 2022년 출시된 ChatGPT는 빠르게 가장 빠르게 성장하는 소비자 인터넷 애플리케이션 중 하나가 되었으며, 10월 한 달만 해도 전 세계적으로 약 17억 건의 방문을 기록했습니다. 그러나 무료 버전은 2021년 9월까지의 데이터에 제한되어 있어 최근 의학적 발전과 혁신과 동떨어져 있을 가능성이 있습니다.

유료 버전의 ChatGPT는 이제 실시간 인터넷 검색 기능을 포함하고 있지만, 이 연구는 일반 대중의 경험을 반영하기 위해 주로 무료 버전에 초점을 맞추었습니다. 연구원들은 ChatGPT의 답변을 신뢰할 수 있는 의료 전문가나 신뢰할 수 있는 의학 출처와 함께 확인하는 것의 중요성을 강조합니다.

이 연구는 의료와 같은 민감한 영역에서 AI의 한계에 대한 중요한 교훈을 제공합니다. ChatGPT와 같은 AI 기술은 접근성과 편의성 측면에서 상당한 이점을 제공하지만, 현재 상태는 건강과 웰빙과 같은 문제와 관련하여 신중한 검토가 필요합니다. 사용자는 이러한 출처의 정보에 대해 주의해야 하며, 항상 자격을 갖춘 의료 전문가에게 의료 조언을 구해야 합니다.

롱아일랜드 대학교 약학대학의 연구는 의료 분야, 특히 정확한 약물 정보 제공에서 AI의 한계에 대한 중요한 경고입니다. AI가 우리 삶의 다양한 측면에 계속 통합됨에 따라, 그 한계를 인식하고 의료와 같은 중요한 영역에서 사용 시 주의를 기울이는 것이 필수적입니다.