응급 상황에서의 AI 불일치가 우려를 자아냄

최근 워싱턴 주립대학교 Elson S. Floyd 의과대학의 연구는 응급 의료 상황에서 인공지능(AI)의 잠재적 장벽에 대한 핵심 정보를 제공합니다. 게재된 PLOS One 연구에서 저자들은 OpenAI의 ChatGPT 프로그램이 흉통 사례에서 시뮬레이션된 환자의 심장 위험을 결정하는 능력을 탐구했습니다.

일관성 없는 결론

결과들은 동일한 환자 데이터가 입력될 때 ChatGPT의 결론에서 문제적인 수준의 변동성을 보여줍니다. 수석 연구원인 Thomas Heston 박사의 말에 따르면, ChatGPT는 일관된 방식으로 작동하지 않습니다. 동일한 데이터를 제시할 때, ChatGPT는 첫 번째에는 낮은 위험, 두 번째에는 중간 위험, 심지어 때로는 높은 위험 등급을 부여하기도 합니다.

이 격차는 생명을 위협하는 중증 사례에서 매우 심각합니다. 이러한 경우, 필수적이고 객관적인 평가는 의료인이 정확하고 적절한 조치를 취하는 데 큰 의미를 가집니다. 환자는 다양한 질병으로 인해 흉통을 경험할 수 있습니다. 따라서 의사는 환자를 신속하게 검사하고 적시에 치료를 수행하여 환자에게 적절한 돌봄을 제공해야 합니다.

연구는 또한 ChatGPT의 성능이 의사가 환자의 심장 위험을 평가하는 데 사용하는 전통적인 방법과 비교할 때 약하다는 것을 발견했습니다. 오늘날 의사는 환자의 심장 질환 정도를 나타내는 지표인 TIMI 및 HEART 프로토콜에 따라 약 2:1의 비율로 환자를 평가하는 양면 체크리스트 노트 방법을 사용합니다.

그러나 TIMI 및 HEART 척도에 표시된 것과 같은 변수를 입력으로 제공할 때, ChatGPT의 점수와 더 큰 불일치가 발생했으며, 각각의 척도에 대한 일치율은 45%와 48%였습니다. 만약 이러한 다양성이 고위험 의료 사례에서 AI의 의사결정에 나타난다면, 이는 AI의 신뢰성에 의문을 제기하게 됩니다. 왜냐하면 이러한 고위험 상황은 일관되고 정확한 의사결정에 의존하기 때문입니다.

의료 분야에서의 AI 한계와 잠재력 해결

Heston 박사는 AI가 의료 지원을 강화할 수 있는 능력을 지적하고, 내재된 결함을 배제하기 위한 철저한 연구 수행의 필요성을 강조했습니다. AI는 필수적인 도구가 될 수 있지만, 우리는 우리가 이해하는 것보다 더 빠르게 움직이고 있습니다. 따라서 특히 일반적으로 접하는 임상 상황에서 많은 연구를 수행해야 합니다.

명백히, 연구 결과는 AI 기술이 일부 장점을 보여주었음에도 불구하고 이러한 환경에서 인간 간호사의 중요성을 확인했습니다. 예를 들어, 응급 상황에서 디지털 건강 전문가가 환자의 전체 의료 기록을 검토하여 시스템의 능력을 활용하여 가장 효율적인 방식으로 관련 정보만 제공할 수 있습니다. 또한, AI는 감별 진단 생성과 의사와 함께 어려운 사례를 고려하는 데 참여할 수 있습니다. 이는 의사가 진단 과정을 더 효율적으로 진행하는 데 도움이 됩니다.

그럼에도 불구하고 Heston 박사에 따르면 여전히 일부 문제가 남아 있습니다.

“알 수 없는 것의 감별 진단을 생각하는 데 매우 도움이 될 수 있으며, 아마도 그 가장 큰 강점 중 하나일 것입니다. 즉, 상위 5개 진단과 각각의 근거를 요청할 수 있으므로 문제를 생각하는 데 매우 도움이 될 수 있지만, 단순한 답변을 제공할 수는 없습니다.”

AI가 지속적으로 진화함에 따라, 특히 의료와 같은 고위험 상황에서 환자의 안전을 보장하고 의료 의사결정을 최적화하기 위해 그 성능을 심층적으로 평가하는 것이 매우 중요합니다.