의료 AI는 진단 능력이 향상되지만, 환자 결과에 대한 증거는 여전히 뒤처져 있습니다

2026년의 수많은 연구들은 의료 AI의 지속적인 격차를 보여주고 있습니다: 이러한 시스템은 의사들의 선택에 영향을 미치고 인상적인 진단 결과를 달성할 수 있지만, 환자들이 실제로 더 건강해진다는 것을 입증하지는 못하고 있습니다.

이 시스템 구매를 고려하는 병원, 유용성을 입증하려는 기업, 그리고 의사 클리닉에서 AI 도입 후 어떤 증거를 고려해야 할지 결정하는 당국 모두에게 이는 중요합니다.

규제 기관들이 scrutiny하기 시작한 증명 문제

AI의 놀라운 성능과 환자 결과에 대한 입증된 효능 사이의 격차가 지나치게 커져 더 이상 간과할 수 없게 되고 있습니다. 파이낸셜 타임스는 이 상황을 다음과 같은 헤드라인으로 요약했습니다.

“의료 AI에는 증명 문제가 있습니다.”

이 문제는 이제 학술적 논의의 영역을 넘어섰습니다. FDA는 이러한 AI 지원 의료기기가 사용되기 전후로 어떻게 평가할지 살펴보는 과정에서 많은 동일한 질문들을 제기하고 있습니다. 8월 18일 논의 논문은 10월 19일까지 공개 의견을 받으며, 위험 평가, 시판 전 평가 및 시판 후 모니터링과 같은 문제를 다룹니다.

FDA는 이 논문이 순수한 논의 논문이지 초안 가이드라인, 정책 변경 제안, 또는 향후 규제 기대감을 나타내는 것이 아님을 명확히 하고 있습니다.

실제 세계 성능에 대한 이전 FDA의 조사도 모델 드리프트와 정적 지표 사용의 한계 문제를 고려하게 만들었습니다. 이는 더 이상 무시할 수 없는 더 큰 질문을 제기합니다: AI 솔루션이 연구실을 벗어나면 어떻게 안전성과 효율성을 측정할 것인가?

케냐에서는 AI 지원이 치료 실패율을 낮추지 않았습니다

6월 26일 발표된 네이처 메디신(Nature Medicine) 저널의 연구에 따르면, 나이로비와 키암부 카운티의 펜다 헬스(Penda Health) 시설 16곳에서 근무하는 103명의 임상 책임자들이 의사결정을 위해 대규모 언어 모델(LLM)의 도움 유무에 따라 환자를 치료했습니다. 등록된 환자 9,691명 중 9,347명이 주요 분석에 포함되었습니다.

14일 후 치료 실패율은 AI 그룹에서 2.2%, 대조군에서 2%였으며, 조정된 오즈비는 0.77이었습니다. 다만 이 차이는 통계적으로 유의하지 않았습니다(P=0.13). 중대한 이상 반응은 중재와 관련이 없었습니다.

AI를 사용한 그룹은 문서화가 더 잘 되어 있었고, 더 적절한 진단과 치료 계획을 수립했습니다. 이 결과의 의의는 더 나은 과정 지표가 환자의 결과 개선으로 이어지지 않았다는 사실에 기인합니다.

이 경향은 2024년 RAPIDx AI 시험과 유사합니다. 3,029명의 환자를 대상으로 한 주요 분석에서, 심혈관 사망, 심근경색 또는 계획되지 않은 심혈관 재입원의 복합 6개월 결과는 AI 사용 시 26%, 표준 치료 시 26.4%였습니다. 그러나 비 1형 심근경색(non-type 1 MI) 그룹 내에서 AI 지원 치료는 침습적 관상동맥 조영술을 47% 낮은 빈도로 수행했습니다.

점수가 계속 상승하고 있습니다; 실제 세계의 증명은 뒤처지고 있습니다

니콜라스 라운딩(Nicholas Rounding)의 지도 하에 수행된 다국가 무작위 시험에서 GPT-4o는 케냐에서 의사 249명의 임상 비전nette(performance)를 18%, 인도네시아에서 10.7%, 네덜란드에서 7.2% 향상시켰습니다(P<0.001).

하지만 이는 시뮬레이션된 사례였으며 실제 상황이 아니었고, 대조군 참가자는 인터넷이나 임상 프로토콜을 사용할 수 없었으며, 위해성도 평가되지 않았습니다. 이 연구는 통제된 환경에서 AI가 성능을 향상시킨다는 것을 확인하지만, 환자 결과에 대해서는 아무것도 말하지 않습니다.

리 장(Li Zhang), 야코프 니콜라스 카터(Jakob Nikolas Kather) 및 동료들이 수행한 네이처 메디신 저널에 게재된 또 다른 연구의 결과는 7가지 질병 벤치마크에 대해 90.04%의 정확도를 보였습니다. 이 연구에서 일관성 임계값을 도입함으로써 현장 에이전트는 98.9%의 정확도 수준으로 사례의 총 49.4%를 유지했으며, 나머지는 인간 전문가의 검토를 받아야 했습니다. 그러나 저자들은 실제 임상 환경에서 수행된 시험을 통한 추가 확인의 필요성을 지적했습니다.

의사가 ‘루프(in the loop)’에 있다는 것만으로는 해결되지 않는 이유

조이 쉬(Joy Xu), 저스틴 코(Justin Ko), 조셉 케바드(Joseph Kvedar)가 준비한 증거 지도(evidence map)에 따르면, 에이전트형 AI는 이제 행정뿐만 아니라 진단, 관리 및 기타 의료 작업에서도 발견되며, 이로 인해 이러한 시스템을 거버넌스하고 감사할 수 있는 능력의 중요성이 증가하고 있습니다.

또 다른 npj 디지털 메디신 논평은 임상 의사의 단순한 존재가 적절한 감독과 거버넌스를 보장하지 않는다고 명시합니다. 자동화 편향(automation bias)은 사람들이 결함이 있는 권고를 더 쉽게 수용하도록 만들 수 있으며, 효과적인 감독에는 시스템을 도전하고 개입할 수 있는 충분한 지식, 시간 및 권한이 필요합니다.

저자들은 이러한 조건이 없다면 인간 감독이 단순한 책임 백업(backstop)에 불과해질 수 있다고 경고합니다.

책임은 그들이 잘 감지하거나 수정할 위치에 있지 않은 오류를 잡아내야 하는 임상가들에게 전가될 수 있습니다… 이는 도덕적 완충 지대(moral crumple zone)가 됩니다.

이는 인간이 기술적으로 ‘루프에 있는지’ 여부를 넘어, 그 사람이 필요할 때 시스템을 질문하고, 재정의하며, 중단할 수 있는 실제 역량을 갖추고 있는지에 초점을 맞춥니다.

주의를 기울이는 배경의 상업적 이해관계

마켓츠앤마켓스는 의료 AI 시장이 2026년 366억 7천만 달러에서 2031년까지 1,947억 9천만 달러로 성장할 것으로 전망하며, 연평균 복합 성장률(CAGR)은 39.7%입니다. 이러한 성장이 실현된다면, 병원들은 환자 결과에 대한 증거가 여전히 불균형한 가운데 더 많은 AI 구매 결정을 내리게 될 것입니다.

이는 경쟁 압력을 마케팅하기는 어렵지만 공급자에게 더 가치 있는 사항, 즉 전향적 검증, 현지 성능 모니터링 및 실제로 감사 가능한 감독으로 이동시킬 수 있습니다.