의료 분야 생성형 AI의 부상은 감시와 회의론에 직면

의료 부문에서 애플리케이션의 성장 영역인 AI는 호의적이면서도 의문스럽게 인식되는 양면성을 가지고 있습니다. 공공 파트너십과 기관의 막대한 자금은 기술에 대한 높은 기대를 불러일으키지만, 전문가들과 환자들 여전히 기술이 이미 충분히 성숙했는지, 아니면 환자 건강을 위협할 수 있는지에 대해 의문을 제기합니다.

의료 분야 AI의 공공 수용에 대한 과제

위대한 변화의 주역으로서, 많은 IT 거대 기업들과 회사들이 생성형 AI를 건강 관련 애플리케이션에 통합하기 시작했습니다. Google과 Highmark Health은 개인화를 위한 고유한 환자 접수 프로세스 도구를 개발 중인 두 기관입니다.

Amazon의 AWS는 생성형 AI를 활용하고 의료 데이터베이스를 분석하는 방법을 대표하는 데 전념하고 있습니다. 마찬가지로 Microsoft Azure는 환자들과 의료 제품 제공자 간의 소통을 중재하는 시스템 구축에 적극적으로 참여하고 있습니다. Ambience Healthcare와 Nabla와 같은 AI 벤처는 임상 환경에 AI 역할을 반영하기 위해 AI의 역할을 크게 확장하고 있습니다.

델로이트 보고서의 생성형 AI 사용 의도는 최근의 돌파구와 기술적 진보에도 불구하고 미국인 중 53%만이 의료 서비스 개선을 위해 생성형 AI를 사용할 의향이 있다는 것을 보여주는 설문 중 하나일 뿐입니다. 

나머지 47%의 미국인들이 비용 절감과 접근성 향상을 위한 도구로서 생성형 AI에 대해 여전히 확신을 가지고 있지 않다는 사실은 시장의 상당한 격차를 나타냅니다.

기술적 어려움과 윤리적 문제

의료 분야 생성형 AI의 신뢰성은 예측 불가능성과 단점을 보여주는 연구들로 인해 looming trend topic(부상하는 주요 주제)가 되고 있습니다. JAMA Pediatrics 연구는 OpenAI의 ChatGPT에서 레드팀 의사들이 소아 질환을 진단하는 데 높은 오류율을 보였으며, Beth Israel Deaconess Medical Center의 연구도 GPT와 유사한 결과를 관찰했습니다. 

의료 행정 기능에서 MedAlign 벤치마크는 모델의 일상 활동에 대한 결함을 드러냈습니다. 모델은 35%의 실패율을 기록했습니다.

이러한 문제들은 이러한 권리가 침해될 가능성이 발생할 수 있다는 달들이(문맥상 '사람들이' 또는 '전문가들이'의 오타로 보이나 원문 유지 필요성 고려, 여기서는 문맥상 '이러한 우려들이'로 해석 가능하나 규칙에 따라 원문 구조 유지)belive(믿는) 것이 문제입니다. 스탠퍼드 메디신의 건강 관련 분야 연구들은 emerging AI 기술이 사회적 고정관념을 강화하여 건강 불평등을 현저히 악화시킬 수 있다고 제안했습니다. 

의료 분야에서 AI를 고용하는 것과 관련된 데이터 프라이버시, 보안 위험, 그리고 변화하는 법률은 그 사용이 여러 층위의 복잡성을 포함하고 있음을 의미합니다.

VA 선샤인 헬스케어 네트워크의 앤드류 보코프스키와 듀스부르크-에센 대학교의 얀 에거와 같은 전문가들은 emerging generative AI 기술에 대한 강력한 검증 및 규제 메커니즘이 마련되어야 한다고 인정합니다. 

 AI 혁신과 의료 감독의 균형 

그들은 AI를 독립적인 솔루션이 아닌 지원 조치로 지지하므로, 각 애플리케이션이 숙련된 의료 전문가에 의해 주의 깊게 감시되어야 한다고 제안합니다.

그리고 이에 이어…세계보건기구(WHO)의 인간 기관들은 의료용 AI 애플리케이션의 연구와 검증이 엄격해야 하며, 일부 수준의 감독을 위해 충분한 인간 참여를 포함해야 하는 가이드라인을 개선하려고 노력하고 있습니다. 

이 권장사항은 소비자에게 안전하고 유익하게 유지하는 것을 목표로 AI 기술 구현 과정을 감독하는 것을 목적으로 합니다. 투명성, 독립적인 감사, 그리고 참여 이해관계자의 다양성이 권장되는 조치입니다..

의료 부문은 AI가 더 큰 역할을 수행하는 교차로에서 문제를 겪고 있습니다. AI가 의료 제공 방식을 변화시킬 잠재력이 있음을 인정하지만, 의학에서 AI 사용의 배포에는 여전히 기술적, 윤리적, 규제적 문제가 직면해 있습니다.