의료 분야에서 생성형 인공지능의 부상이 면밀한 검토와 회의론에 직면하고 있다

인공지능(AI)은 의료 분야에서 활용도가 높아지고 있는 분야로, 긍정적인 측면과 부정적인 측면 모두에서 우려를 낳고 있습니다. 공공 부문의 협력과 기관들의 막대한 자금 지원은 이 기술에 대한 높은 기대감을 불러일으키지만, 의료 전문가와 환자들은 여전히 ​​AI 기술이 충분히 성숙했는지, 혹은 오히려 환자의 건강을 위협할 수 있는지에 대해 의문을 품고 있습니다.

의료 분야에서 인공지능에 대한 대중의 수용을 가로막는 과제

혁신적인 변화를 주도하는 인공지능(AI) 덕분에 많은 IT 대기업과 기업들이 의료 관련 애플리케이션에 AI를 도입하기 시작했습니다. 구글과 하이마크 헬스는 개인 맞춤형 환자 접수 프로세스 도구를 개발하는 대표적인 기업입니다.

아마존의 AWS는 생성형 AI를 활용한 방법론을 구현하고 의료 데이터베이스를 분석하는 데 주력하고 있습니다. 마찬가지로 마이크로소프트 애저는 환자와 의료 서비스 제공자 간의 소통을 중개하는 시스템 구축에 적극적으로 참여하고 있습니다. 앰비언스 헬스케어(Ambience Healthcare)와 나블라(Nabla)와 같은 AI 관련 벤처 기업들은 임상 현장에 AI를 접목하는 역할을 크게 확대해 나가고 있습니다.

딜로이트 보고서는 최근의 획기적인 기술 발전에도 불구하고 미국인의 53%만이 의료 서비스 개선을 위해 생성형 AI 사용을 고려할 의향이 있다는 것을 보여주는 여러 조사 중 하나일 뿐입니다. 

나머지 47%의 미국인들이 여전히 생성형 AI가 비용을 절감하고 접근성을 향상시키는 도구로서dent 확신하지 못한다는 사실은 시장에 상당한 격차가 있음을 시사합니다.

기술적 어려움 및 윤리적 문제

의료 분야에서 생성형 AI의 신뢰성은 예측 불가능성과 단점을 보여주는 연구들이 늘어나면서 중요한 화두로 떠오르고 있습니다. JAMA Pediatrics에 발표된 한 연구에서는 OpenAI의 ChatGPT를 활용한 실험팀 의사들의 소아 질환 진단에서 높은 오류율이 나타났으며, 베스 이스라엘 디코니스 메디컬 센터에서 진행된 연구에서도 GPT를 사용한 유사한 결과가 관찰되었습니다. 

의료 행정 기능에서 MedAlign 벤치마크는 모델이 일상 활동에서 defi을 보인다는 것을 드러냈습니다. 모델의 실패율은 35%에 달했습니다.

이러한 문제들은 향후 몇 달 동안 이러한 권리 침해의 가능성이 제기될 수 있다는 우려를 낳고 있습니다. 스탠포드 의과대학의 건강 관련 연구에 따르면, 새롭게 부상하는 AI 기술은 사회적 고정관념을 강화하여 건강 불평등을 상당히 악화시킬 수 있다고 합니다. 

데이터 프라이버시, 보안 위험, 그리고 의료 분야에서 인공지능을 활용하는 것과 관련된 법률의 변화는 인공지능의 사용을 여러 층위로 복잡하게 만듭니다.

미국 재향군인회 선샤인 헬스케어 네트워크의 앤드류 보르코스키와 뒤스부르크-에센 대학교의 얀 에거 같은 전문가들은 새롭게 등장하는 생성형 AI 기술에 대한 강력한 검증 및 규제 메커니즘이 마련되어야 한다고 인정합니다. 

 인공지능 혁신과 의료 감독의 균형 유지 

그들은 AI를 독립적인 해결책이 아닌 보조적인 수단으로 지지하며, 따라서 각 애플리케이션은 경험 많은 의료 전문가들이 면밀히 검토한다고 소개합니다.

그리고 이에 따라 세계보건기구(WHO)의 인간 중심 기관들은 의료 분야에 적용되는 인공지능 애플리케이션의 연구 및 검증이 엄격하게 이루어져야 하며, 일정 수준의 감독을 위해 충분한 수의 인간이 참여해야 한다는 지침을 개선하려고 노력하고 있습니다. 

본 권고안은 인공지능 기술 도입 과정을 감독하여 소비자에게 안전하고 유익한 방식으로 활용될 수 있도록 하는 것을 목표로 합니다. 투명성,dent 인 감사, 그리고 다양한 이해관계자 참여가 권장되는 조치입니다.

의료 분야는 인공지능(AI)의 역할이 점점 커지는 중요한 기로에 서 있습니다. AI가 의료 서비스 제공 방식을 혁신할 잠재력을 지니고 있다는 것은 인정되지만, 의학 분야에 AI를 도입하는 데에는 여전히 기술적, 윤리적, 규제적 문제들이 남아 있습니다.