보건복지부(HHS)는 의료 분야에서 인공지능(AI)의 불투명한 측면을 명확히 하기 위해 중요한 조치인 AI 투명성 규칙(HTI-1)을 제정했습니다. 예측 AI 모델의 복잡성을 밝히려는 시도로 높이 평가받고 있지만, 전문가들은 이 규칙이 유익하기는 하지만 급속도로 발전하는 이 기술에 내재된 문제에 대한 포괄적인 해결책을 제공하기에는 부족할 수 있다고 경고합니다.
인공지능 투명성 규정은 특히 예측 모델과 관련하여 의료 인공지능 시장에 만연한 투명성 부족을 인식한 데서 비롯되었습니다. 미국 보건복지부 산하 국가보건정보기술조정실(ONC)의 인증 및 테스트 담당 부국장인 제프 스미스는 이 규정의 시급성을 강조합니다. 이 규정은 예측 인공지능 모델의 설계, 개발, 테스트, 훈련 및 평가에 관한 정보 부족 문제를 해결하고자 하며, 이러한 정보 부족은 수백만 명의 미국인에게 피해를 입힌 사례로 기록되어 있습니다.
규칙의 기본 원칙을 밝히다
미국 에너지정보청(ONC)은 인공지능 투명성 규칙에 따라 두 가지 주요 정책 범주를 확정했습니다. 첫째, 이 규칙은 예측 기반 의사결정 지원 도구(DSI)의 설계, 개발, 학습, 평가 및 사용 방법에 대한 포괄적인 정보 제공을 의무화합니다. 이는 사용자가 자신이 사용하는 인공지능 알고리즘을 더 깊이 이해할 수 있도록 지원하는 데 중요한 진전입니다.
또한, 이 규정은 예측형 디지털 정보 시스템(DSI) 도입에 있어 위험 관리가 핵심적인 역할을 하며, 거버넌스가 설계 및 구현을 이끌어야 한다고 명시하고 있습니다. 정보 공개 및 위험 관리를 포함하는 프레임워크를 구축함으로써, 이 규정은 국가 차원에서 인공지능 알고리즘의 품질을 평가하는 기준을 마련하는 것을 목표로 합니다.
아발레르 헬스(Avalere Health)의 데이터 및 분석 책임자인 만다르 카르하데는 일부 AI 모델의 의도가 항상 투명하게 드러나는 것은 아니라고 강조합니다. 진단, 비용 절감 또는 기타 목표 등 무엇이든 간에, 이러한 불명확성은 잠재적인 문제점을 야기합니다. 특히tron건강 기록(EHR)은 이러한 문제에 취약한 영역으로 떠오르고 있으며, 오라클의 "자동 완성"과 같은 AI 기능은 정확성 및 의도치 않은 데이터 추가에 대한 우려를 불러일으키고 있습니다.
제프 스미스는 AI 투명성 규정을 식품 영양 성분표와 비교하며, 필수 정보를 제공한다는 점에서 유사점을 강조합니다. 퀄스 앤 브래디 로펌의 법률 전문가인 메건 오코너는 이러한 비유에 이의를 제기하며, 공개되는 정보의 주관적이고 측정 불가능한 특성을 지적합니다. 이는 의료 IT 개발자들이 이러한 정보를 어떻게 전달하고, 의료 서비스 제공자들이 이를 위험 분석에 어떻게 통합해야 하는지에 대한 의문을 제기합니다.
인공지능 투명성 규칙의 적용 범위 평가
브루킹스 연구소의dent 선임 연구원인 니암 야라기는 비판적인 관점을 제시합니다. 그는 AI의 공정성을 보장한다는 이 규칙의 고귀한 목표를 인정하면서도, 다소 반동적이라고 생각합니다. 야라기는 AI의 급속한 발전을 촉진하고 의료 시스템의 데이터 사일로와 같은 장벽을 해소하는 정책을 옹호합니다.
인공지능 투명성이라는 복잡한 미로를 헤쳐나가는 데 있어 이번 규정은 중요한 진전입니다. 그러나 의료계가 인공지능의 진화하는 특성에 적응해 나가는 과정에서 다음과 같은 의문이 제기됩니다. 투명성만으로 의료 분야에서 인공지능 ? 기술과 의료가 만나는 지점에서 발생하는 역동적인 문제들을 규정만으로는 해결할 수 없는 한계는 없을까요? 이해관계자들이 이처럼 변화하는 환경 속에서 신중하게 나아가는 가운데, 혁신과 책임 사이의 균형을 찾는 것이 무엇보다 중요합니다.
