의료 분야 인공지능 차별의 새로운 규칙이 진행 중입니다

산하 시민권 사무국(OCR 보건 )은 최근 연방 자금으로 지원되는 모든 의료 프로그램이 인종, 피부색, 국적, 성별, 연령 또는 장애를 이유로 차별하는 것을 제한하는 의료비 부담 완화법(ACA) 1557조의 적용 가능성에 관한 최종 규칙을 발표했습니다.

이 규칙은 2020년 보스톡 대 클레이턴 카운티 대법원 판결과 일맥상통하며, 제1557조는 성적 지향과 성dent을 모두 포함하는 "성별에 따른" 차별로 이해됩니다. 최근 규칙은 인공지능 기반 기술에 머신러닝이 적용되는 경우에도 서비스 제공업체의 사용 기준은 제1557조의 적용을 받는다는 점을 명확히 했습니다. 따라서 서비스 제공업체는 잠재적인 차별 위험을 검토하고 해결해야 할 의무가 있습니다.

AI 편향 위험 평가

지배구조 규정에 따르면, "환자 진료 의사결정 지원 도구"는 의료기관이 임상 의사결정을 지원하기 위해 사용하는 모든 기술 또는 방법의 단독 또는 복합적인 구성을 의미합니다. 예를 들어, 직접적인 환자 진료에 사용되는 도구를 제공하는 업체 중에는 환자의 위험도와 향후 건강 문제 발생 가능성을 예측하는 알고리즘과 치료 필요성을 기준으로 의료 청구를 승인하거나 거부하는 데 사용되는 분석 엔진을 제공하는 업체들이 있습니다. 

OCR은 이러한 도구의 활용과 AI 기반 의사결정을 선호하는 경우, 모든 환자의 상황을 재검토해야 한다고 밝혔습니다. 여러 연구에서 특정 알고리즘에 대한 의존이 인종 및 민족적 불평등으로 이어진다는 사실이 입증되었습니다. 위의 defi는 자율주행 차량과 순서도와 같은 비자동화 보조 도구를 모두 포함합니다. 따라서 장애인이 동등한 의료 서비스를 받지 못하고, 의료 제공자가 개별적인 건강 검진 특성을 고려하지 않는다면 의료 기술은 불공평할 수 있습니다.

합리적 편견 방지 노력

해당 기관이 추가적인 소비자 책임을 감당할 수 있는 능력 또는 재정적 여력. 제품이 개발자와 규제 기관의 승인을 받은 의도된 용도로 생산되었는지 여부, 데이터 구성 방식과 관계없이 개발자는 해당 기관에 차별 위험에 대해 교육해야 합니다.

데이터 주체(대상 기관이 대리하는 대상)가 사용된 도구를 평가하기 위한 절차를 따랐는지, 아니면 대상 기관(즉, 대상을 대리하는 조직)이 이미 그러한 절차를 개발했는지 여부를 명확히 밝히십시오.

이 규칙은 메디케어 파트 B 자금이 제공자 및 공급자에게 지급될 경우 연방 지원으로 분류되었던 이전 규칙과 근본적으로 다릅니다. 파트 B 자금을 받는 사람의 수를 약간 줄이고 이들을 섹션 1557 요건에서 면제함으로써 이들은 섹션 1557 및 OCR 사무실에서 시행하는 기타 시민권 규정을 준수하게 될 것입니다.