AIは医療で無偏見になることができるか、研究者は答えを見つけるのに苦労している

すべての患者は、身体的特徴やアイデンティティに関係なく、良質な医療へのアクセス権を持つべきです。しかし、医療行為や診断における不平等や暗黙のバイアスの問題により、特定の人々やグループはしばしば医療システムにおける公平性を剥奪されてきました。 

医療におけるAIモデルはバイアスを持っている

マサチューセッツ工科大学（MIT）の研究者グループは、人工知能（AI）と機械学習が、特に代表性の低いサブグループの間で、医療格差や不平等をさらに煽る傾向があることを発見しました。これは、これらのグループが診断され、治療される方法に影響を与える可能性があります。 

MIT電気科学・工学部（EECS）の准教授であるMarzyeh Ghassemiが率いる研究者たちは、AIで生じうる格差の根源を分析した研究論文を発表しました。これは、全体的には良好に機能するモデルが、代表性の低いサブグループに関連する際に失敗する原因となります。

分析は「サブグループシフト」に焦点を当てました。これはレポートで「1つのサブグループに対する機械学習モデルのパフォーマンスと、他のサブグループに対するパフォーマンスの違い」と定義されています。主な目的は、AI技術で発生しうるサブグループシフトの種類を特定し、より公平なモデルのための将来の進歩に潜在的に情報を提供することでした。 

「モデルが公平であり、すべてのグループで同様に機能することを望んでいますが、代わりに、劣った医療診断や治療につながる可能性のある、異なるグループ間のシフトの存在を一貫して観察しています」とMITの博士課程学生であるYuzhe Yangは述べています。

研究者は4シフト⟦/N1⟧を特定し、AIモデルにおけるバイアスを煽る

MITの研究者たちは、偽相関、属性不均衡、クラス不均衡、属性一般化という4つのタイプのシフトを特定しました。これらはAI技術における不平等やバイアスの原因となります。

「バイアスは、実際には、研究者がクラスと呼ぶもの、または属性、またはその両方から生じることがあります」とレポートは述べています。 

研究者は、X線画像の検査に基づいて人物が肺炎にかかっているかどうかを判断するために機械学習モデルが使用された例を示しました。ここでは2つの属性（X線検査を受ける人が女性か男性か）と2つのクラス（肺疾患を持つ人々から構成されるクラスと、感染症のない人々から構成されるクラス）がありました。

「もし、この特定のデータセットで、肺炎と診断された女性1人に対して肺炎と診断された男性が100人いた場合、それは属性不均衡につながり、モデルは女性よりも男性の肺炎を正しく検出する方が上手になる可能性があります」とチームは説明しました。

AIモデルは無偏見の方法で機能できるか？

MITの研究者たちは、偽相関、クラス不均衡、属性不均衡の発生を、分類器とエンコーダーを改善することで減少させることができました。しかし、もう一つのシフトである「属性一般化」は残りました。 

「エンコーダーや分類器に対して何を行ったとしても、属性一般化の点で改善は見られませんでした」とYangは述べ、「それに対処する方法はまだわかっていません。」

チームは現在、何万人もの患者と胸部X線画像の公開データセットを調査し、医療専門家が機械学習モデルにおいて医療診断と治療における公平性を達成できるかどうかを決定しようとしています。

しかし、彼らは、望まれる公平性に到達するために、不公平の源とその現在のシステムへの浸透をよりよく理解する必要があることを認めています。