AIは医療において公平になれるのか？研究者は答えを見つけるのに苦心している

すべての患者は、身体的特徴やdentに関わらず、質の高い医療を受けられるべきです。しかしながら、医療や診断における不平等や暗黙の偏見の問題により、特定の人々やグループは医療制度における公平性を奪われることがよくあります。. 

医療におけるAIモデルは偏っている

マサチューセッツ工科大学（MIT）の研究者グループは、人工知能（AI）と機械学習が、しばしば過小評価されているサブグループ間の医療格差と不平等をさらに拡大する傾向があることを発見しました。これは、これらのグループの診断と治療方法に影響を及ぼす可能性があります。. 

マサチューセッツ工科大学（MIT）電気科学工学部（EECS）の助教授であるマルジエ・ガセミ氏が率いる研究チームは、人工知能 （AI）において生じる格差。この格差は、全体的に優れた性能を発揮するモデルであっても、マイノリティグループが関与する場合に性能が低下する原因となっている。

分析は「サブポピュレーションシフト」に焦点を当てており、報告書ではこれを「機械学習モデルが特定のサブグループに対して、他のサブグループと比較してパフォーマンスに及ぼす影響」と defiしています。主な目的は、AI技術によって発生する可能性のあるサブポピュレーションシフトの種類を特定し、より公平なモデルの将来的な進歩に役立てることです。. 

「モデルが公平で、すべてのグループに対して同じように機能することを望んでいますが、実際には、異なるグループ間での差異が常に観察されており、それが医療診断や治療の質の低下につながる可能性があります」と、MITの博士課程学生dent ヤン・ユージェ氏は言う。.

研究者はAIモデルのバイアスを引き起こす4つの変化をdent

MIT の研究者たちは、dentした AI技術における不公平や偏りを引き起こす4種類の変化、すなわち偽相関、属性の不均衡、クラスの不均衡、属性の一般化 

「実際のところ、偏見は研究者がクラスと呼ぶものから、あるいは属性から、あるいはその両方から生じる可能性がある」と報告書には記されている。. 

研究者らは、X線画像を検査し、その人が肺炎にかかっているかどうかを判断するために機械学習モデルを使用した例を挙げた。その画像には、X線検査を受ける人が女性か男性かという2つの属性と、肺疾患を患っている人と感染していない人の2つのクラスがある。.

「この特定のデータセットで、肺炎と診断された女性1人に対して肺炎と診断された男性が100人いたとすると、属性の不均衡が生じる可能性があり、モデルは女性よりも男性の肺炎をより正確に検出する可能性が高い」と研究チームは説明した。.

AI モデルは偏りなく機能できますか?

MITの研究者たちは、「分類器」と「エンコーダ」を改良することで、偽の相関関係、クラスの不均衡、属性の不均衡の発生を減らすことができたと述べています。しかし、もう一つの変化である「属性の一般化」は依然として残っています。. 

「エンコーダや分類器に何を施しても、属性の一般化に関しては改善が見られませんでした」とヤン氏は言う。「そして、その問題にどう対処すればよいのか、まだわかっていません。」

チームは現在、何万人もの患者と胸部X線写真の公開データセットを調査し、医療専門家が機械学習モデルで医療診断と治療の公平性を実現できるかどうかを判断しています。.

しかし、彼らは、望ましい公平性に到達するためには、不公平の原因とそれが現在のシステムにどのように浸透しているかをより深く理解する必要があると認めた。.