- 麻省理工学院的研究人员发现，人工智能可能会加剧医疗系统中的不平等和偏见。
- 该团队发现了导致机器学习模型产生偏见的四种亚群变化。
- 研究人员表示，要实现更公平的医疗 AI 模型，仍需更深入地理解不公平的根源。
每个患者，无论其身体特征和身份如何，都应该获得良好的医疗保健。然而，由于医疗治疗和诊断中的不平等和隐性偏见问题，某些人或群体往往被剥夺了公平性。
医疗保健中的AI模型存在偏见
麻省理工学院（MIT）的一组研究人员现在发现，人工智能和机器学习倾向于进一步加剧子群体之间的健康差异和不平等，通常是代表性不足的群体。这可能会影响这些群体的诊断和治疗方式。
由麻省理工学院电气科学与工程系（EECS）助理教授Marzyeh Ghassemi领导的 researchers 发布了一篇研究论文，分析了可能出现在AI中的差异的根源，导致整体表现良好的模型在涉及代表性不足的子群体时失败。
分析集中在“子群体转变”上，报告将其定义为“机器学习模型在一个子群体与另一个子群体之间表现方式的差异”。主要目标是确定AI技术中可能出现的子群体转变类型，并可能为更公平的模型的未来进步提供信息。
“我们希望模型是公平的，并且对所有群体都同样有效，但相反，我们一致观察到不同群体之间存在的转变，这可能导致较差的医疗诊断和治疗，”MIT博士生Yuzhe Yang说。
研究人员确定了4引发AI模型偏见的转变⟦/N1⟧
MIT研究人员确定了四种类型的转变——虚假相关性、属性不平衡、类别不平衡和属性泛化——这些导致了AI技术中的不平等和偏见。
“偏见实际上可能源于研究人员所称的类别，或属性，或两者兼有，”报告写道。
研究人员举了一个例子，机器学习模型用于根据X光图像检查确定一个人是否患有肺炎，有两个属性——接受X光检查的人要么是女性要么是男性，以及两个类别——一个由患有肺部疾病的人组成，另一个是无感染的。
“如果在这个特定的数据集中，每诊断出100名男性肺炎患者就诊断出1名女性肺炎患者，这可能导致属性不平衡，模型可能会更准确地检测男性的肺炎而不是女性，”团队解释说。
AI模型能否以无偏见的方式工作？
MIT研究人员表示，他们通过改进“分类器”和“编码器”减少了虚假相关性、类别不平衡和属性不平衡的发生。然而，另一种转变，“属性泛化”，仍然存在。
“无论我们对编码器或分类器做什么，我们在属性泛化方面都没有看到任何改进，”Yang说，“我们还不知道如何解决这个问题。”
该团队目前正在探索包含数万名患者和胸部X光片的公共数据集，以确定医疗专业人员是否可以在机器学习模型中实现医疗诊断和治疗的公平性。
然而，他们承认，为了更好地理解不公平的来源及其如何渗透到我们当前的系统中，以实现所期望的公平性，仍有必要进行更深入的了解。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Ibiam Wayas
Ibiam Wayas自2019年起一直负责加密货币新闻报道。他在尼日利亚国家开放大学攻读计算机科学专业。他的作品曾刊登于多个加密货币新闻平台，包括Coinfomania、Crypto News Australia和AltcoinBuzz。凭借其在计算机科学领域的背景，他目前专注于加密货币、机器人技术和长寿领域的新闻。
