研究揭示AI图像生成器在手术图像中的偏见令人不安，暴露了性别和种族不平等

在一项突破性发现中，最近发表在《JAMA Network Surgery》上的一项研究揭示了AI图像生成器中令人不安的偏见，特别是在手术描绘领域。该研究于2023年5月进行，仔细检查了编程人工智能（AI）文本到图像生成器中的性别和种族差异的表现，揭露了生成的图像中白人男性外科医生过度代表的令人担忧的现象。

研究揭露AI图像生成器的审查

这项深入的检查深入研究了流行的AI文本到图像生成器的偏见性质，包括DALL-E 2、Stable Diffusion和Midjourney。七位细致的审查员仔细审查了跨越八个外科专业的2400张图像，所有这些图像都通过每个AI生成器进行了处理。另外1200张图像是使用针对尼日利亚、美国和中国的地缘提示精心创建的。总体目标是仔细评估生成器在多大程度上反映了关于外科医生和外科培训生人口统计的社会偏见。

综合研究将生成的图像与美国外科医生和外科培训生的人口统计特征进行了比较，揭示了惊人且显著的差异。白人和男性在主治医生中不成比例地过度代表，而女性和非白人则明显代表性不足。AI生成器，特别是Midjourney和Stable Diffusion，未能准确反映对实际人口统计数据仔细分析中观察到的多样性。

有偏见的描绘和紧急的安全保障需求

当DALL-E 2被仔细提示外科医生的面孔时，它表现出能够产生准确反映女性和非白人人口统计数据的图像。然而，另外两个模型Midjourney和Stable Diffusion明显表现出这些群体的代表性严重不足，准确率低于2%。发现地缘提示略微改善了非白人外科医生的代表性，但对女性代表性几乎没有影响。

这些重大发现证实了利用人工智能（AI）生成器的总体影响，令人震惊的是，三分之二的多数通过 overwhelmingly 和不成比例地将外科从业者描绘为属于白人种族和男性性别的人口类别，从而延续和传播了现有的社会偏见。这种有偏见的描绘在AI生成的视觉表现领域中的深远影响具有重大重要性，特别是在手术等职业中，多样性的必要性在促进创新实践和建立公平可及的医疗保健格局中起着至关重要的作用。 

这项综合研究发出的明确信息毫不含糊地强调了迅速实施强大保障措施和复杂反馈系统的紧迫性。这些措施被认为对于防止无意中加剧根深蒂固的刻板印象以及避免通过AI驱动的文本到图像生成机构无意中助长专业领域中根深蒂固的偏见至关重要。

减轻AI图像生成器偏见以实现包容性的职业格局

随着我们不断演变的AI景观，这项研究提出了关于有偏见AI图像生成器伦理影响的深刻而关键的问题。我们如何确保这些技术不会无意中强化现有刻板印象并导致某些群体的代表性不足，从而在职业格局中延续不平等？对护栏和反馈系统的呼吁不仅成为必要，而且成为道德义务，以解决AI文本到图像生成器提出的多方面挑战，并促进在描绘多样化职业格局时的公平性、准确性和包容性。