- AI生成的图像延续了有害的刻板印象，从国家身份到性别，揭示了改革的必要性。
- AI图像生成器中的偏见源于训练数据的偏差和语言偏见，凸显了透明度的重要性。
- 有偏见的AI图像的文化影响强调了解决这些问题的紧迫性，以实现更包容的未来。
人工智能无疑彻底改变了各个行业，但并非不受偏见和刻板印象的影响。最近的调查揭示了生成式 AI 系统（如 Midjourney、Dall-E 和 Stable Diffusion）延续刻板印象并将多样化的国家身份简化为简单漫画的倾向。
揭示的问题
BuzzFeed 用 195 个代表不同国家的 AI 生成芭比娃娃进行的失败实验鲜明地说明了 AI 生成图像中的偏见。这些娃娃展示了有缺陷的描绘，从浅肤色的亚洲芭比娃娃到对国家身份的不当描绘。此类偏见扩展到其他 AI 应用，从搜索结果到面部识别系统。
国家身份刻板印象
Rest of World 使用 Midjourney 进行的分析揭示了 AI 生成图像中令人不安的趋势。当提示创建与不同国家相关的人、房屋、街道或食物的图像时，结果往往将多样化的国家身份简化为有害的刻板印象。
尼日利亚人：AI 生成的图像缺乏特异性，未能捕捉尼日利亚民族群体、服装和宗教差异的多样性。
印度人：图像 overwhelmingly 描绘了穿着传统服装的年长人士，延续了印度文化的刻板印象。
墨西哥人：几乎所有图像都 featuring 宽边帽或类似的帽子，延续了墨西哥身份的单维描绘。
美国人：美国国旗主导了所有图像，强调美国身份的单一方面。
性别偏见：所有提示中都存在明显的性别偏见，大多数图像描绘男性。
偏见的原因
AI 生成图像中的偏见主要源于训练数据。这些系统在包含固有偏见的庞大带注释图像数据集上进行训练。此外，人类标注者在按国家或民族标记图像时可能会引入偏见。数据集中的语言偏见，通常偏向英语，进一步加剧了这个问题。
文化影响
AI 生成的图像有可能塑造公众感知并影响各个行业。在广告和媒体领域，尽管多样性代表有所改善，但随意使用生成式 AI 可能会抵消这些努力。此外，AI 图像生成器可能对边缘化社区产生不利影响，影响他们获得就业、医疗保健和金融服务的机会。
透明度和责任
专家强调 AI 公司需要在其数据来源和训练方法方面提供更大的透明度。公司必须承担责任解决其系统中的偏见。当前的“信任我们”的方法需要用更负责任的做法来取代。
未来的影响
AI 图像生成器虽然是创意和自动化的有前途的工具，但有可能疏远全球人口的大部分地区。如果不加以解决，这些偏见可能会阻碍多样化社区获得 AI 带来的好处。
AI 图像生成器在描绘国家身份和性别方面暴露了令人不安的偏见和刻板印象。这些问题源于训练数据和标注过程。解决 AI 系统中的偏见需要 AI 公司提供透明度和负责任的做法。随着 AI 继续塑造世界的视觉景观，必须确保它准确代表人类多样性的丰富织锦，而不是将其简化为有害的刻板印象。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明： 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Glory Kaburu
Glory是一位精通AI工具与研究的知识渊博的记者。她热衷于人工智能领域，并撰写了多篇相关文章。她持续关注人工智能、机器学习和深度学习领域的最新进展，并定期发表相关评论。
