- ChatGPT和Lensa AI等AI工具展示了机器学习的潜力与隐患，包括加剧性别偏见的风险。
- 数据标注以及科技行业缺乏多样性导致了AI中的偏见，影响了从头像设计到信用评估的各个方面。
- 尽管科技公司意识到AI固有的偏见问题，但缓解这一问题的道路复杂且需要整个行业采取一致的伦理方法。
在现代进步的浪潮中，人工智能（AI）席卷全球。ChatGPT，一款AI聊天机器人，成为AI奇迹与危险的典型例子。虽然AI工具承诺高效和先进能力，但它们也带来放大现有偏见的风险。
AI中的性别偏见令人警醒
Lensa AI，一款流行的头像创建应用，展示了性别偏见如何无意中嵌入软件。该应用将女性头像过度性化，而男性头像则被设计为战士或宇航员。然而，问题不仅限于视觉表现。尽管OpenAI进行了风险评估，但ChatGPT-4被观察到会产生延续性别刻板印象的文本。在一个假设场景中，当要求聊天机器人创作一个关于男孩和女孩选择大学科目的故事时，它描绘男孩选择科学和技术，而女孩追求美术，强调传统的性别角色。
AI如何学习和决策
AI系统依赖监督式或非监督式机器学习模型。虽然监督式模型允许在学习过程中进行人工监督，但非监督式模型自主学习。这些模型可能不可预测，因为开发人员主要在输出阶段发现错误。
AI对性别的解读
用于训练AI系统的数据经过标记过程，数据标注员根据给定指南对数据进行分类。如果标注员有个人偏见或指南本身存在偏见，可能会无意中引入偏见。因此，使用此类数据训练的AI系统可能会产生扭曲或有偏见的输出。
除了Lensa AI，其他AI性别偏见示例
不仅仅是头像应用表现出性别偏见。一个显著的实例是，当Apple的信用卡算法被发现偏向男性客户，提供更高的信用额度，即使有些客户的信用历史与女性客户相当或更差时。
AI对社会偏见的反映
AI系统中的固有偏见反映了其创造者的社会偏见。AI并非纯粹客观；如果未以批判性、无偏见的方式设计，它可能会无意中延续现有的刻板印象和偏见。
AI开发中多样性的重要性
多样性至关重要。软件开发行业女性仅占8%，缺乏多样性。为了减少AI中的偏见，拥有多样化的开发团队至关重要，他们可以提供广泛的视角，最大限度地减少无意识偏见渗入AI系统的范围。
组织的意识及缓解步骤
许多科技公司意识到AI偏见，这得益于民间社会记录的研究报告和分析。一些组织已采取初步步骤来解决这一问题，尽管措施及其有效性仍然模糊。一个全面的方法是在团队中整合性别和技术专家，确保AI工具在道德健全的框架内构建。
随着AI继续在现代社会中发挥关键作用，解决固有偏见变得至关重要。挑战不仅在于开发AI工具，还在于其道德和无偏见的应用。确保AI反映人性中最好的一面，而不是其偏见，是科技行业和整个社会必须承担的责任。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明. 所提供的信息不构成投资建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
埃迪塔·帕特里克
Editah 是一位多才多艺的金融科技分析师，对区块链领域有着深入的理解。她既着迷于技术，又惊叹于技术与金融交汇所带来的震撼。她对数字钱包和区块链的特别关注，也为她的受众提供了宝贵的见解。
