谁将为AI伦理和现实世界社会责任负责？

近期围绕人工智能（AI）的争议重新引发了关于谁应负责确保AI伦理开发和部署的辩论。随着ChatGPT等生成式AI日益主流化，科技行业对AI伦理或负责任创新的承诺问题依然悬而未决。

AI的隐性成本

调查显示，由微软支持的领先AI公司OpenAI一直依赖低薪的海外承包商来处理内容审核这一敏感任务，这是开发ChatGPT等“安全”系统的关键组成部分。这些位于肯尼亚的承包商每小时仅获2美元报酬，负责标记令人不安的文本和图像，据报道这给他们造成了严重的心理创伤。在揭露这项工作的影响后，OpenAI的外包合作伙伴终止了与该公司的合作。

这一曝光揭示了科技行业依赖全球廉价劳动力来执行支撑AI进步的最繁重任务。与此同时，尽管行业高谈阔论伦理问题，但主要的AI安全团队正在被解散。

公关宣传背后的现实

科技行业的几位知名人物呼吁暂停AI开发，直到建立适当的监管框架。然而，一些专家辩称，仅依靠政策制定者和企业来塑造AI的未来是一个错误，因为这排除了关键视角。Ada Lovelace研究所的Alison Powell博士指出，目前的讨论过于关注通用人工智能超越人类认知的潜力，而不是解决当下的现实问题。

“这很有害，因为它关注的是一个想象的世界，而不是我们生活的真实世界，”Powell说。她认为，通常归因于AI的决策能力忽视了这种权力所带来的现实世界社会责任。

牛津大学研究员Abid Adonis也指出，直接受AI影响的边缘群体声音在辩论中明显缺失。Adonis说：“倾听边缘群体的意见很重要，因为这在讨论中缺失了。”

“伦理AI”的缺陷

现有AI系统中已出现算法偏见和歧视的证据，从面部识别技术到用于住房和贷款评估的算法。尽管科技公司声称拥有崇高的伦理原则，但他们的行为往往另有所指。

像ChatGPT这样的生成式模型在有限的互联网数据集上训练，不可避免地继承了数据中存在的偏见。这些模型备受推崇的推理能力往往经不起推敲。例如，研究发现ChatGPT会生成关于真实人物的明显虚假声明。AI训练商业数据来源缺乏透明度，进一步加剧了这些担忧。

对AI伦理的更广泛视角

Powell博士建议，我们不应将伦理视为一个需要解决的技术问题，而应考察伤害发生的社会背景。她说：“AI是制度机器、社会机器和文化机器。”仅关注调整算法忽略了排斥往往源于技术背后的制度和文化这一事实。

根据研究员Abid Adonis的观点，强大的公众话语和规范将在塑造创新未来方面发挥关键作用。确保问责意味着公平执行现有法律，而不仅仅是监管技术本身。

范式将塑造创新的走廊

Abid Adonis，研究员

随着AI日益凸显，确保其产生公正的结果是一项必须由科技公司、政策制定者、研究人员、媒体和公众共同承担的责任。然而，目前的讨论严重偏向于拥有最多权力的人。为了前进，我们需要纳入更广泛关于AI潜在陷阱的观点，以便开发真正满足人类需求的伦理技术。这将要求我们超越大型科技公司的公关宣传，直面当前正在造成的真正伤害。

配图传达了高科技行业依赖廉价劳动力所特有的高压、以截止日期为导向的工作条件。