- 前员工指控AI公司隐瞒可能引发人类灭绝的风险。
- 他们表示，这些公司将利润置于首位，同时规避“有效监管”。
- 由于担心遭到雇主报复，吹哨人不敢发声。
多名 OpenAI 和 Google DeepMind 的现任和前任员工指控其公司隐瞒可能导致人类灭绝的 AI 风险。在一封公开信中，员工指控 AI 公司将利润置于首位，同时避免“有效的 [政府] 监督”。
延伸阅读： OpenAI在安全担忧中为GPT-4寻找继任者
公开信 由 11 名前 OpenAI 员工、两名来自 Google DeepMind 的员工签署，并得到“AI 教父”杰弗里·辛顿（前 Google 员工）的支持。信中指出，利润动机和监管漏洞使公司能够掩盖先进人工智能带来的威胁。
AI 可能导致“人类灭绝”
根据信件内容，OpenAI 和 Google DeepMind（Gemini 的创建者）等 AI 公司未公开分享关于其系统保障措施不足和风险水平的信息，因为它们没有义务这样做。
如果没有监管监督，AI 程序可能会对人类造成重大伤害。员工警告称：
“这些风险范围从进一步固化现有不平等……到失去对自主 AI 系统的控制，可能导致人类灭绝。”
正如信件签署者所指出的，AI 公司本身已承认这些风险。2023 年 5 月，OpenAI、Anthropic 和 Google DeepMind 的首席执行官 共同签署了一封由人工智能安全中心发起的公开信。信中仅写道：“减轻人工智能导致灭绝的风险应与大流行病和核战争等其他社会规模风险一样，成为全球优先事项。”
AI 公司因将新产品和利润置于安全和安保之上而日益受到 审查。ChatGPT 的制造商 OpenAI 注意到了信中提出的担忧，并表示正在努力开发安全的人工智能。
“我们为我们提供最具能力且最安全的人工智能系统的记录感到自豪，并相信我们在应对风险方面的科学方法，”OpenAI 发言人 Lindsey Held 告诉《纽约时报》。
“我们同意，鉴于这项技术的重要性，严格的辩论至关重要，我们将继续与各国政府、民间社会以及世界各地的其他社区进行互动。”
吹哨人担心遭到报复
前 OpenAI 和 Google 员工表示，他们希望在监管机构制定法律迫使 AI 开发者公开披露更多程序信息的同时，填补监督角色的空缺。
然而，保密协议以及雇主报复的可能性 discourages 员工公开表达他们的担忧。根据信件：
“鉴于该行业此类案件的历史，我们中的一些人合理地担心会遭到各种形式的报复。我们不是第一个遇到或谈论这些问题的人。”
吹哨人在美国受法律保护，但那些揭露人工智能危险的人不受保护，因为该技术尚未受到监管。
延伸阅读： ChatGPT 仍在传播虚假信息，欧盟数据监管机构称
信件呼吁 AI 公司促进可验证的匿名反馈，支持公开批评的文化，并不对吹哨人进行报复。
AI 研究员 Lance B. Eliot 表示，公司对批评采取胡萝卜加大棒的方法。不对风险提出异议的员工会通过晋升和加薪得到奖励。
另一方面，吹哨人和批评者会失去他们的股票期权，并可能被公司解雇，并被 AI 领导层社区无声地列入黑名单。
Cryptopolitan 记者 Jeffrey Gogo 报道
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Jeffrey Gogo
Jeffrey Gogo 是一位拥有 20 年商业、金融及气候变化新闻与分析经验的记者。他的作品曾发表于汤森路透基金会、《津巴布韦先驱报》以及多家在线出版物。他还广泛撰写过关于人工智能和元宇宙的文章，并于 2017 年开始涉足加密货币市场。Gogo 在哈拉雷的 CCOSA 学习了新闻与大众传播专业。
