最新新闻
为您推荐

OpenAI机器人业务负责人辞职,警告国防合同下的AI监控

作者Collins J. OkothCollins J. Okoth 3 分钟阅读
OpenAI机器人业务负责人辞职,警告国防合同下的AI监控
  • OpenAI硬件和机器人工程负责人辞职,称担心在没有司法监督的情况下监控美国人。
  • 凯特琳·卡利诺夫斯基声称,美国国防部打算利用 AI 进行监控和自主武器部署。
  • 更多员工离开 AI 公司,理由是公司在军事 AI 使用和恶意广告定向等领域存在险恶动机。

Caitlin Kalinowski,OpenAI的前机器人业务负责人,在为公司工作了一年多后辞职。Kalinowski表示,她担心美国军方可能会利用该公司的AI工具进行国内监控,并在美国武器中用于自动化、定向系统。

OpenAI硬件和机器人工程负责人Caitlin Kalinowski已于2024年11月加入该公司,现已离职。Kalinowski于3月7日宣布辞职,原因是OpenAI与美国国防部在2月达成了一项协议。 

Kalinowski声称,美国军方将使用AI进行国内监控

根据Kalinowski的说法,她的辞职是由美国国防部打算使用AI工具和能力对美国公民进行没有司法监督的监控所引发的。这位前OpenAI员工在X上写道,AI在国家安全中发挥着至关重要的作用。 

她解释说,美国国防部打算使用AI进行监控和自主武器,她不同意这一决定。她说她的决定“关乎原则,而非个人”,并且她为OpenAI团队在她任职期间所取得的成就感到自豪。 

2月,美国五角大楼加强了与顶级AI公司关于在机密系统上部署自动化模型的谈判。Cryptopolitan 在 6 月报道 报道,五角大楼正推动与Anthropic和OpenAI的谈判,将AI工具纳入机密军事网络。

五角大楼首席技术官Emil Michael在白宫与科技领袖的会议上表示,军方希望AI模型能够在机密和非机密网络上无限制地运行。

美国政府与Anthropic的谈判陷入僵局,因为其领导人划定了明确界限,其技术不得用于国内监控行动和自主武器瞄准系统。该公司 违抗 了2月底五角大楼要求剥离AI安全措施的最后通牒。

Anthropic首席执行官Dario Amodei坚持立场, 拒绝允许 公司的技术用于军事行动。作为回应,特朗普在2月底指示所有联邦机构停止使用Anthropic的技术。 

OpenAI对AI的军事部署施加限制

国防部与OpenAI达成了一项协议,该协议随后受到批评。Sam Altman 指出 表示,该协议看起来相当投机,并澄清该公司已对其AI工具在军事行动中的使用方式施加了限制。

然而,Kalinowski的挑战声称,这一宣布过于仓促,缺乏必要的保障措施。她补充说,她的离职是基于治理方面的担忧,这些担忧至关重要,不能仓促行事。

OpenAI在一份声明中确认了Kalinowski的离职,但重申,该公司与国防部门的联系为负责任地使用AI工具保障国家安全铺平了道路。 

2月,OpenAI 宣布 表示,它将在国防部的安全企业AI平台GenAI.mil上部署ChatGPT的定制版本。该公司指出,其与军事和国防部门的合作源于AI在保护人员和避免冲突方面的关键作用。

美国政府与AI公司在军事AI发展方面的摩擦也导致更多研究人员离开AI公司。Anthropic的一位顶级安全研究人员辞职时发表声明称:“世界正处于危险之中。”

另一位OpenAI研究人员也辞去了职务,称AI技术有一种开发者无法理解或阻止的控制人类的方式。

前OpenAI研究人员Zoë Hitzig也于2月11日离开了该公司。她在OpenAI宣布开始在LLM ChatGPT上测试广告的当天辞职。她声称,AI公司正在犯Facebook曾经犯过的错误。

Hitzig表达了对ChatGPT独特角色的担忧,即作为深度个人披露(医疗恐惧、关系问题、宗教信仰)的倾诉对象,这使得广告定位尤其具有风险。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Collins J. Okoth

Collins J. Okoth

Collins Okoth 是一位拥有 8 年经验的记者和市场分析师,专注于加密货币和科技领域报道。他是特许金融分析师(CFA),并拥有精算数学学位。Collins 此前曾在 Geek Computer 和 CoinRabbit 担任撰稿人和编辑。

更多新闻…