- AI研究人员强烈建议将33%的AI研发资金用于确保新兴技术的安全与伦理。
- 一封由图灵奖得主和诺贝尔奖获得者联署的信函，发出了一项有力的呼吁，要求对AI系统可能造成的危害承担法律责任。
- 在全球AI安全峰会期间，来自世界各地的领导人齐聚一堂，全球AI社区强调了缺乏全面AI安全监管这一紧迫问题。
在快速演变的人工智能领域，顶级研究人员和杰出人士正在发出警报，要求彻底改变人工智能安全的方法。一封由三位图灵奖得主、一位诺贝尔奖得主以及十多位著名 AI 学者签署的信件强调，各国政府和企业必须将其人工智能研发资金的大部分用于确保这些先进系统的安全和道德使用。
国际 AI 安全峰会临近
随着世界为即将在伦敦举行的国际 AI 安全峰会做准备，解决 AI 风险的紧迫性成为焦点。这封信概述了一套综合措施，敦促政府和 AI 公司承诺将其研发资金的至少三分之一用于 AI 安全。杰弗里·辛顿（Geoffrey Hinton）、姚期智（Andrew Yao）、丹尼尔·卡尼曼（Daniel Kahneman）、宋黛（Dawn Song）和尤瓦尔·诺亚·哈拉里（Yuval Noah Harari）等杰出人士强调，需要采取主动措施，防止不断发展的前沿 AI 系统可能带来的危害。
根据由 AI 研究界知名人士签署的信件，存在一种共同观点，即政府应在强制要求 AI 系统造成的可预见和可预防损害承担法律责任方面发挥关键作用。对问责制的呼吁旨在填补目前缺乏专门针对 AI 安全问题的广泛监管所留下的空白。
敦促各国政府追究 AI 公司对系统损害的责任
目前，在专注于 AI 安全的全面监管方面存在明显的差距。欧盟的初步立法虽然正在进行中，但尚未成为法律，因为立法者仍在处理未决问题。这封信呼吁迅速解决这一监管真空，强调 AI 的快速进步需要同样快速的预防措施，以确保道德发展。
被誉为 AI 教父之一的约书亚·本吉奥（Yoshua Bengio）强调了投资 AI 安全的紧迫性。信中表达了这样一种观点：最近最先进的 AI 模型被认为过于强大和重要，正如作者警告的那样，需要民主监督。AI 发展的速度远远超过了预防措施，因此需要立即做出重大承诺，以防范潜在风险。
强大的 AI 模型引发警报
包括杰弗里·辛顿和诺贝尔奖得主丹尼尔·卡尼曼在内的信件签署者，指出了最近 AI 模型令人震惊的能力。他们认为，这些模型的影响力太大，不能放任不管，并强调在其开发过程中进行民主监督的重要性。
英国计算机科学家斯图尔特·罗素（Stuart Russell）驳斥了公司关于合规成本的担忧，强调监管的必要性。罗素挑战了监管会扼杀创新的观点，指出根据信件内容，三明治店的监管比 AI 公司还要多。呼吁迅速果断地行动，基于这样一种认识：不受控制的人工智能进步带来了前所未有的风险，需要立即关注。
人工智能安全辩论正达到一个关键转折点，顶级研究人员和意见领袖敦促各国政府和企业优先考虑道德考量，并分配资源以确保人工智能的负责任发展。随着世界准备迎接国际 AI 安全 峰会，问题依然存在：这些紧急的行动呼吁会被采纳吗，还是不受控制的人工智能开发带来的潜在风险将继续升级？
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Aamir Sheikh
Aamir 是一位科技记者，在加密货币和科技行业拥有近六年的经验。他毕业于 MAJ 大学，获得金融与市场营销 MBA 学位。目前他在 Cryptopolitan 工作，报道加密货币市场的最新发展和价格预测。
