- AI 领袖，包括多伦多大学，警告 AI 带来的生存威胁，敦促政策制定者迅速采取行动。
- AI 的快速发展超出了监管速度，带来了与大流行病和核战争相当的风险。
- 市场导向的 AI 监管方案被提出，以跟上技术飞速发展的步伐。
人工智能（AI）领域正经历一场具有里程碑意义的变革，以Chat-GPT和DALL-E等AI程序的卓越能力为标志。这些程序以其艺术创作和抽象思维能力惊艳了公众，但也引发了严重担忧。除了阴谋论者的臆测之外，包括多伦多大学（U of T）在内的行业领袖也在发出警报，警示AI潜在的生存威胁。
呼吁谨慎
多伦多大学施瓦茨·赖斯曼研究所（SRI）的执行主任Monique Crichlow指出，技术发展的速度可能已经超过了我们理解其影响的能力。虽然目前尚不确定AI是否真的构成生存威胁，但SRI敦促世界各国领导人认真对待这种可能性。
多伦多大学与AI的复杂历史
SRI的信息之所以具有重要意义，是因为多伦多大学在AI发展中扮演了历史性的角色。11年前，Geoffrey Hinton和多伦多大学的两名研究生开创了人工神经网络，为Chat-GPT等技术奠定了基础。Hinton常被称为AI的“教父”，后来创立了Vector Institute，这是一家非营利性的AI研究公司。
在今年5月，Hinton辞去了在Google的职务，对他对AI发展的贡献表示遗憾。他承认AI带来的生存威胁的严重性，以及采取更负责任方法的必要性。
专家呼吁立法与合作
Hinton和多伦多大学法学院教授Gillian Hadfield是人工智能安全中心（Centre for AI Safety）声明的签署人之一，该声明呼吁优先减轻AI相关的灭绝风险。该声明强调全球合作的重要性，将此类风险与大流行病和核战争相提并论。
此外，Hadfield签署了一封信，呼吁立即停止训练比GPT-4更强大的AI系统。这封信由“生命未来研究所”（Future of Life Institute）发布，突出了AI开发中狂热的竞赛，即使是创造者也难以理解和控制他们的创造物。信中呼吁建立行业监管机构和完善监管框架，强调AI实验室、企业和政府之间合作的必要性。
平衡创新与责任
Monique Crichlow澄清说，暂停信并非旨在扼杀创新，而是鼓励对技术进步的方向进行批判性思考。它强调了通过强有力的监管措施将AI引导至正确方向的必要性，这一观点在行业内得到了许多人的共鸣。
加拿大的AI监管
加拿大下议院正在审议C-27号法案，这是渥太华首次全面尝试监管AI。该法案的条款之一是将责任赋予AI开发者、分销商和管理者，要求他们减轻和监控其技术的风险。这包括保护个人数据的匿名性，并向消费者提供潜在风险的清晰解释。
然而，拟议的监管并非没有缺陷。AI指数级发展的性质与通常缓慢的政策制定节奏相冲突。AI本质上很复杂，这使得政府官员难以起草有效的立法来应对潜在威胁。
AI监管的新方法
Gillian Hadfield和OpenAI的政策总监Jack Clark提出了一种基于市场的AI监管方法。在这种模式下，AI技术的开发者和分销商将负责从第三方监管机构购买监管服务。这种方法将跟上AI开发者速度的责任转移到了开发者自身身上。
在这种模式成为现实之前，包括加拿大在内的世界各国政府将难以赶上那些奔向潜在全球生存危机的AI开发者。
AI技术的快速发展引发了对其潜在生存威胁的重大担忧。多伦多大学的领导者和知名AI行业人物呼吁保持谨慎，敦促政策制定者采取果断行动。随着关于AI监管的辩论继续进行，在创新与责任之间找到平衡仍然是确保人工智能时代更安全、更可靠未来的关键挑战。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Glory Kaburu
Glory是一位精通AI工具与研究的知识渊博的记者。她热衷于人工智能领域，并撰写了多篇相关文章。她持续关注人工智能、机器学习和深度学习领域的最新进展，并定期发表相关评论。
