谷歌DeepMind的哈萨比斯称近期AI黑客事件是早期预警信号

Google DeepMind董事长Demis Hassabis在都柏林举行的AI峰会上发出警告，称近期涉及自主AI代理的黑客事件可能是更大安全威胁的早期信号。他敦促企业和政府在AI技术变得更加强大之前加强防御能力。

DeepMind联合创始人、Alphabet首席科学家Hassabis在国际AI峰会上，既对AI的科学潜力表示乐观，也对其安全风险提出了警告，取得了平衡。

他引用了由自主AI代理发起的黑客攻击案例，这些攻击虽未造成严重损害，但暴露了潜在的安全风险。他强调，这些问题不应被忽视，因为这些系统“尚未成熟”。

Hassabis表示，目前该技术尚不够强大，不足以使这些事件造成重大损害。

DeepMind主席希望防御者先武装起来

Hassabis表示，在AI工具面向公众之前，安全团队需要获得优势。“我认为我们需要做的一件大事是赋予防御者不对称的优势，信任防御者，”他表示。他补充说，同样的系统应有助于在软件发布前发现并修补漏洞。

哈萨比斯敦促企业和政府创建安全沙箱，并在发布前彻底测试自主智能体。他还建议借鉴核技术和生物学领域的专家经验——这些领域在管理危险系统方面经验丰富——以制定应对人工智能风险的方法。

DeepMind的联合创始人还警告称存在目标不一致的风险，即AI代理可能偏离其操作者的目标。“这增加了这些系统可能带来的风险，我们最近已经看到了这一点，”他在峰会上表示。

哈萨比斯提议设立一个国际标准机构，为先进人工智能建立保障措施，同时强调任何框架都必须与技术发展同步，而不应扼杀研究。他还提出了一项基于潜在风险的认证流程，该流程将随着新能力和漏洞的出现而不断演进。

微软总裁布拉德·史密斯（Brad Smith）声称2026年是AI安全的“令人警醒的一年”，并敦促全球监管机构紧跟AI的发展步伐。他补充说，没有任何公司或技术可以凌驾于法律之上，正如Cryptopolitan此前报道的那样。

一位诺贝尔奖得主的乐观态度

哈萨比斯与约翰·贾珀共同获得2024年诺贝尔化学奖，以表彰他们开发出能够预测近2亿种已知蛋白质结构的AI模型。据瑞典皇家科学院称，该技术已在帮助研究人员研究抗生素耐药性和设计降解塑料的酶方面发挥作用。

他在人工智能应用方面的过往记录影响了他在都柏林的发言。哈萨比斯将人工智能描述为一种双用途技术：它既能用于治疗疾病和完成大量任务，也可能被不法分子所利用。

他认为，安全措施应在长期内保护人工智能的潜在益处，而不应完全阻碍其发展。