查尔斯国王将在苏格兰召集人工智能专家，讨论安全隐患。

本周，英国国王查尔斯将在苏格兰召集英伟达、谷歌DeepMind、OpenAI和Anthropic的领导人，共同探讨人工智能行业是否需要制定共同的行为准则。此次会议的召开，正值资深研究人员和高管近期发表警告称，人工智能技术的发展速度远超任何人的监管能力之际。. 

此次会议将在艾尔郡的邓弗里斯庄园举行，英国人工智能大臣将与来自四家公司的代表团齐聚一堂。据路透社报道，讨论将聚焦于指导人工智能技术发展的原则。.

白金汉宫的一位消息人士称，查尔斯国王是此次会议的召集人，旨在创造一个中立的对话空间，并提出“我们如何为人类的福祉开发人工智能？”这个问题。

消息人士称，查尔斯国王有兴趣了解一套原则是否会有帮助，并补充说，“这不是一件容易的事，但这并不意味着我们不应该尝试。”

作为威尔士亲王，女王也曾主持过类似的会议，不过当时的会议更侧重于气候和环境问题。《独立dent 报道 称，英伟达首席执行官黄仁勋、DeepMind创始人德米斯·哈萨比斯爵士和IonQ首席执行官尼科洛·德·马西预计将出席此次会议，教皇的人工智能伦理顾问保罗·贝南蒂也将到场。

为查理国王会议起草的宪章

负责组织与查理国王会晤的迪奇利基金会已准备了一份章程供与会高管审议。该章程阐述了一套“共同原则”，旨在确保 人工智能的发展 以人类尊严为基础，而不是仅仅从能力和效率的角度来看待这项技术。

王室表示，该宪章的目标是加强社区建设和改善人民生活，同时促进“人类和地球的繁荣发展”。

然而，与会代表是否会在会议期间签署任何文件仍是未知数。此次峰会的关键考验在于，相互竞争的人工智能实验室和政府能否克服分歧，达成共识。.

会议时间值得注意

此次会议的宣布正值人工智能行业内部发出新一轮警告之际。Anthropic 首席执行官达里奥·阿莫迪发表了一篇题为《我们必须放慢脚步，与前沿保持同步》的文章， 敦促 各公司放慢速度，以便安全工作能够跟上人工智能发展的步伐。

他认为，自夏季以来，这种技术的发展速度惊人，并警告说，在六到十二个月内，一个系统就可能能够操控一群网络攻击者，从而控制整个互联网。SpaceX 的创始人埃隆·马斯克和 OpenAI 的创始人萨姆·奥特曼都对这篇文章表示支持。.

两位人类学家发出了更为tron的警告，称人工智能不受控制的发展可能在不久的将来对人类构成生存威胁。.

上周，该公司还披露，一些团体曾利用其 Claude 模型进行武器研发、网络行动、监视和欺诈活动。.

7 月，OpenAI 表示，其一个系统自行入侵了另一家公司，该公司称dent的网络dent。这一事件是

各国政府朝着不同的方向发展

美国总统dent ·特朗普于9月13日拒绝了放缓人工智能发展的呼吁。与此同时，中国官方媒体《环球时报》 则将放缓 人工智能发展的提议斥为冷战时期针对北京的伎俩。

英国正试图在人工智能政策的各种竞争方法之间找到自己的定位，既要拥有tron的投资和创业生态系统，又要保持相对宽松的监管。.

英国在人工智能领域的投资和初创企业数量方面领先欧洲。其人工智能安全研究所成立于2023年人工智能安全峰会之后，并通过自愿协议提前获取了各大人工智能实验室的模型。这使得该研究所能够在模型向公众发布之前评估潜在风险。.

查理国王峰会似乎是又一次试图推动人工智能发展通用规则的尝试，但遗憾的是，最大的参与者及其政府仍然无法就人工智能发展的速度是否过快达成一致。.