初创企业在 AI 安全峰会讨论中寻求清晰度和行业特定的 AI 监管

最近的英国 AI 安全峰会汇集了行业领袖、政策制定者和初创企业，讨论先进 AI 系统带来的挑战和风险。虽然许多人将此次活动视为积极的外交步骤，但构建 AI 产品的初创企业现在强调需要监管清晰度和行业特定的 AI 监管方法。 

建立联系和收集信息

AI 安全初创企业 Conjecture 的联合创始人 Connor Leahy 指出，峰会主要作为平台用于建立人脉、信息交流和关系构建，而不是政策决策的场所。像 Leahy 这样的创始人强调了在 AI 社区内培养联系的重要性。

呼吁明确的规则

初创企业呼吁在英国制定更清晰的法规，为其 AI 业务提供稳定的环境。专注于物理设备上 AI 产品数据安全的伦敦初创企业 Octaipipe 的联合创始人 Eric Topham 强调了数据安全监管清晰度的必要性。他将英国缺乏明确标准与欧洲即将出台的《网络弹性法案》进行对比，该法案对设备数据泄露进行处罚。

然而，像 Octaipipe 这样的初创企业对采用一刀切的 AI 立法方法持谨慎态度。许多创始人认为，行业特定的监管比欧盟的横向方法更合适，后者将相同的规则应用于不同的行业。自动驾驶公司 Wayve 的联合创始人 Alex Kendall 认为，不同行业面临独特的 AI 相关风险，应拥有量身定制的监管规定。

平衡短期与长期风险

尽管此次峰会主要聚焦于未来超级强大人工智能系统相关的“灾难性”风险，但初创企业正敦促政策制定者解决短期和长期挑战。Faculty首席执行官Marc Warner强调，应同时解决近期和长期风险，并以汽车行业为例，比喻为既要关注安全带，也要关注催化转化器。

监管前沿人工智能

对最强大的人工智能系统（如那些在海量数据和计算能力上训练的系统）的监管，仍是人工智能领域的一个争议话题。一些专家，如来自Meta的Yann LeCun，认为这些系统并非真正智能，而是复杂的自动补全工具，可能不需要严格的监管。

相比之下，Conjecture等初创公司提出，应为训练新模型设定计算能力的上限，以防止人工智能系统超越人类能力。他们认为，不受控制的超级智能人工智能系统可能导致机器控制未来，取代人类的控制权。

总部位于巴黎的生成式人工智能初创公司Mistral主张，对大型科技公司的AI模型实行强制性的独立监督。这将允许公共研究机构研究这些模型并确保透明度。虽然OpenAI和Google DeepMind等大型科技公司已达成自愿进行外部测试的协议，但Mistral联合创始人Arthur Mensch坚持认为，立法是防止这些公司自我监管所必需的。

DeepMind联合创始人、现任Inflection首席执行官Mustafa Suleyman承认，自愿协议是一个积极的开端。然而，他强调需要在监管与公司的知识产权之间取得平衡。

在英国人工智能安全峰会之后，人工智能行业的初创企业正在寻求监管明确性，并倡导针对人工智能监管的行业特定方法。虽然峰会主要解决了先进人工智能系统相关的长期风险，但初创企业强调需要考虑短期挑战。关于如何监管最强大的人工智能系统的辩论仍在继续，一些人主张对计算能力实施严格限制，而另一些人则主张对大型科技公司进行独立监督。尽管仍有疑问，但持续的对话标志着朝着塑造人工智能监管未来迈出的积极一步。随着人工智能行业的发展，在创新与监管之间找到正确的平衡对其增长和负责任的发展至关重要。