安全将成为首尔AI峰会的核心议程

来自韩国和英国的政府将在本周举行的国际AI峰会上敦促科技公司解决人工智能安全监管问题。

此次会议是对去年在英国布莱切利公园举行的首届全球AI安全峰会的后续行动，当时许多政府对AI风险表达了担忧。AI公司也参加了那次峰会，因为它们正在开发的技术带来了这些风险。

在众多旨在为这种可能彻底改变社会多个方面的快速发展的技术建立护栏的国际努力中，首尔峰会引发了人们对日常生活新兴风险的担忧。 

“尽管在塑造全球AI治理方面做出了积极努力，但仍存在重大差距。”

11月的英国峰会汇聚了研究人员、政府官员、科技高管和民间社会组织代表，其中许多人对人工智能持有不同意见。会议在布莱切利的闭门场所举行。包括英国首相里希·苏纳克在内的政治家，OpenAI首席执行官山姆·阿尔特曼和特斯拉首席执行官埃隆·马斯克等科技巨头，以及其他许多人也都出席了会议。

安全将成为AI峰会的优先事项

安全将在周二开始的AI首尔峰会上再次成为首要优先事项。英国和韩国政府将于5月21日至22日联合主办此次会议。

微软、Anthropic、Google DeepMind、ChatGPT的创造者OpenAI以及法国AI初创公司Mistral等知名AI公司预计将派代表参加。

英国首相里希·苏纳克和韩国总统尹锡悦还撰写了一篇联合文章，于周一在INews上发表。他们承认了这项技术的潜力，并表示将确保安全，称：

“我们决心共同把握这项技术的潜力，以更好地改变世界。”

他们还强调，随着新技术带来新风险，AI也是如此。他们指出，不良行为者故意利用AI进行不当行为。

就在最近，OpenAI解散了其名为“超级对齐”（Superalignment）的安全团队，其联合创始人伊利亚·苏茨克弗（Ilya Sutskever）和一些其他关键员工离开了公司。这一发展发生在全球领先AI公司首尔峰会前夕，而该峰会的重点是减轻AI风险。

延伸阅读： 呼吁国际合作以应对布莱切利公园峰会上的AI风险

在另一项发展中，Anthropic今天发布了其关于负责任扩展政策的报告，该公司表示该政策已显示出良好效果。然而，我们无法证实这些结果。虽然我们无法对这些发展发表评论，但它们确实提供了一些值得深思的内容。

创新必须继续

ChatGPT在2022年推出后迅速走红，全球科技公司开始投入数十亿美元构建自己的生成式AI模型。苏纳克和尹锡悦提到了这种快速创新的趋势，因为新的AI模型每天都在推出。他们说：

“政府可以通过投资数十亿美元、提升世界顶级大学的前沿研究，并确保不过度监管可能产生下一个伟大创意的初创企业，来促进这种创新。”

生成式AI模型的支持者称赞这项技术是一项突破，因为它可以根据简单的提示生成文本、照片、音乐甚至视频，从而改善世界各地人们的生活和企业。

其中一些受到公众关注的产品存在固有的偏见，这令人担忧。 

延伸阅读： AI专家在Fidic全球领导力论坛上表示，与AI合作至关重要

而且不仅仅是这些产品；支撑这些产品运行的技术——称为大语言模型（LLMs）——也已成为不同领域许多解决方案的基础技术。从自动驾驶汽车到医疗解决方案，许多都依赖生成式AI LLMs来运作。

仍有令人担忧的声音

许多人呼吁制定国际准则，以规范人工智能的开发和应用。例如，一个名为“禁止扫描”（Ban the Scan）的纽约运动组织要求停止在政府和私人层面使用面部识别技术。 

他们认为这些技术干涉了个人自由，并且误报率很高。电子前沿基金会（Electronic Frontier Foundation）的一篇文章写道：

“面部识别是对隐私、种族正义、言论自由和信息安全的威胁。其所有形式，包括面部扫描和实时跟踪，都对公民自由和个人隐私构成威胁。”

他们并非孤军奋战。人权倡导者、政府和批评人士都警告说，人工智能可能被以多种方式滥用。例如，非国家行为者可以利用它通过虚构的新闻报道或所谓选举官员的“深度伪造”（deepfake）图像和视频来影响选民。另一个日益加剧的担忧是，有报道称某些国家为了自身利益支持流氓势力。

“我们还将采取下一步措施，制定全球标准，以避免‘逐底竞争’。”

该双人文章提到了上述声明，并强调在更开放的论坛上讨论人工智能的国际规范将是有益的。同时，一些韩国民间人权组织批评组织者没有邀请足够的发展中国家。

法国也将在本周举办由全球最大奢侈品集团路威酩轩（LVMH）支持的“Viva Technology”大会。在过去一年中，法国试图吸引人工智能初创企业，以确立其作为欧洲人工智能冠军的地位。

Cryptopolitan 报道 / Aamir Sheikh