韩国和英国政府将在本周的国际人工智能峰会上敦促科技公司解决人工智能安全监管问题。.
本次会议是继去年在英国布莱切利庄园举行的首届全球人工智能安全峰会之后的一次后续会议。在去年的峰会上，许多国家的政府表达了对人工智能风险的担忧。人工智能公司也出席了会议，因为他们正在研发的技术本身就存在这些风险。.
在众多国际努力为快速发展、有可能彻底改变社会诸多方面的技术制定监管措施之际，首尔峰会引发了人们对日常生活面临的新兴风险的担忧。.
“尽管在塑造全球人工智能治理方面已做出积极努力，但仍存在重大差距。”
11月在英国举行的峰会汇聚了研究人员、政府官员、科技公司高管和民间社会组织代表，他们对人工智能的看法各不相同。会议在布莱切利庄园闭门举行。除英国首相里希·苏纳克、OpenAI首席执行官萨姆·奥特曼和特斯拉首席执行官埃隆·马斯克等政界人士外，还有许多其他人士出席了会议。.
人工智能峰会将安全问题列为首要考虑因素。
安全问题将再次成为人工智能首尔峰会的首要议题，峰会将于周二开幕。英国和韩国政府将于5月21日至22日共同主办此次会议。.
微软、Anthropic、谷歌DeepMind、ChatGPT的创建者OpenAI以及法国人工智能初创公司Mistral等知名人工智能公司计划派代表出席。.
英国首相里希·苏纳克和韩国总统dent也联合撰写了一篇文章，发表在iNews上。他们肯定了这项技术的潜力，并表达了确保安全的意愿，称：
“我们决心携手合作，充分发挥这项技术的潜力，让世界变得更美好。”
他们还强调，新技术带来新风险，人工智能也不例外。他们指出，一些不法分子滥用人工智能，蓄意利用人工智能作恶。.
就在不久前，OpenAI解散了其安全团队——超级对齐团队（Superalignment team）。此前，该公司联合创始人伊利亚·苏茨克维尔（Ilya Sutskever）和其他一些关键员工离开了公司。这一消息发生在首尔峰会召开前几天，而此次峰会的重点正是降低人工智能带来的风险。OpenAI是全球领先的人工智能公司。.
另一方面，Anthropic今天发布了关于负责任的规模化政策的报告，该公司称该政策已取得良好成效。然而，我们无法证实这些结果。尽管我们不便对上述任何进展发表评论，但它们确实引人深思。.
创新必须持续进行
ChatGPT在2022年推出后迅速走红，此后全球科技公司开始投入数十亿美元构建生成式人工智能模型。Sunak和Yeol提到了这种快速创新，因为每天都有新的人工智能模型问世。他们说：
“政府可以通过投资数十亿资金来促进这种创新，加大对世界一流大学的前沿研究投入，并确保我们不会过度监管那些可能产生下一个伟大创意的初创企业。”
生成式人工智能模型的支持者称赞这项技术是一项突破，它将改善世界各地人们的生活和企业，因为它能够根据简单的提示生成文本、照片、音乐甚至视频。.
有些引起公众关注的产品本身就带有偏见，这令人担忧。.
另请阅读：人工智能专家在FIDIC全球领导力论坛上表示，与人工智能合作至关重要。
不仅如此，支撑这些产品的技术——大型语言模型（LLM）——也已成为众多不同领域解决方案的基础技术。从自动驾驶汽车到医疗解决方案，许多领域都依赖生成式人工智能大型语言模型来实现其功能。.
仍然存在一些令人担忧的声音
许多人呼吁制定国际准则来控制人工智能的发展和应用。例如，总部位于纽约的“禁止扫描”（Ban the Scan）运动要求政府和私人部门停止使用面部识别技术。.
他们认为这些技术会干涉个人自由，而且误报率很高。tron前沿基金会的一个页面上写道：
“面部识别技术对隐私、种族正义、言论自由和信息安全构成威胁。包括面部扫描和实时 trac在内的所有形式的面部识别技术，都对公民自由和个人隐私构成威胁。”
他们并非孤例。人权倡导者、各国政府和批评人士都警告说，人工智能可能被滥用于多种用途。例如，非国家行为体可以利用人工智能，通过虚假新闻报道或所谓的“深度伪造”图像和视频来影响选民，这些图像和视频可能包含民选官员的个人信息。另一个日益令人担忧的问题是，有报道称一些国家为了自身利益而支持不法分子。.
“我们还将采取下一步措施，制定全球标准，以避免竞相降低标准。”
这两篇文章都提到了上述声明，并强调在一个更加开放的论坛上讨论人工智能的国际规范将大有裨益。与此同时，一些韩国公民权利组织批评主办方邀请的发展中国家数量不足。.
本周，法国还将举办由全球最大的奢侈品集团LVMH支持的“Viva Technology”科技大会。过去一年，法国一直致力于trac人工智能初创企业，力图将自身打造成为欧洲人工智能领域的领军者。.
Cryptopolitan 报道，作者：Aamir Sheikh
