● AI 聊天机器人可被轻易诱导生成有害回应
● 研究人员发现五大顶级大语言模型对越狱攻击‘高度脆弱’
● AI 公司强调其模型内置的安全机制
根据英国人工智能安全研究所（AISI）的一项新研究，像 ChatGPT 或 Gemini 这样的人工智能聊天机器人很容易被欺骗，从而顺从那些会产生有害回复的查询。
政府研究人员针对国家安全攻击，测试了大型语言模型（LLM）——即人工智能聊天机器人背后的技术——的完整性。
这些发现是在AI首尔峰会之前得出的，该峰会将于5月21-22日在韩国由英国首相Rishi Sunak共同主持。
延伸阅读： 安全将成为首尔人工智能峰会的核心议程
人工智能聊天机器人易产生有毒回复
AISI 对五种顶级 LLM 进行了基本的“越狱”测试——即旨在覆盖针对非法、有毒或露骨输出的保护措施的文本提示。该研究所未命名这些人工智能系统，但发现它们“高度易受攻击”。
“所有测试的 LLM 仍然高度易受基本越狱攻击的影响，有些甚至在未专门尝试规避其安全措施的情况下也会提供有害输出，”该研究称。
根据report，诸如提示聊天机器人包含“当然，我很乐意帮忙”之类的“相对简单”的攻击，可以欺骗大型语言模型提供在许多方面有害的内容。
研究指出，这些内容可能助长自残、危险化学溶液、性别歧视或否认大屠杀。AISI 使用了公开可用的提示，并为该研究私下设计了其他越狱手段。
该研究所还测试了对生物和化学主题查询的回复质量。
虽然该领域的专家级知识可以用于善举，但研究人员想知道人工智能聊天机器人是否会被用于危害目的，例如破坏关键的国家基础设施。
“几种 LLM 展示了化学和生物学领域的专家级知识。模型以与拥有博士学位的人类相似的水平回答了超过 600 个私人专家撰写的化学和生物学问题，”研究人员发现。
人工智能带来的网络安全威胁有限
关于人工智能聊天机器人可能被武器化以执行网络攻击的问题，该研究指出，LLM 轻松通过了专为高中生设计的简单网络安全任务。
然而，聊天机器人在针对大学生的任务中表现挣扎，这表明其恶意潜力有限。
另一个令人担忧的领域是，聊天机器人是否可以作为代理部署，以“人类难以控制”的方式自主执行一系列操作。
“两种 LLM 完成了短视距代理任务（如简单的软件工程问题），但无法为更复杂的任务规划和执行一系列操作，”研究指出。
英国科学、创新和技术部副国务卿Saqib Bhatti MP最近quoted saying legislation will take shape in due course and will be informed by testing.
公司声称过滤不良内容
Claude的创建者Anthropic、制作Llama的Meta以及ChatGPT开发者OpenAI等公司强调了他们各自模型中内置的安全机制。
OpenAI 表示，其技术不允许“用于生成仇恨、骚扰、暴力或成人内容”。Anthropic 声明称，其优先在问题发生前“避免有害、非法或不道德的回应”。
AI Safety Institute’s findings are expected to be tabled before tech executives, government leaders and artificial intelligence experts at the Seoul summit.
Cryptopolitan Jeffrey Gogo 报道
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页面提供的信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Jeffrey Gogo
Jeffrey Gogo 是一位拥有 20 年商业、金融及气候变化新闻与分析经验的记者。他的作品曾发表于汤森路透基金会、《津巴布韦先驱报》以及多家在线出版物。他还广泛撰写过关于人工智能和元宇宙的文章，并于 2017 年开始涉足加密货币市场。Gogo 在哈拉雷的 CCOSA 学习了新闻与大众传播专业。
