- 研究人员发现，广泛使用的聊天机器人存在重大安全漏洞，攻击者可借此绕过安全措施并生成有害内容。
- 即使是ChatGPT和Google Bard等闭源聊天机器人系统也易受此类攻击，凸显了加强防护措施的必要性。
- 行业在寻找能够杜绝所有潜在攻击的万全之策方面面临挑战，这进一步强调了提升AI安全性的关键作用。
来自卡内基梅隆大学和美国人工智能安全中心的研究人员发现，包括 ChatGPT、Claude 和 Google Bard 在内的广泛使用的大型语言模型存在重大安全漏洞。尽管人工智能公司努力实施安全措施，但研究人员找到了一种绕过这些护栏并使聊天机器人生成有害信息的方法。这一发现的后果引发了人们对这些聊天机器人可能向互联网充斥虚假和危险内容的担忧。
日益增长的担忧
人工智能公司花费数月时间为其聊天机器人添加安全护栏，以防止仇恨言论、虚假信息和不良内容。然而，研究人员现在证明，这些安全措施很容易被规避，导致有害信息的生成激增。
利用从开源人工智能系统中学到的技术，研究人员能够针对谷歌、OpenAI 和 Anthropic 等主要公司严格控制且广泛使用的系统。通过在特定的英文提示后附加一长串字符，聊天机器人会被欺骗以提供有害信息，尽管在没有该后缀的情况下它们会拒绝这样做。这种技术允许攻击者胁迫聊天机器人生成有偏见、虚假和有毒的内容。
对行业的影响
这项研究的发现突显了当前人工智能聊天机器人防御机制的脆弱性。即使是像 ChatGPT 和 Google Bard 这样的闭源系统也被发现容易受到这种攻击，表明迫切需要更强的保障措施。虽然受影响的公司已被告知具体的攻击方式，但专家强调，目前尚无已知方法可以防止所有此类攻击，使得情况极具挑战性。
Meta 决定将其技术作为开源软件提供，这一决定引发了批评，并引发了关于开源模型还是私有模型更有益的更大辩论。支持者认为，开源模型允许集体解决问题并促进良性竞争，而另一些人则担心这可能导致强大且不受约束的人工智能的传播。
缺乏明显的解决方案
安全专家近十年来一直在尝试防止图像识别系统遭受类似攻击，但收效甚微。聊天机器人现在也面临着同样的挑战，因为似乎没有万无一失的解决方案来防止所有此类攻击。
Anthropic、OpenAI 和谷歌等公司正在努力寻找 thwart 此类攻击并提高其模型对对抗性行为鲁棒性的方法。然而，鉴于问题的复杂性，是否有可能系统地防止聊天机器人技术的所有滥用仍不确定。
在广泛使用的聊天机器人中发现漏洞引发了对人工智能技术被滥用的严重担忧。人工智能行业必须采取果断措施加强护栏并改善安全措施，以防止有害信息的传播。虽然开源模型有其优势，但这一事件凸显了需要采取平衡的方法，以确保人工智能在面向公众的应用中的负责任和安全部署。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明： 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议您在做出任何投资决策前进行独立研究或咨询合格的专业人士。
埃迪塔·帕特里克
Editah 是一位多才多艺的金融科技分析师，对区块链领域有着深入的理解。她既着迷于技术，又惊叹于技术与金融交汇所带来的震撼。她对数字钱包和区块链的特别关注，也为她的受众提供了宝贵的见解。
