- Google 报告称，由政府支持的先进持续性威胁（APT）组织试图进行越狱。
- 黑客试图通过简单手段操纵 Gemini，例如重新表述提示或提交重复请求。
- Google 持续加强 Gemini 的安全措施，以防止威胁行为者滥用人工智能。
在国家支持的黑客试图利用其 Gemini AI 模型后，谷歌发出了关于人工智能 (AI) 相关潜在安全风险的警告。
然而，他们试图越狱系统的努力最终未能成功。
谷歌的威胁情报 小组 (GTIG) 发布了一篇关于“生成式 AI 的对抗性滥用”的论文，解释了威胁行为者如何与其 AI 聊天机器人 Gemini 进行对话。
黑客试图越狱谷歌的 Gemini AI，但简单的技巧失败了
谷歌报告称，威胁行为者试图使用提示词越狱 Gemini AI，包括由政府支持的高级持久威胁 (APT) 组织利用 AI 进行恶意活动的努力。
然而，这家美国跨国公司未发现高级越狱尝试的证据。
相反，黑客使用了简单的方法，例如输入不同的短语或多次重复相同的请求。谷歌评论说这些尝试均未成功。
借助 AI 的越狱是提示注入攻击，试图规避限制并使 AI 模型执行禁止的操作，例如泄露敏感信息或创建有害内容。
根据谷歌的说法，一个 APT 行为者试图利用公开可用的越狱提示词来利用 Gemini 生成恶意代码。然而，尝试失败了，因为 Gemini 以安全过滤的输出作为回应。
谷歌提到，攻击者寻求借助 Gemini 实现不同的邪恶目标，例如收集目标信息、从开放来源识别漏洞以及编写代码和脚本。此外，还进行了一些尝试以支持事后行动，例如避免检测。
伊朗、中国和朝鲜利用谷歌的 Gemini AI 进行网络行动
根据谷歌的说法，基于伊朗的 APT 组织主要利用 AI 制作钓鱼活动。他们还使用 Gemini 对国防专家和组织进行侦察，并生成与网络安全相关的内容。
与此同时，中国的 APT 行为者利用 Gemini 解决代码、脚本和开发任务中的问题。他们还利用 AI 探索更深入访问目标网络的方法。
谷歌的威胁情报小组和 朝鲜 APT 组织在攻击生命周期的不同阶段使用了 Gemini，例如攻击前研发。报告称：
他们还使用 Gemini 研究对朝鲜政府具有战略利益的事物，例如韩国军队和加密货币。
—— GTIG
根据 Chainalysis 的数据，去年朝鲜黑客窃取了 13 亿美元的数字资产。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Nellius Irene
Nellius 是一位商业管理与信息技术专业毕业生，拥有五年加密货币行业经验，同时也是 Bitcoin Dada 的毕业生。她曾为多家领先的媒体出版物撰稿，包括 BanklessTimes、Cryptobasic 和 Riseup Media。
