最新新闻
为您推荐

AI的采用暴露了新的网络安全威胁

作者James KinotiJames Kinoti 3 分钟阅读
AI
  • AI系统存在数据泄露、模型规避攻击和恶意行为者利用的风险——需要强大的安全保障。
  • AI模型可能泄露数据并被逆向工程——需要专业的安全工具。
  • 在部署后问题出现之前,尽早实施AI安全控制措施。

一位网络安全专家披露,AI对于将其作为服务使用的企业而言,是一种不安全的网络安全威胁,这不仅体现在罪犯的攻击执行上,也体现在合法使用场景中。

AI的网络漏洞

虽然利用AI实施攻击的恶意行为者构成的威胁已被广泛讨论,但专门为AI提供网络安全服务的Midgard的首席执行官兼首席技术官彼得·加拉汉表示:“我关注的问题是,针对AI本身的网络安全威胁,这才是话题的核心。”

可以预见,企业中使用AI最常见且因此面临风险的应用是作为客户服务的人工智能聊天机器人,其语气和数据通常针对其所代表的组织进行定制。正是在这里,兰开斯特大学计算机科学教授、专门从事AI安全和系统研究的加拉汉博士于2022年决定创立Mindgard。“AI不是魔法,”他说。它仅仅是额外的编码、数据和硬件的组合。鉴于现代网络威胁,所有这些威胁也可能在AI中显现。

我们可以这样思考:假设攻击者使用一种称为SQL注入的过程。攻击者可以利用该过程来利用网站登录或联系表单等Web表单字段中的漏洞。另一种利用方式是提示注入,这被用于公共应用程序中。首先,如果安全措施不到位,AI工具实际上可能会被“鞭打”以泄露其源代码和指令、公司知识产权或客户数据。其次,AI工具可以像其他软件应用程序一样被逆向工程,以识别缺陷。

保护AI系统

加拉汉谈到了问题的严重性:在设想的未来几年中,国家安全因素可能会出现,或者弱势群体可能面临风险。新信息似乎是一个警告:企业应警惕数据泄露。

加拉汉表示:“此外,AI可以作为一种网络攻击工具,导致数据泄露;该模型将能够‘礼貌地’提供你所请求的数据。”今年1月,右翼社交媒体平台Gab在寻找教程时,意外泄露了其指令。基于GPT的平台OpenAI此前也发生过模型被滥用的情况。

加拉汉声称,信息可能通过未经授权的VoIP攻击获得。此外,AI可以被逆向工程,系统可能被绕过或欺骗以开放访问其他系统。因此,信息泄露可能是贯穿所有行业的主要领域之一,包括那些面向外部或内部的行业。他还列举了其他风险,例如模型规避,即通过伪造欺骗性数据误导或故意规避模型。

加拉汉指出,在音频轨道中插入恶意命令或用错误构思的解决方案污染数据是另一种威胁。此外,他指出,一般性的网络影响是网络攻击后常见的声誉损害。同样,遭受此类网络攻击负面后果风险最大的领域是风险最高的领域。在许多在线运营的行业和机构中,公共安全和避免泄露机密信息是金融服务和医疗保健部门应优先考虑的重要价值。

加拉汉表示:这里的联系是,你在行业中越结构化、越具有控制力,并且你面临的来自AI的风险越大(以及从经验来看:你使用AI越少,采用率越低),你的AI表现就越差。也许他们并不是最懒惰的。例如,他们可能只是正处于生活中最严峻的阶段。

主动的AI安全措施

尽管加拉汉表示,AI将在任何特定企业中处理这些风险,但他指出这需要多层安全措施(因为商业中的AI已经需要这些措施)来保护用户。“你已经有专门针对不同领域的网络安全工具,”加拉汉说。“这些可能包括安全态势管理工具、检测与响应工具、防火墙以及支持左移设计(如代码扫描)的支持。你很快需要符合数字化转型要求的AI。”该流派专门专注于AI和机器学习,而像神经网络这样的系统只是偶尔被提及。

你需要神经网络应用程序扫描器、所有类型神经网络响应系统、安全测试以及红队测试,以便更好地控制应用程序,并且你需要所有类型神经网络的响应系统。在早期修复和补救比运行时问题更容易。然而,我们建议采用AI模型或购买AI应用程序和服务的组织采取的最佳实践是:在投入生产之前,更容易修复模型的所有问题。然后,在投入生产后,只识别需要修复的问题。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

分享本文

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

James Kinoti

James Kinoti

加密货币爱好者 James 热衷于分享金融科技、加密货币以及区块链和前沿技术领域的知识。加密货币行业的最新创新、加密游戏、AI、区块链技术以及其他技术是他关注的重点。他的使命是紧跟各行业变革性应用的步伐。

更多新闻…