人工智能的应用暴露出新的网络安全威胁

一位网络安全专家透露， 人工智能 对于将其作为服务的企业来说是一个不安全的网络安全威胁，不仅犯罪分子会发起攻击，而且合法用户也可能发起攻击。

人工智能的网络安全漏洞

虽然利用人工智能进行攻击的恶意行为者构成的威胁已被广泛讨论，但专门为人工智能提供网络安全服务的 Midgard 公司的首席执行官兼首席技术官 Peter Garraghan 表示：“我所指的问题是人工智能面临的网络安全威胁，这才是我们讨论的重点。”

不出所料，企业最常见、风险也最高的AI应用场景是聊天机器人，它们提供客户服务，其语气和数据通常会根据所代表的组织进行定制。兰卡斯特大学计算机科学教授加拉汉博士专攻AI安全和系统，正是在这种背景下，他于2022年找到了Mindgard公司。“AI并非魔法，”他说道，“它只不过是额外的代码、数据和硬件的组合。”鉴于当今的网络威胁，所有这些威胁也可能在AI中显现。.

我们不妨这样想：假设攻击者使用一种名为 SQL 注入的攻击手段。攻击者可以利用这种手段攻击网页表单字段中的漏洞，例如网站登录表单或联系表单。提词器输入的另一种用途是提示注入，这种攻击方式常用于公共应用程序中。首先，如果安全措施不足，人工智能工具很容易被恶意利用，导致其源代码、指令、公司知识产权或客户数据泄露。其次，人工智能工具可以像其他软件应用程序一样被逆向工程，从而dent其中的缺陷。.

保障人工智能系统安全

加拉汉谈到问题的严重性时说：在可预见的未来，几年后，国家安全因素可能会出现，或者弱势群体可能会面临风险。这些新信息似乎是一个警告：企业应该对泄露的数据保持警惕。.

加拉汉表示：“更重要的是，人工智能可能被用作网络攻击工具，导致数据泄露；该模型能够提供您如此恳求的数据。”他举例说，今年1月，右翼社交媒体平台Gab在寻找教程时，意外dent了其操作说明。基于GPT的 OpenAI 此前也曾遭遇过模型被滥用的情况。

加拉汉声称，未经授权的 VoIP 攻击可以获取信息。此外，人工智能可以被逆向工程，系统可以被绕过或欺骗，从而开放对其他系统的访问权限。因此，信息泄露可能是所有行业（包括面向外部和内部的行业）面临的主要问题之一。他还列举了其他风险，例如模型规避，即通过捏造虚假数据来误导或故意规避模型。.

加拉汉指出，在音频 trac中植入恶意指令或用错误设计的解决方案污染数据是另一种威胁。此外，他还指出，网络攻击造成的普遍影响是声誉损害。同样，此类网络攻击负面影响最大的领域，也是风险最高的领域。对于许多在线运营的行业和机构而言，公共安全和防止dent信息泄露等都是金融服务和医疗保健行业应该优先考虑的重要价值。.

加拉汉说：关键在于，你的行业结构越严谨、控制越严格，你面临的人工智能风险就越大（经验也很重要：你越少使用人工智能，就越难采纳新技术），你的人工智能水平就越差。也许他们并非懒惰。例如，他们可能只是正经历人生中最艰难的阶段。.

主动式人工智能安全措施

人工智能将能够应对任何特定公司面临的这些风险，但他表示，为了保护用户，需要多层安全防护（因为商业领域的人工智能本身就需要这些防护措施）。“目前已经有一些专门针对不同行业的网络安全工具，”加拉汉说道，“这些工具可能包括安全态势管理工具、检测和响应工具、防火墙，以及对左移设计（例如代码扫描）的支持。随着数字化转型，你很快就需要 人工智能 。”该领域专注于人工智能和机器学习，而像神经网络这样的系统则很少被提及。

您需要一款神经网络应用扫描器、一套能够应对所有类型神经网络的响应系统、安全测试以及红队演练，以便更好地控制应用程序之间的交互。此外，您还需要一套能够应对所有类型神经网络的响应系统。及早修复和补救这些问题比解决运行时问题要容易得多。然而，我们建议使用人工智能模型或购买的人工智能应用和服务的组织，最佳实践是在投入生产环境之前，尽可能修复模型的所有问题。这样，投入生产环境后，就可以只dent出需要修复的问题。.