三分之一的英国企业在采用大型语言模型（LLM）时将数据安全列为主要担忧

三分之一的英国公司在使用大型语言模型（LLM）时担心其数据的安全性，因为这些模型已从响应命令或问题的助手演变为无需人类持续干预即可独立运作的系统。

因此，这些组织不愿完全将 AI 智能体 大型语言模型整合到其运营系统中，因为他们担心将数据和控制权交给能够“独立思考”的机器。

英国政府正采取措施应对这些挑战。 内阁大臣帕特·麦克法登（Pat McFadden）宣布解密一份情报评估报告，指出人工智能将在未来几年加剧网络威胁。

2024年，英国国家网络安全中心（NCSC）收到了近2,000起网络攻击报告，其中近90起被认定为“重大”，12起处于“严重程度最高端”。这比前一年的严重攻击数量增加了三倍。

英国企业对LLM中的数据安全提出警告

英国企业必须遵守严格的规定，以保护人们的数据并防止其被滥用，例如英国的 《数据保护法》 和欧盟的《通用数据保护条例》（GDPR）。

违反这些法律的公司面临法律诉讼和声誉受损的风险，因此他们正在重新思考其LLM战略。如果没有仔细的人工监督或准确的提示，人工智能可能会泄露私人信息或产生误导性结果。 

最初，像聊天机器人这样的人工智能工具提供固定答案，而智能恒温器只是遵循简单规则来改变温度，不思考或不从新数据、先前行动或决策结果中学习。然而，今天的人工智能代理使用大型语言模型从数据中学习，根据新信息改变行动，并通过像人类一样推理来解决不同的问题。 

但这只是更大担忧的一小部分，因为人们还可以提示代理处理任务，它会将任务分解为较小的活动，逐一处理，然后评估结果。此外，一些代理可以合作处理复杂任务，其中一个代理负责工作，另一个代理检查结果以改善结果。 

尽管这种增长有助于企业自动化运营并减少人类团队所需的时间，但它也是一种威胁，因为这些代理做出的独立决策越多，我们越难完全理解、预测或控制它们的行为。同样，它们错误的后果可能会呈指数级增长，因为这些人工智能代理在没有人类输入的情况下持续行动。 

各公司谨慎地在各部门采用人工智能代理

许多英国公司在日常运营中使用人工智能代理，客户服务、人力资源（HR）和营销等部门正在缓慢测试这些工具并密切监控它们。

一个很好的商业例子是Pets at Home，它为其兽医人员构建了一个人工智能代理，以在宠物检查期间提供快速答案和支持，这表明人工智能代理在真实工作中的小角色中仍然非常有用。 

目前，大多数代理式人工智能系统需要人类引导、检查工作并纠正错误，因为它们尚未准备好在没有监督的情况下完全取代人类。然而，未来可能要求公司做出艰难的决定，允许他们将人工智能代理整合到系统中，同时保持控制权。