GenAI网络安全调查：负责任集成的洞察

在技​​术飞速发展的今天，生成式人工智能已成为一股变革性的力量，它有潜力重塑各行各业，并在各个领域开启新的篇章。然而，随着越来越多的组织将生成式人工智能融入其运营，必须密切关注伦理考量和监管合规性，以确保在网络安全领域负责任且可持续地利用这项前沿技术。本文将介绍2023年开展的11项生成式人工智能网络安全调查的主要发现，并阐明一些关键见解，以指导未来的网络安全战略。.

小型企业对GenAI的采用和安全担忧 小型企业接受GenAI，

一项针对900多位全球IT决策者的调查揭示了一个看似矛盾的趋势。尽管高达89%的组织认为ChatGPT等生成式人工智能（GenAI）工具存在潜在的安全风险，但令人震惊的是，其中95%的组织已经在业务中以某种形式使用这些工具。这种风险认知与实际使用之间的脱节凸显了在生成式人工智能时代采取更全面的网络安全策略的必要性。.

OpenAI 于 2022 年底推出的 GPT-3.5 系列引发了全球生成式人工智能投资的激增。尽管许多公司此前已熟悉人工智能技术，但仍纷纷调整投资方向，积极拥抱这一最新产品。国际数据公司 (IDC) 指出，生成式人工智能投资的激增标志着技术格局的转变，也表明各行各业对生成式人工智能的巨大潜力有了越来越深刻的认识。.

科技领导者努力跟上步伐

随着人工智能的不断发展，它给各组织机构带来了巨大的挑战。仅有15%的全球科技领导者表示，他们已做好充分准备来应对生成式人工智能的需求。哈维·纳什公司的一项研究显示，高达88%的领导者强调，必须加强人工智能监管。这些数据凸显了采取积极措施弥合人工智能tron与监管控制之间差距的必要性。.

尽管存在安全隐患，但各组织对生成式人工智能的潜在益处仍抱有高度信心。高达 82% 的dent者认为生成式人工智能能够为他们带来竞争优势。这种乐观态度凸显了生成式人工智能的巨大潜力，如果能够负责任地加以利用，它将为各行各业的企业带来显著优势。.

安全领导者对人工智能生成的威胁保持警惕

近几个月来，电子邮件攻击的数量和复杂程度激增，引发了安全领导者的担忧。生成式人工智能被认为是造成这一趋势的幕后推手，专家认为这仅仅是个开始。随着人工智能生成的攻击日益普遍，安全专业人员必须保持警惕，并积极主动地调整防御措施。.

各组织机构dent，生成式人工智能存在诸多令人担忧的问题，包括数据隐私和网络安全问题（65%）、员工基于不准确信息做出决策（60%）、员工滥用和伦理风险（55%）以及版权和知识产权风险（34%）。这些担忧凸显了生成式人工智能带来的挑战的复杂性，以及制定全面风险管理策略的必要性。.

人工智能投资的未来 人工智能投资正在崛起

对生成式人工智能的投资有望实现显著增长，预计到 2027 年，投资额将激增至 1430 亿美元。包括生成式人工智能平台/模型、生成式人工智能应用开发与部署 (AD&D) 以及应用软件在内的生成式人工智能软件领域预计将经历快速扩张，这反映出该技术在各个行业中日益增长的重要性。.

随着各组织越来越多地将生成式人工智能（GenAI）融入运营，新的能力需求也随之而来。诸如专门负责编写和测试GenAI系统提示的“提示工程师”等角色的出现，正体现了有效利用GenAI所需的技能组合也在不断发展。为了充分发挥GenAI的潜力，各组织必须为关键岗位制定个性化的培训计划和技能发展路线图。.

应对基因人工智能风险的挑战

生成式人工智能面临的一大担忧是其可能出现误解。当遇到无法准确回答的问题时，生成式人工智能可能会诉诸一种被称为“人工智能幻觉”的过程，即编造一个答案。这一挑战凸显了改进人工智能模型并确保其提供准确可靠信息的重要性。.

与DevOps团队相比，安全运营（SecOps）负责人更快地将生成式人工智能（GI）融入软件开发流程。高达45%的SecOps负责人已经集成了生成式AI，并表示显著节省了时间，其中57%的人表示每周至少节省6小时。相比之下，只有31%的DevOps受访dent采用了生成式AI。这种差异引发了人们对效率提升与潜在风险之间平衡的思考。.

IT领导者对GenAI的SaaS安全隐患感到担忧

随着 ChatGPT 等生成式人工智能应用的出现，IT 领导者现在必须考虑其对软件即服务 (SaaS) 安全性的影响。值得注意的是，23% 的受访dent表示，生成式人工智能应用是 SaaS 安全方面最令人担忧的问题。这凸显了企业需要调整其安全策略，以应对生成式人工智能带来的不断变化的安全威胁。.

生成式人工智能有望彻底改变包括网络安全在内的各个行业。尽管各组织机构都热切期盼这项技术带来的变革潜力，但他们必须密切关注安全性和伦理方面的考量。这些关于生成式人工智能网络安全的调查结果及时提醒我们，生成式人工智能既带来了挑战也带来了机遇，并敦促企业和监管机构携手合作，在不断发展的数字化环境中，以负责任和可持续的方式利用其潜力。