生成式AI引发商界领袖担忧：研究

超过90%的高管对未监控的生成式AI工具使用表示担忧

网络安全供应商卡巴斯基（Kaspersky）最近进行的一项研究揭示，企业高管层对生成式人工智能（GenAI）工具在其组织内不受监管的蔓延日益感到担忧。鉴于90%的高级商业领导者对这种工具的无节制采用表示担忧，显然生成式AI正日益融入各种业务运营中。

生成式AI的无声渗透

卡巴斯基的研究发现，超过半数（53%）受访的高级高管认为生成式AI现在正在其组织内的某些业务线中积极“驱动”发展。然而，59%的人也对所谓的生成式AI“无声渗透”表达了深切担忧，这导致了网络风险的加剧。这种“影子AI”现象，即员工在缺乏适当监督的情况下引入生成式AI，对数据安全和治理构成了重大挑战。

一个令人不安的发现是，受访的商业领导者中仅有22%讨论过实施内部治理政策以监控其组织内生成式AI的使用。此外，91%的人承认需要更好地理解如何使用这些工具来缓解安全风险。

卡巴斯基首席安全研究员David Emm强调了解决这一问题的紧迫性，他表示：“鉴于GenAI的快速演变目前看来没有减缓的迹象，这些应用程序在不受监管的情况下运行时间越长，它们在人力资源、财务、营销甚至IT等主要业务功能中的控制和安全性就越难保障。”

数据泄露担忧

生成式AI依赖于通过数据输入进行持续学习，因此数据保护成为首要关注点。即使员工出于善意使用，也可能无意中向组织外部传输敏感数据，从而导致数据泄露。卡巴斯基的研究反映了这一担忧，59%的领导者对数据丢失风险表示严重焦虑。

尽管存在这些担忧，研究还显示，50%的商业领导者计划以某种方式利用生成式AI，主要是为了自动化重复性任务。此外，44%的人打算将生成式AI工具整合到他们的日常工作中。值得注意的是，24%的人表示倾向于使用生成式AI来自动化IT和安全功能。

Emm对此趋势评论道：“人们可能会认为，敏感数据丢失和失去对关键业务部门控制的前景会让高管层三思，但我们的研究结果显示，近四分之一的行业老板目前正考虑将一些最重要的职能委托给AI。”

然而，他也强调，在进一步将GenAI整合到企业环境之前，需要全面理解数据管理并制定强有力的政策。

围绕生成式AI风险与益处的讨论日益突出。英国首相里希·苏纳克（Rishi Sunak）最近呼吁提高对生成式AI相关风险的认识。此举正值布莱切利公园（Bletchley Park）举办AI安全峰会之际，行业领袖和专家将在会上讨论监管的未来以及这一新兴技术的整合。

生成式AI的双刃剑效应

Trellix的高级副总裁兼总经理Fabien Rech强调了生成式AI的双重性质，他表示：“生成式AI是一把双刃剑——随着网络安全格局的不断演变，生成式AI的普及只会增加更多的复杂性。”

Rech强调，组织必须意识到生成式AI技术的影响，以及如何有效地利用和整合它。虽然生成式AI工具能简化日常任务并提高生产力，但也存在其被恶意利用的担忧，例如代码注入、网络钓鱼、社会工程和深度伪造技术。

他敦促组织优先考虑强大的安全措施，并整合适当的技术解决方案，以建立抵御网络威胁的弹性保护。