生成式人工智能位列Q2 2023五大新兴风险之一

根据Gartner, Inc.最近的一项研究，包括OpenAI的ChatGPT和Google Bard等知名模型在内的生成式人工智能（AI），在2023年第二季度已跃居企业风险关注的前沿。

调查洞察

在2023年5月进行的一项全面调查中，Gartner联系了249位高级企业风险高管，旨在为20项迫在眉睫的风险提供基准视角。《季度新兴风险报告》是一份详细分析，揭示了这些风险的潜在影响、时间线、关注程度以及相关的感知机会。

生成式AI的大规模可用性被列为引用频率第二高的风险。与此同时，第三方生存能力在2023年第二季度的调查中被评为最受关注的快速新兴风险之首。财务规划不确定性和云集中风险紧随其后，中美贸易紧张局势完成了前五名。这些风险代表了当前宏观经济、地缘政治波动和技术相关担忧的混合体。

Gartner风险与审计实践的研究总监Ran Xu认为，生成式AI突然出现在前十名中并排名第二，反映了公众对生成式AI工具的认识和采用的迅速增长。这也凸显了其广泛的应用范围，以及随之而来的风险。

生成式AI的风险

Gartner此前确定了生成式AI的六项固有风险和四项相关的AI监管领域。为了有效管理企业风险，Gartner强调三个关键领域：知识产权、数据隐私和网络安全。

知识产权担忧

生成式AI工具可能会无意中将其信息整合到其训练数据集中。Ran Xu解释说，输入生成式AI工具的信息可能会成为其训练集的一部分。这意味着敏感或专有数据可能会无意中出现在其他用户的输出中。此外，使用这些工具的输出可能会无意中侵犯先前用户的知识产权。Gartner强调，必须让企业领导者了解在使用此类工具时所需的谨慎和公开态度，以确保适当解决知识产权风险。

数据隐私问题

生成式AI工具可能会在未经事先通知的情况下，将用户数据无意中分享给第三方，如供应商或服务提供商。此类行为可能会违反许多地区的隐私法。值得注意的是，中国和欧盟已经颁布了相关法规，美国、加拿大、印度和英国也即将出台拟议的法律。

网络安全威胁

生成式AI工具并非对网络威胁免疫。Xu指出，存在由生成式AI在被欺骗后产生的恶意软件和勒索软件代码，以及“提示注入”攻击，这些攻击会误导这些工具泄露它们本不应泄露的信息。这为大规模执行复杂的网络钓鱼攻击铺平了道路。

经济状况和第三方生存能力

分析师还强调，恶化的经济状况可能会放大第三方生存能力的风险。持续存在的通货膨胀对利率调整反应迟钝，且持续时间比预期更长，加剧了第三方的成本和利润压力。随着中央银行提高利率以对抗通货膨胀，这会触发信贷紧缩阶段，由于借贷成本不断上升，可能会迫使供应商暂停运营或破产。

广泛的经济衰退可能导致需求出现意想不到的下滑，危及供应商的生存能力或其及时交付商品和服务的能力。

Gartner的专家概述了第三方生存能力的三种潜在后果，供风险管理者跟踪：关键投入和材料的损失、错误的财务规划假设以及外部供应链挑战。

随着新兴风险格局的演变，企业必须保持警惕，特别是在生成式AI领域。技术进步与经济波动的结合需要对风险管理采取主动方法。