哪些措施可以保护免受 ChatGPT 安全风险的影响？

在技术不断发展的格局中，ChatGPT 迅速崛起，在 2023 年 1 月首次亮相后的短短两个月内就拥有创纪录的 1 亿活跃用户。但是，随着组织越来越多地将这一强大工具集成到其运营中，安全风险的阴影也日益浓厚。从威胁行为者的微妙操纵，到重大数据泄露，再到员工的无意滥用，潜在的陷阱多种多样且影响深远。

ChatGPT 的安全风险和不可预见的危险

作为历史上增长最快的应用程序，ChatGPT 不可避免地吸引了寻求利用其能力的网络犯罪分子的注意。虽然该平台本身是安全的，但有越来越多的证据表明，威胁行为者正在利用 ChatGPT 进行恶意目的。Check Point Research 发现，网络犯罪分子使用该平台开发信息窃取型恶意软件，并以前所未有的复杂性制作鱼叉式网络钓鱼邮件。

固有的挑战在于，旨在识别 poorly crafted 邮件中异常的传统安全意识培训，在涉及 ChatGPT 时变得不那么有效。该平台可以将一封写得糟糕的邮件转化为令人信服的邮件，消除通常的红旗警告。威胁行为者可以无缝地跨语言翻译网络钓鱼邮件，从而逃避基于语言的过滤器。其影响是深远的，因为组织现在必须调整其安全措施，以应对这种新的、由 AI 驱动的网络威胁途径。

ChatGPT 核心的漏洞

令人震惊的是，ChatGPT 本身在 2023 年成为数据泄露的受害者，这源于一个开源库中的错误。OpenAI 披露称，这次泄露在特定的九小时窗口内无意中暴露了 1.2% 的活跃 ChatGPT 订阅者的支付相关信息。鉴于该平台庞大的用户群，它已成为潜在“水坑”攻击的诱人目标，网络犯罪分子寻求利用隐藏的漏洞。

这一事件强调了对广泛使用的 AI 平台的安全架构进行审查的重要性。组织应保持警惕，认识到此类平台中的泄露可能会产生连锁反应，影响数百万用户。加强 ChatGPT 以抵御潜在漏洞的紧迫性变得至关重要，以保护敏感数据并维持用户信任。

ChatGPT 的运作基于类似社交媒体的前提——一旦信息被输入，它就成为平台知识库的一部分。这一特点在防止员工误用方面构成了独特的挑战，员工可能会在粘贴敏感数据到 ChatGPT 以寻求协助时无意中暴露敏感数据。至关重要的是，ChatGPT 会保留用户输入，从而为意外的数据暴露提供了潜在途径。

为降低这一风险，OpenAI 推出了 ChatGPT Enterprise，这是一项付费订阅服务，确保客户的提示词和公司数据不会被用于模型训练。该服务的采用并非必然，组织必须应对确保员工遵守正确使用规范的挑战。

如何以安全的方式利用 ChatGPT

面对这些新兴风险，一些组织选择直接禁止使用 ChatGPT，这可能会在长期内阻碍企业的整体表现。然而，通过正确的方法，可以安全地利用 ChatGPT 来释放其潜在益处。AI 擅长处理那些挑战人类效率的任务，特别是在处理大型数据集以提取相关性和主题方面。

与其阻止平台，否则组织被敦促采用多层安全策略。OpenAI 的订阅服务是朝着正确方向迈出的一步，但组织还应考虑其他工具。Menlo Security 推荐隔离技术，不仅作为数据丢失防护（DLP）工具，还用于记录来自 ChatGPT 等平台上的会话数据，以确保符合最终用户政策。这种基于云的方法可防止恶意有效载荷到达最终用户设备，为抵御潜在威胁提供强大的保护层。

随着组织在 AI 整合的格局中前行，理解和解决与 ChatGPT 相关的安全风险至关重要。通过承认威胁行为者带来的潜在危险，加强防范潜在漏洞，并实施策略以防止员工滥用，组织可以安全地利用 ChatGPT，在保护敏感信息和维持用户信任的同时，释放其变革性潜力。