Cloudflare曝光职场中的影子AI

总部位于美国的Cloudflare利用其全球网络和尖端工具提升网站速度、安全性和可靠性，已在企业安全平台Cloudflare One中实施了AI监管功能。

这些新功能将使 IT 部门能够快速识别谁在使用 AI 以及他们与该技术共享哪些类型的数据。根据 Cloudflare 的说法，这是 IT 劳动力 获得“X 光视野”以了解员工如何使用生成式 AI 的可靠方法，这也已内置在可用的仪表板中。

此前有研究指出，多家不同机构的雇主已在公司运营中引入生成式AI。然而，部分员工与ChatGPT、Claude或Gemini等AI聊天机器人共享内部财务报表或专有代码，导致信息面临泄露风险。

这一发现导致雇主对这项技术的信心受挫。与AI聊天机器人共享财务细节会暴露公司的秘密，最终导致数据泄露至云端。

该公司在博客文章中强调：“管理员现在可以找到以下问题的答案：我们的员工在ChatGPT中做了什么？哪些信息被上传并用于Claude？Gemini在Google Workspace中的设置是否正确？”

Cloudflare警告企业在处理敏感信息时切勿鲁莽行事 

在对使用AI聊天机器人进行深入研究后， Cloudflare 发现四分之三的员工在他们的 日常运营中使用了ChatGPT、Claude或Gemini。这尤其适用于评估数据、编辑文本、调试和 designing 等任务。 

考虑到这些做法，该公司确定了使用AI时可能出现的一个主要问题。他们指出，公司的敏感细节可能会被不可追溯地上传到这些AI聊天机器人中。为解决这一问题，这家美国公司的产品设计为在API层面工作，并监控系统中任何可疑的上传行为。

既然发现了这种情况，公司已警告个人在处理敏感信息时要避免鲁莽行为。根据Cloudflare的说法，粗心大意可能导致外部模型利用共享的机密细节进行训练，而这些细节可能会永远消失。

其他主要的企业安全公司，如Zscaler和Palo Alto Networks，也提供AI监管功能。 尽管有这些公司存在，Cloudflare仍声称Cloudflare One无可匹敌，理由是它采用混合模式，无需在设备上安装软件即可完美运行。该平台还具备API扫描功能，以监控系统态势、配置问题和数据泄露，同时提供对ChatGPT、Claude和Gemini中提示词的即时控制。

与此同时，值得注意的是，Cloudflare已确立自己作为内容中立的基础设施提供商，而非审核者。简而言之，该公司仅在其客户获得授权时监控其发布的内容。这种方法已实施过去十年。 

Cloudflare首席执行官Matthew Prince就这一话题发表了看法。据Prince称，该公司不是托管服务提供商，也没有权力决定允许哪些内容。然而，他表示，其主要重点是确保网站无论其观点如何都能正常运行。

Cloudflare因其网站服务受到个人批评

Cloudflare的言论自由立场引发了批评，反对者认为该公司助长了有害网站，包括那些仇恨或极端内容的网站。他们说，这是因为未提交正式的除名请求。

这些指控紧随2022年斯坦福大学的一项研究之后，该研究指出Cloudflare负责托管一些 顶级虚假信息网站，占其总互联网流量的比例较高。

尽管如此，该公司也做出了一些例外。例如，2017年，据报道该网站声称Cloudflare支持其亲纳粹立场后，该公司停止了为新纳粹网站The Daily Stormer提供服务。

不久之后，Prince将其宣布为一种不情愿的例外，称这是被迫打破其中立政策的结果。