禁止使用 ChatGPT 是否有充分理由？

TL;DR 摘要

• 一些国家禁止使用 ChatGPT，原因是担心潜在的伦理问题以及 AI 被用于有害目的的可能性。
• 意大利因隐私担忧和数据泄露而禁止使用 ChatGPT。 
• 其他七个国家禁止使用 ChatGPT，原因是政府对信息和通信的控制。
• 对 ChatGPT 进行地理封锁可能会阻碍创新并限制对技术突破的访问，从而限制数字部门的增长前景。

据彭博社报道，三星最近禁止在其内部网络和公司拥有的设备上使用 ChatGPT 等生成式 AI 工具 ，因为担心将这些平台上传敏感信息代表安全风险。

使用 ChatGPT 涉及的隐私风险因用户访问服务的方式而异。如果公司是 ChatGPT 的 API，那么与聊天机器人的对话 对 OpenAI 的支持团队不可见 也不会用于训练公司的模型。然而，使用默认设置在其通用 Web 界面中输入的文本并非如此。

引用禁止使用 ChatGPT 的主要原因之一是 AI 使用引发的潜在伦理问题。例如，一些国家表示担心 AI 可能被用于歧视特定群体或侵犯隐私权。另一个令人担忧的来源是 AI 可能被用于有害目的，例如网络攻击。

ChatGPT 使用禁令的有效性

三星的政策意味着它加入了许多其他公司和机构，对生成式 AI 工具的使用施加了限制，尽管限制的确切原因各不相同。摩根大通因合规问题限制了其使用， CNN 据报道，而美国银行、花旗集团、德意志银行、高盛和富国银行等其他银行也已禁止或限制使用此类工具。纽约市学校因担心作弊和虚假信息而禁止使用 ChatGPT，而数据保护和儿童安全问题被引用为 ChatGPT 在意大利暂时禁令的原因。

值得一提的是，这些限制的有效性可能会受到质疑，因为执行 AI 使用法规可能很困难，特别是考虑到技术的全球性质。尽管如此，这些禁令突显了某些国家在开发和采用 AI 时的谨慎态度，以及权衡技术潜在利益与潜在风险的必要性。

意大利为何禁止使用 ChatGPT？

在其境内，意大利禁止使用 OpenAI 创建的生成式 AI 工具 ChatGPT。意大利是第一个对 ChatGPT 这一复杂聊天机器人施加限制的西方政府。意大利是最新对技术施加限制的政府，与中国、朝鲜、伊朗和俄罗斯等国并列。意大利监管机构给予 OpenAI 20 天的时间来修复其各种问题，否则将面临高达 2170 万美元或年收入 4% 的罚款。

意大利数据保护局现在正在调查 OpenAI，引发了对该公司为“训练”算法而广泛收集和存储个人数据所提供的法律解释的担忧。监管机构对涉及意大利用户的数据处理实施了临时限制，理由是担心意大利人数据的隐私和安全。

意大利数据保护局还指控 ChatGPT 的发明者未能通知用户和其他其数据被获取的各方其存在，这意味着 OpenAI 在收集和加工其个人数据之前未获得用户的明确同意。

此外，意大利当局发现了一起数据泄露事件，可能会暴露用户通信和支付详情。这一事件引发了对 ChatGPT 安全性及其使用相关潜在风险的更多担忧。

其他禁止使用 ChatGPT 的国家

截至撰写本文时，七个国家基本上由其政府和执政党禁止了 ChatGPT。其中包括俄罗斯、中国、朝鲜、古巴、伊朗、叙利亚和意大利。

所有这些国家都对信息和通信实行严格的政府控制。这些政府可能将 ChatGPT 视为对其境内信息流通控制的潜在挑战。

必须指出的是，这些国家对 ChatGPT 的禁令并不一定意味着该技术在其境内完全无法访问。个人可能能够使用 VPN 或其他技术访问聊天机器人。然而，这种限制表明这些国家的政府在采用 ChatGPT 等先进语言模型时非常谨慎。

俄罗斯案例

俄罗斯以其对信息流的严格监管而闻名，中国也是如此。此前，曾有俄罗斯社交网站 VK.com 和中国搜索引擎百度（占据中国 75% 的搜索流量）等社交网站的例子。这些是俄罗斯和中国对全球著名的 Facebook 和 Google 的回答。而在这些网站创建的背后是一个严重的问题：监控信息流。

同样，俄罗斯银行机构 Sberbank 宣布开发并推出 Gigachat，一款新的 AI 聊天机器人。这款聊天机器人计划直接与 OpenAI 的 ChatGPT 竞争，后者是一个高度知名且受欢迎的 AI 语言模型。

GigaChat 是俄罗斯发布的第二款 AI 聊天机器人，此前由于对虚假信息和非法使用的担忧，ChatGPT 被暂停使用。

据称，GigaChat 能用俄语更智能地说话，比外语更能回答问题、进行讨论并生成程序代码。测试人员可以通过一个封闭的 Telegram 频道加入，该频道已发布给一个小社区。

地理封锁抑制创新

某些政府通过地理封锁限制公民和企业访问 ChatGPT。因此，公司可能更难在全球范围内开发和竞争。它还可能限制对 ChatGPT 的优势的访问，例如改善客户服务和更个性化的对话。

地理封锁是指在线贸易商根据国籍、居住地或成立地点限制在线跨境销售的做法。地理封锁做法包括：拒绝来自其他成员国的网站访问，和/或在授予网站访问权限的情况下，阻止来自国外的消费者完成购买，或要求使用来自特定国家的借记卡或信用卡付款。

法规 (EU) 2018/302（“地理封锁法规”）旨在为欧盟内部市场的消费者和企业提供更多机会。它解决了由于国籍、居住地或成立地点，一些消费者无法从位于不同成员国的贸易商处购买商品和服务的问题。

应对地理封锁的措施

ChatGPT 地理封锁的一个潜在缺点是，它可能会阻碍创新并限制对技术突破的访问。这是由于地理封锁限制了用户在特定国家访问聊天机器人，从而可能限制数字部门的创新和增长机会。幸运的是，有一个简单的方法可以绕过地理封锁：连接到虚拟专用网络 (VPN)。VPN 通过将您的流量路由到另一个国家的服务器来工作。这会隐藏您的真实 IP 地址——通常用于确定您的位置——并用临时的、特定于国家的 IP 地址替换它。

当然，当工具构成危险并可能导致进一步伤害时（例如在学校），禁止使用工具有其正当理由。然而，并非所有人都同意在学校禁止使用 ChatGPT 的想法，而是鼓励教师更多地使用它。

“相反，我认为学校应该深思熟虑地拥抱 ChatGPT 作为教学辅助工具——它可能激发学生的创造力，提供个性化辅导，并更好地让学生为成年后与 AI 系统合作做好准备。” – Kevin Roose, NYT

最后一点备注：据报道，三星计划最终让员工使用 AI 工具，但听起来它正在等待开发内部解决方案。您对 ChatGPT 使用禁令问题有何看法？