国防部非官方使用ChatGPT引发担忧

令人震惊的是，近日披露国防部工作人员未经授权访问了AI聊天机器人ChatGPT的服务器，并使用了数千次。这些未经授权的连接是通过ChatGPT背后的公司OpenAI的网页域名进行的，引发了对潜在数据泄露和隐私违规的担忧。该事件促使国防部立即限制对OpenAI网页域名的访问，以防止进一步的未经授权使用和潜在的安全风险。

未经授权访问和数据泄露担忧

通过Crikey提出的信息自由请求获得的文件显示，国防部人员使用电脑和智能手机等设备，在2022年12月1日至2023年6月30日的六个月期间，连接到OpenAI.com域名下的网页约5630次。连接模式表明，用户通过在线网页界面访问该域名，可能不包括OpenAI提供的第三方服务或智能手机应用程序。

OpenAI的人工智能产品系列

OpenAI.com是该公司开发的一系列人工智能产品的托管平台，包括最初于2022年11月30日推出的ChatGPT。该平台还托管其他人工智能产品，如文本生成图像工具DALL-E-2和GPT-4，以及与OpenAI相关的各种其他网页。

国防部的回应

针对这些未经授权的连接，国防部已采取措施限制对OpenAI服务的进一步访问。该部门授权决策者David Evans强调，访问OpenAI的产品，特别是“在线人工智能服务如Chat GPT”，并未得到该部门的批准。限制访问旨在防止机密或私人信息受到任何潜在损害，从而保护敏感数据。

未解之谜

尽管国防部采取了行动，但关于未经授权连接的性质和时间线仍有几个问题未解。该部门承认收到了来自Crikey的媒体请求，但未具体说明哪些连接是在限制实施之前发生的，限制是何时实施的，或者是否因任何正当理由而允许访问尽管有限制。

缺乏明确的政府政策

有趣的是，联邦部门对于使用ChatGPT等生成式人工智能产品没有全面的政府指导。今年早些时候，数字转型机构对公共服务部门尝试此类人工智能服务给予了谨慎的认可，建议虽然不反对实验，但应彻底评估潜在风险。然而，并未发布具体的法规或指南。

呼吁强有力的监管

新南威尔士州绿党参议员兼数字权利发言人David Shoebridge对国防部工作人员未经授权使用人工智能服务表示深切担忧。Shoebridge指出，大量未经授权的连接表明缺乏解决新兴技术带来的安全问题的全面政策。他呼吁实施管理政府环境中生成式人工智能使用的新政策和法规，鉴于敏感和机密信息的存在，这一点尤为重要。Shoebridge强调了完善安全控制以防止此类事件在未来发生的重要性。

国防部工作人员未经授权使用ChatGPT凸显了在政府部门使用人工智能服务方面制定清晰法规和指南的紧迫性。该事件揭示了未经授权访问数据和隐私泄露的潜在风险，强调了在新兴技术时代采取强大安全措施的重要性。政府将如何回应这些担忧，以及是否会实施全面政策以解决人工智能服务带来的安全挑战，仍有待观察。