Uso não oficial do ChatGPT pelo Departamento de Defesa desperta preocupações

Numa revelação surpreendente, ficou a saber-se que membros do pessoal do Departamento de Defesa acederam aos servidores do chatbot de IA ChatGPT sem a devida autorização, utilizando o serviço milhares de vezes. Estas ligações não autorizadas foram feitas através do domínio web da OpenAI, a empresa por trás do ChatGPT, levantando preocupações sobre potenciais violações de dados e privacidade. O incidente levou o Departamento de Defesa a restringir imediatamente o acesso ao domínio web da OpenAI para prevenir mais usos não autorizados e potenciais riscos de segurança.

Preocupações com acesso não autorizado e violação de dados

Documentos obtidos através de um pedido de liberdade de informação pelo Crikey indicam que o pessoal do Departamento de Defesa, utilizando dispositivos como computadores e smartphones, se conectou a páginas web sob o domínio OpenAI.com aproximadamente 5630 vezes ao longo de seis meses, de 1 de dezembro de 2022 a 30 de junho de 2023. O padrão de conexão sugere que os utilizadores acederam ao domínio através da interface web online, excluindo provavelmente serviços de terceiros ou aplicações para smartphones oferecidas pela OpenAI.

Gama de produtos de IA da OpenAI

OpenAI.com é a plataforma de alojamento para uma variedade de produtos de IA desenvolvidos pela empresa, incluindo o ChatGPT, que foi inicialmente lançado em 30 de novembro de 2022. A plataforma também aloja outras ofertas de IA como o gerador de texto-para-imagem DALL-E-2 e o GPT-4, juntamente com várias outras páginas web associadas à OpenAI.

Resposta do departamento de defesa

Em resposta a estas ligações não autorizadas, o Departamento de Defesa tomou medidas para limitar o acesso aos serviços da OpenAI. O decisore acreditado do departamento, David Evans, enfatizou que o acesso aos produtos da OpenAI, especialmente “serviços de IA online como o Chat GPT”, não foi aprovado pelo departamento. A limitação do acesso visa prevenir qualquer potencial comprometimento de informações classificadas ou privadas, salvaguardando dados sensíveis.

Perguntas sem resposta

Apesar da ação tomada pelo Departamento de Defesa, continuam a existir várias questões sobre a natureza das ligações não autorizadas e a cronologia dos eventos. O departamento reconheceu o recebimento de um pedido de media do Crikey. No entanto, não especificou quais ligações ocorreram antes das restrições serem impostas, quando foram implementadas, ou se foram citadas razões legítimas para permitir o acesso apesar das limitações.

Falta de política governamental clara

Curiosamente, os departamentos federais não dispõem de orientação abrangente em todo o governo relativa ao uso de produtos de IA generativa como o ChatGPT. No início deste ano, a Agência de Transformação Digital ofereceu uma aprovação cautelosa da experimentação do serviço público com tais serviços de IA, aconselhando que, embora a experimentação não fosse desencorajada, deveria ser realizada uma avaliação rigorosa dos potenciais riscos. No entanto, não foram emitidas regulamentações ou diretrizes específicas.

O apelo por uma regulamentação robusta

O Senador dos Verdes por NSW e porta-voz dos direitos digitais, David Shoebridge, expressou profunda preocupação com o uso não autorizado de serviços de IA pelo pessoal do Departamento de Defesa. Shoebridge apontou que o grande número de ligações não autorizadas indica uma falta de política abrangente para abordar as preocupações de segurança colocadas pelas tecnologias emergentes. Ele pediu a implementação de novas políticas e regulamentações que regulem o uso de IA generativa em ambientes governamentais, especialmente dada a presença de informações sensíveis e classificadas. Shoebridge realçou a importância de refinar os controlos de segurança para prevenir que incidentes como estes ocorram no futuro.

O uso não autorizado do ChatGPT pelo pessoal do Departamento de Defesa sublinha a necessidade urgente de regulamentações e diretrizes claras que regulem o uso de serviços de IA nos departamentos governamentais. O incidente trouxe à luz os potenciais riscos de acesso não autorizado a dados e violações de privacidade, enfatizando a importância de medidas de segurança robustas numa era de tecnologias emergentes. Como o governo responderá a estas preocupações permanece por ver, bem como se serão promulgadas políticas abrangentes para abordar os desafios de segurança colocados pelos serviços de IA.