Microsoft inicia processo judicial contra um grupo por abuso de seu serviço

A Microsoft iniciou um processo judicial contra um grupo que, segundo a empresa, estava abusando de seu serviço de inteligência artificial (IA). De acordo com a Microsoft, o grupo não identificado desenvolveu ferramentas que usou para contornar as barreiras de segurança de seus produtos de IA. A queixa apresentada afirma que o grupo, composto por 10 indivíduos não identificados, supostamente roubou credenciais de usuários.

A Microsoft afirmou que os réus usaram as credenciais de usuário roubadas e um software projetado para o propósito foi usado para violar seu serviço Azure OpenAI. A Microsoft é responsável por gerenciar o serviço em nuvem, que foi criado pela empresa mãe do ChatGPT, OpenAI. Os indivíduos mencionados violaram várias leis, uma das quais exigiu o arquivamento da ação judicial, alega a Microsoft.

Microsoft apresenta queixa sobre abuso de seus serviços

Em sua queixa, a Microsoft destacou que os réus, a quem se refere pelo pseudônimo legal 'Does', violaram a Lei de Fraude e Abuso Computacional, uma lei sob a Lei de Direitos Autorais de Milênio Digital. A empresa também alegou que os indivíduos infringiram uma lei federal de racketeering ao acessar e usar ilegalmente seu software e servidores para criar conteúdo prejudicial e ilegal.

No entanto, a Microsoft se recusou a entrar nos detalhes do conteúdo que alegava ser prejudicial e ilegal. A empresa destacou em sua queixa que descobriu em julho de 2024 que algumas chaves de API do Azure OpenAI, uma sequência de caracteres usada para aprovar um aplicativo ou usuário, estavam sendo usadas ilegalmente para gerar conteúdo que não estava em conformidade com a política de uso aceitável da empresa.

De acordo com o arquivamento, Microsoft descobriu que os usuários entraram em contato com as Chaves da API ilegalmente por meio de alguns usuários. Em sua declaração, a Microsoft afirmou que a maneira como eles obtiveram as chaves permanece desconhecida, mas acredita firmemente que os réus roubaram as chaves. “A maneira precisa pela qual os Réus obtiveram todas as Chaves da API usadas para realizar a conduta errada descrita nesta Queixa é desconhecida, mas parece que os Réus se envolveram em um padrão de roubo sistemático de Chaves da API que lhes permitiu roubar Chaves da API da Microsoft de vários clientes da Microsoft”, disse a declaração.

Veredito legal e soluções futuras

De acordo com a Microsoft, os réus visaram particularmente os usuários dos Estados Unidos, com a empresa alegando que o grupo usou as chaves da API do Azure OpenAI Service roubadas para criar um esquema que chamou de ‘hacking-as-a-service’. A queixa mencionou que os réus criaram uma ferramenta chamada De3u, que funciona no lado do cliente. Eles também criaram outro software que processou e roteou a comunicação do De3u para os sistemas da empresa.

A empresa observou que o De3u aproveitou as credenciais da API roubadas para permitir que os usuários gerem imagens usando o DALL-E, um dos OpenAI serviços abertos aos usuários. No entanto, a reviravolta é que eles podem fazer isso sem escrever seus próprios códigos. O arquivamento também alegou que o De3u também tentou impedir que o Serviço Azure OpenAI revisasse os prompts usados para criar imagens. A queixa mencionou que isso só acontece em um caso em que um prompt contém palavras que acionam o sistema de filtragem de conteúdo em sua plataforma.

Um repositório contendo o código De3u, que havia sido notado no GitHub de propriedade da Microsoft, havia sido removido no momento da redação. A Microsoft observou que a combinação das chaves de API do Azure OpenAI Service roubadas e as ferramentas permitiu que os réus contornassem suas medidas de conteúdo. "Esses recursos, combinados com o acesso ilegal dos Réus via API programática ao serviço Azure OpenAI, permitiram que os Réus engenharias reversas dos meios de contornar as medidas de conteúdo e abuso da Microsoft", disse a empresa.

Enquanto isso, a empresa, em um recente post de blog, mencionou que o tribunal aprovou seu pedido para apreender um site integral às operações dos réus. A Microsoft usará a oportunidade para reunir evidências e descobrir como o serviço está sendo monetizado, a fim de remover qualquer infraestrutura técnica que ainda esteja restante. A empresa disse que colocou medidas para tapar o buraco, observando novas medidas de segurança para o Serviço Azure OpenAI. A empresa também está buscando injunções e outros alívios equitativos e danos.