Cloudflare expõe o uso de IA não autorizada em ação

A Cloudflare, empresa sediada nos EUA que utiliza sua rede global e ferramentas de ponta para aprimorar a velocidade, a segurança e a confiabilidade de sites, implementou recursos de supervisão com IA no Cloudflare One, sua plataforma de segurança empresarial.

Esses novos recursos permitirão que os departamentos de TI identifiquem rapidamentedentusa IA e que tipos de dados compartilham com a tecnologia. De acordo com a Cloudflare, essa é uma maneira confiável para a equipe obter uma "visão de raio-X" de como os funcionários estão usando a IA generativa, que também já está integrada ao painel disponível.

Isso ocorreu após pesquisas que apontaram que diversos empregadores em diferentes instituições adotaram a IA generativa em suas operações. No entanto, alguns funcionários compartilham demonstrativos financeiros internos ou código proprietário com chatbots de IA como ChatGPT, Claude ou Gemini, o que está sendo exposto.

A revelação fez com que os empregadores perdessem a confiança na tecnologia. O compartilhamento de informações financeiras com chatbots de IA expõe os segredos da empresa, que acabam na nuvem.

Em uma postagem no blog, a empresa destacou: “Os administradores agora podem encontrar respostas para perguntas como: O que nossos funcionários estão fazendo no ChatGPT? Que tipo de informação está sendo carregada e usada no Claude? O Gemini está configurado corretamente no Google Workspace?”

A Cloudflare alerta as empresas sobre ações imprudentes ao lidar com informações confidenciais 

Após uma pesquisa minuciosa sobre o uso de chatbots com IA, a Cloudflare descobriu que três em cada quatro funcionários incluem o ChatGPT, o Claude ou o Gemini em suas operações diárias. Isso ocorre principalmente em tarefas como avaliação de dados, edição de texto, depuração e design. 

Considerando essas práticas, a empresadentum problema principal que pode surgir com o uso de IA. Eles mencionaram que dados sensíveis das empresas podem ser carregados nesses chatbots de IA sem deixartrac. Para solucionar isso, os produtos da empresa americana são projetados para funcionar no nível da API e monitorar quaisquer uploads suspeitos no sistema.

Agora que tal cenário foi descoberto, a empresa alertou os indivíduos para que evitem ações imprudentes ao lidar com informações confidenciais. De acordo com a Cloudflare, ações descuidadas podem levar ao treinamento de um modelo externo usando os dadosdentcompartilhados, e esses dados podem desaparecer para sempre.

Outras grandes empresas na área de segurança corporativa, como Zscaler e Palo Alto Networks, também oferecem supervisão por IA. Mesmo com essas empresas, a Cloudflare ainda afirma que o Cloudflare One é imbatível, argumentando que possui um modelo híbrido que funciona perfeitamente sem a necessidade de instalar software nos dispositivos. A plataforma também conta com varredura de API para monitorar a postura do sistema, problemas de configuração e exposição de dados, além de fornecer controle instantâneo sobre os avisos no ChatGPT, Claude e Gemini.

Entretanto, vale ressaltar que a Cloudflare se consolidou como uma provedora de infraestrutura neutra em relação ao conteúdo, em vez de uma moderadora. Em outras palavras, a empresa monitora apenas o que seus clientes publicam quando autorizados a fazê-lo. Essa abordagem vem sendo implementada há uma década. 

Matthew Prince, CEO da CloudFlare, comentou o assunto em discussão. Segundo Prince, a empresa não é um serviço de hospedagem e não tem autoridade para escolher qual conteúdo é permitido. No entanto, ele afirmou que seu principal objetivo é garantir que os sites estejam online e funcionando, independentemente do conteúdo exibido.

Cloudflare enfrenta críticas de usuários em relação aos seus serviços online

A postura da Cloudflare em relação à liberdade de expressão tem gerado críticas, com opositores argumentando que a empresa permite a existência de sites prejudiciais, incluindo aqueles com conteúdo de ódio ou extremista. Segundo eles, isso ocorre porque nenhum pedido formal para a remoção da empresa da lista de sites prejudiciais foi apresentado.

Essas alegações surgiram após um estudo de Stanford, de 2022, que apontou que a Cloudflare é responsável por hospedar alguns dos principais sites de desinformação, em comparação com seu tráfego total de internet.

Apesar disso, várias exceções foram feitas para a empresa. Por exemplo, em 2017, a empresa deixou de oferecer serviços ao site supremacista branco The Daily Stormer logo após este ter alegado que a Cloudflare apoiava sua postura pró-nazista.

Pouco tempo depois, Prince qualificou o anúncio deles como uma exceção involuntária, que lhes fora arrancada à força e os obrigara a quebrar sua política de neutralidade.