Tribunal de recurso dos EUA questiona contestação da xAI à lei de transparência em IA da Califórnia

- O Nono Circuito deliberou sobre o pedido da xAI para bloquear a lei da Califórnia sobre a divulgação de dados de treinamento de IA.
- O juiz Rawlinson afirmou que a empresa deve demonstrar que o pedido do governo é irrazoável.
- O bot Grok da xAI buscou repetidamente dados corporativos sem qualquer solicitação ou autorização.
Um tribunal federal de apelações dos EUA analisou na quarta-feira o pedido da xAI para bloquear a lei da Califórnia sobre a divulgação de dados de treinamento de IA. Durante a audiência, os juízes do 9º Circuito, sediado em São Francisco, pareceram não convencidos pelo argumento constitucional da empresa, embora também tenham pressionado os advogados do estado sobre quanta informação a Califórnia pode exigir que as empresas de IA forneçam.
Promulgada como parte do esforço mais amplo do estado de supervisionar a IA, a lei de transparência exige que os fabricantes de IA generativa compartilhem publicamente resumos de seus dados de treinamento. Até o momento, a xAI argumentou que a lei viola seus direitos de liberdade de expressão da Primeira Emenda e a obriga a divulgar detalhes proprietários sobre como seus modelos são treinados.
O argumento da xAI centra-se em saber se obrigar as empresas a publicar informações sobre seus processos de treinamento constitui discurso compelido. A Primeira Emenda protege geralmente indivíduos e empresas contra restrições governamentais à expressão, mas também levanta questões sobre quando as autoridades podem exigir divulgações.
Para desenvolvedores de IA, a disputa envolve equilibrar a transparência com a proteção de segredos comerciais e tecnologia proprietária. Uma decisão favorável à Califórnia poderia dificultar que os desenvolvedores contestem exigências semelhantes de divulgação em outros estados.
A juíza Rawlinson afirma que a xAI precisa demonstrar que a lei de transparência é irrazoável
Em março, um juiz federal em Los Angeles, Jesus Bernal, rejeitou o pedido da xAI para suspender a lei estadual, afirmando que a empresa não havia demonstrado desde o início que tinha probabilidade de prevalecer em sua alegação constitucional. Na audiência de Wednesday, o tribunal de apelações apareceram tendeu a manter a decisão de Bernal.
A juíza do Circuito dos EUA, Johnnie Rawlinson, disse ao advogado da xAI, James Xi, que, para argumentar que a lei viola a Primeira Emenda, a empresa deve mostrar que a solicitação do governo é irrazoável.
Ele até sugeriu que a decisão do estado de solicitar informações pode ter sido sensata. "Não é razoável que o governo queira que seus cidadãos saibam antecipadamente quais informações estão sendo inseridas no instrumento de IA?", perguntou ele.
Ainda assim, os juízes manifestaram algum acordo com a alegação da xAI de que o estado poderia obrigá-la a entregar uma quantidade "ilimitada" de informações.
No início de julho, o Knight Institute apresentou um amicus curiae sobre o caso. Em seu parecer, alertou que as grandes desenvolvedoras de tecnologia estão ocultando detalhes vitais sobre como os sistemas de IA generativa funcionam, como são construídos e como influenciam as informações que as pessoas veem.
Além disso, argumentou que os requisitos de divulgação projetados para promover o livre fluxo de informações comerciais precisas devem ser submetidos a um padrão deferente de análise sob a Primeira Emenda. Aplicando esse padrão, o Instituto sustentou que a xAI não conseguiu demonstrar uma violação constitucional, pois a lei da Califórnia atende ao interesse do estado em manter os usuários informados, sem impor um ônus excessivo à proteção da liberdade de expressão.
O Grok da xAI buscou dados corporativos sem qualquer solicitação ou autorização
A análise do Nono Circuito ocorre após novas descobertas sobre o Grok Bot da xAI.
Novas descobertas da empresa de identidade agencial NewCore mostram que o Grok Bot da xAI buscou repetidamente dados corporativos sem qualquer solicitação ou autorização, persistindo mesmo depois que um dos proprietários recusou suas ofertas de verificação quatro vezes consecutivas.
Além disso, o bot afirmou não ter realizado nenhuma ligação quando questionado diretamente. Seu histórico de chat também não apresentava evidências da atividade; o proprietário nunca foi notificado e a plataforma não ofereceu logs por turno para verificar o que havia acontecido.
Em apenas cinco dias, dois bots Grok vinculados a contas de funcionários da NewCore iniciaram 31 solicitações no Google Calendar, Gmail, Slack, GitHub e Notion sem permissão ou instruções do usuário.
Algumas solicitações foram feitas mesmo quando os laptops dos proprietários estavam desligados ou em modo de suspensão. Para uma das contas, o Gateway Secure MCP da NewCore pausou as solicitações aguardando aprovação humana e alertou o proprietário, desencadeando uma investigação pela equipe de pesquisa em segurança da NewCore.
Como parte da investigação, os pesquisadores utilizaram outro bot Grok em uma conta diferente, configuraram-no usando o mesmo gateway e executaram um teste típico, no qual o bot recebeu um pedido de trabalho junto com a aprovação para leitura única do telefone, e rejeição em cada tentativa de continuar operando sozinho.
No entanto, o bot continuou a gerar solicitações não solicitadas, que foram capturadas pelo gateway e deixadas sem resposta. Essas solicitações tentavam acessar Google Drive, Google Calendar, Gmail, Slack, Notion e GitHub.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Perguntas Frequentes
Por que a xAI está contestando a lei de transparência de IA da Califórnia?
A xAI argumenta que o requisito da Califórnia para desenvolvedores de IA divulgarem informações sobre seus dados de treinamento viola seus direitos da Primeira Emenda e força a empresa a revelar informações proprietárias sobre como seus modelos de IA são desenvolvidos.
O que a lei de divulgação de dados de treinamento de IA da Califórnia exige?
A lei exige que desenvolvedores de IA generativa publiquem resumos dos conjuntos de dados usados para treinar seus modelos. O objetivo é melhorar a transparência e ajudar o público a entender como os sistemas de IA são desenvolvidos.
O que a NewCore descobriu sobre os bots Grok da xAI?
A NewCore descobriu que dois bots do Grok iniciaram 31 solicitações não autorizadas em aplicativos corporativos, incluindo Gmail, Slack, GitHub, Google Calendar e Notion. O gateway de segurança da empresa bloqueou as solicitações aguardando aprovação humana, impedindo o acesso aos dados subjacentes.

Nellius Irene
Nellius é graduada em Gestão de Negócios e TI, com cinco anos de experiência no setor de criptomoedas. Também é formada pela Bitcoin Dada. Nellius contribuiu para publicações de mídia de destaque, incluindo BanklessTimes, Cryptobasic e Riseup Media.















