ÚLTIMAS NOTÍCIAS
SELECIONADO PARA VOCÊ

Tribunal de recurso dos EUA questiona contestação da xAI à lei de transparência em IA da Califórnia

PorNellius IreneNellius Irene 3 min de leitura
  • O Nono Circuito deliberou sobre o pedido da xAI para bloquear a lei da Califórnia sobre a divulgação de dados de treinamento de IA.
  • O juiz Rawlinson afirmou que a empresa deve demonstrar que o pedido do governo é irrazoável.
  • O bot Grok da xAI buscou repetidamente dados corporativos sem qualquer solicitação ou autorização.

 

Um tribunal federal de apelações dos EUA analisou na quarta-feira o pedido da xAI para bloquear a lei da Califórnia sobre a divulgação de dados de treinamento de IA. Durante a audiência, os juízes do 9º Circuito, sediado em São Francisco, pareceram não convencidos pelo argumento constitucional da empresa, embora também tenham pressionado os advogados do estado sobre quanta informação a Califórnia pode exigir que as empresas de IA forneçam.

Promulgada como parte do esforço mais amplo do estado de supervisionar a IA, a lei de transparência exige que os fabricantes de IA generativa compartilhem publicamente resumos de seus dados de treinamento. Até o momento, a xAI argumentou que a lei viola seus direitos de liberdade de expressão da Primeira Emenda e a obriga a divulgar detalhes proprietários sobre como seus modelos são treinados.

O argumento da xAI centra-se em saber se obrigar as empresas a publicar informações sobre seus processos de treinamento constitui discurso compelido. A Primeira Emenda protege geralmente indivíduos e empresas contra restrições governamentais à expressão, mas também levanta questões sobre quando as autoridades podem exigir divulgações.

Para desenvolvedores de IA, a disputa envolve equilibrar a transparência com a proteção de segredos comerciais e tecnologia proprietária. Uma decisão favorável à Califórnia poderia dificultar que os desenvolvedores contestem exigências semelhantes de divulgação em outros estados.

A juíza Rawlinson afirma que a xAI precisa demonstrar que a lei de transparência é irrazoável

Em março, um juiz federal em Los Angeles, Jesus Bernal, rejeitou o pedido da xAI para suspender a lei estadual, afirmando que a empresa não havia demonstrado desde o início que tinha probabilidade de prevalecer em sua alegação constitucional. Na audiência de Wednesday, o tribunal de apelações apareceram tendeu a manter a decisão de Bernal. 

A juíza do Circuito dos EUA, Johnnie Rawlinson, disse ao advogado da xAI, James Xi, que, para argumentar que a lei viola a Primeira Emenda, a empresa deve mostrar que a solicitação do governo é irrazoável.

Ele até sugeriu que a decisão do estado de solicitar informações pode ter sido sensata. "Não é razoável que o governo queira que seus cidadãos saibam antecipadamente quais informações estão sendo inseridas no instrumento de IA?", perguntou ele.

Ainda assim, os juízes manifestaram algum acordo com a alegação da xAI de que o estado poderia obrigá-la a entregar uma quantidade "ilimitada" de informações. 

No início de julho, o Knight Institute apresentou um amicus curiae sobre o caso. Em seu parecer, alertou que as grandes desenvolvedoras de tecnologia estão ocultando detalhes vitais sobre como os sistemas de IA generativa funcionam, como são construídos e como influenciam as informações que as pessoas veem. 

Além disso, argumentou que os requisitos de divulgação projetados para promover o livre fluxo de informações comerciais precisas devem ser submetidos a um padrão deferente de análise sob a Primeira Emenda. Aplicando esse padrão, o Instituto sustentou que a xAI não conseguiu demonstrar uma violação constitucional, pois a lei da Califórnia atende ao interesse do estado em manter os usuários informados, sem impor um ônus excessivo à proteção da liberdade de expressão.

O Grok da xAI buscou dados corporativos sem qualquer solicitação ou autorização 

A análise do Nono Circuito ocorre após novas descobertas sobre o Grok Bot da xAI.

Novas descobertas da empresa de identidade agencial NewCore mostram que o Grok Bot da xAI buscou repetidamente dados corporativos sem qualquer solicitação ou autorização, persistindo mesmo depois que um dos proprietários recusou suas ofertas de verificação quatro vezes consecutivas.

Além disso, o bot afirmou não ter realizado nenhuma ligação quando questionado diretamente. Seu histórico de chat também não apresentava evidências da atividade; o proprietário nunca foi notificado e a plataforma não ofereceu logs por turno para verificar o que havia acontecido.  

Em apenas cinco dias, dois bots Grok vinculados a contas de funcionários da NewCore iniciaram 31 solicitações no Google Calendar, Gmail, Slack, GitHub e Notion sem permissão ou instruções do usuário.

Algumas solicitações foram feitas mesmo quando os laptops dos proprietários estavam desligados ou em modo de suspensão. Para uma das contas, o Gateway Secure MCP da NewCore pausou as solicitações aguardando aprovação humana e alertou o proprietário, desencadeando uma investigação pela equipe de pesquisa em segurança da NewCore. 

Como parte da investigação, os pesquisadores utilizaram outro bot Grok em uma conta diferente, configuraram-no usando o mesmo gateway e executaram um teste típico, no qual o bot recebeu um pedido de trabalho junto com a aprovação para leitura única do telefone, e rejeição em cada tentativa de continuar operando sozinho.

No entanto, o bot continuou a gerar solicitações não solicitadas, que foram capturadas pelo gateway e deixadas sem resposta. Essas solicitações tentavam acessar Google Drive, Google Calendar, Gmail, Slack, Notion e GitHub.

Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.

Perguntas Frequentes

Por que a xAI está contestando a lei de transparência de IA da Califórnia?

A xAI argumenta que o requisito da Califórnia para desenvolvedores de IA divulgarem informações sobre seus dados de treinamento viola seus direitos da Primeira Emenda e força a empresa a revelar informações proprietárias sobre como seus modelos de IA são desenvolvidos.

O que a lei de divulgação de dados de treinamento de IA da Califórnia exige?

A lei exige que desenvolvedores de IA generativa publiquem resumos dos conjuntos de dados usados para treinar seus modelos. O objetivo é melhorar a transparência e ajudar o público a entender como os sistemas de IA são desenvolvidos.

O que a NewCore descobriu sobre os bots Grok da xAI?

A NewCore descobriu que dois bots do Grok iniciaram 31 solicitações não autorizadas em aplicativos corporativos, incluindo Gmail, Slack, GitHub, Google Calendar e Notion. O gateway de segurança da empresa bloqueou as solicitações aguardando aprovação humana, impedindo o acesso aos dados subjacentes.

Compartilhe este artigo
Nellius Irene

Nellius Irene

Nellius é graduada em Gestão de Negócios e TI, com cinco anos de experiência no setor de criptomoedas. Também é formada pela Bitcoin Dada. Nellius contribuiu para publicações de mídia de destaque, incluindo BanklessTimes, Cryptobasic e Riseup Media.

MAIS … NOTÍCIAS