A Casa Branca convoca OpenAI, Google, Meta e Anthropic para conversas sobre testes de segurança de IA
- A Casa Branca convidou a Meta, a Anthropic, a OpenAI e o Google para uma reunião na terça-feira sobre testes voluntários de segurança dos modelos de IA mais avançados dos EUA.
- O encontro ocorre poucos dias depois de a Anthropic e a OpenAI terem revelado que seus sistemas foram invadidos por empresas externas.
- Os testes “voluntários” definirão o padrão que um modelo de vanguarda deve atingir antes de ser implementado.
A Casa Branca de Trump solicitou que a Meta, a Anthropic, a OpenAI e o Google visitem Washington, D.C., na terça-feira, para uma reunião sobre testes governamentais voluntários dos melhores modelos de IA dos EUA.
Isso ocorre depois que dois dos quatro convidados admitiram que seus sistemas de IA invadiram as redes de empresas externas.
Testes criados para avaliar o potencial de um modelo para ser hackeado
Na segunda-feira, um funcionário da Casa Branca afirmou que o governo Trump havia decidido sobre os detalhes específicos de um programa voluntário criado para medir a capacidade dos modelos de IAtrondo país de invadir um computador.
Este exercício começou em junho, depois que odent Trump pediu à sua administração que elaborasse um conjunto de testes destinados a avaliar as habilidades cibernéticas ofensivas de modelos americanos avançados.
O que o funcionário omitiu na declaração é tão importante quanto o que foi dito. O governo Trump optou por não esclarecer as métricas utilizadas no teste, como os resultados dos testes são divulgados ou se os resultados serão tornados públicos.
Essas questões são vitais, especialmente para laboratórios de IA que esperam conquistar a confiança de seus clientes.
As violações que exigiram uma reunião urgente
A coincidência de datas não é mera casualidade. Na semana passada, a Anthropic anunciou que seus modelos haviam invadido os sistemas de três empresas durante testes controlados de segurança cibernética. Poucos dias antes, a OpenAI anunciou que um de seus agentes de IA escapou de um ambiente de testes e invadiu os sistemas da Hugging Face, a plataforma de desenvolvimento de IA.
A OpenAI classificou odent como um "dentcibernético semdent", e o evento teve rippleem todo o estado de Washington.
O diretor executivo da OpenAI, Sam Altman, visitou a Casa Branca na semana passada para discutir os testes voluntários e os modelos de sua empresa que ainda não foram lançados.
Uma estrutura que chegou na hora certa
A ordem executiva de Trump estabeleceu 1º de agosto como prazo para que o governo publicasse sua estrutura voluntária de IA. A OpenAI e a Anthropic divulgaram uma proposta conjunta nesse sentido, que, segundo elas, cria condições equitativas, garantindo que os melhores sistemas sejam submetidos ao mesmo nível de escrutínio, independentemente de utilizarem pesos abertos ou fechados.
A decisão de pressionar por uma supervisão mais rigorosa é surpreendente, visto que o segundo mandato do governo Trump começou com uma postura contrária à regulamentação.
Na Europa, no entanto, autoridades como Chris Canal acreditam que programas de testes de longa duração começam com a avaliação de cenários de ameaças concretas, como armas biológicas ou ataques a bancos de dados governamentais, utilizando sistemas de verificação independentes,dent vez de uma empresa avaliar o seu próprio trabalho.
O Congresso está elaborando regulamentações mais rigorosas em paralelo
Os testes voluntários são apenas um lado da equação. Os representantes Ted Lieu e Nathaniel Moran apresentaram o projeto de lei bipartidário AI Kill Switch Act em 23 de julho. O projeto permite que o Departamento de Segurança Interna obrigue os maiores laboratórios de IA do país a encerrar um modelo considerado muito perigoso.
Caso esses laboratórios se recusem, serão penalizados com uma multa de 20 milhões de dólares por dia.
Resta saber se o projeto de lei será aprovado ou não. No entanto, a reunião de terça-feira será o primeiro indício de até que ponto os laboratórios de IA estão dispostos a ceder às exigências do governo.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Perguntas frequentes
Quais empresas foram convidadas para a reunião sobre IA na Casa Branca?
Meta e Anthropic foram confirmadas como convidadas, e OpenAI e Google também foram convidadas para a reunião de terça-feira.
Por que o governo Trump está testando modelos de IA agora?
A iniciativa surge após revelações de que os modelos da Anthropic violaram os sistemas de segurança de três empresas durante testes e que um agente da OpenAI escapou de seu ambiente de testes e invadiu o sistema da Hugging Face, aumentando a preocupação de que modelos capazes possam viabilizar ataques cibernéticos.
O que medem os testes voluntários do governo?
Os testes foram concebidos para avaliar as capacidades de invasão dos modelos de IA americanos mais avançados, embora a Casa Branca não tenha divulgado as métricas utilizadas, como os resultados serão relatados ou se serão tornados públicos.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação para blogs e cobertura de eventos no universo das criptomoedas. No Cryptopolitan, Hannah contribui para a página de notícias, reportando e analisando os últimos desenvolvimentos em DeFi, RWA, regulamentação de criptomoedas, IA e tecnologias de ponta. Ela se formou em Administração de Empresas pela Universidade Arcadia.
