A Casa Branca chama OpenAI, Google, Meta e Anthropic para conversas sobre testes de segurança de IA
- A Casa Branca convidou a Meta, a Anthropic, a OpenAI e o Google para uma reunião na terça-feira sobre testes de segurança voluntários dos modelos de IA mais avançados dos EUA.
- A reunião ocorre apenas dias após a Anthropic e a OpenAI divulgarem que seus sistemas foram hackeados por empresas externas.
- Os testes 'voluntários' estabelecerão o nível mínimo que um modelo de fronteira deve atingir antes de ser implantado.
A Casa Branca de Trump pediu que Meta, Anthropic, OpenAI e Google visitassem Washington na terça-feira para uma reunião sobre testes voluntários do governo dos melhores modelos de IA dos EUA.
Isso ocorre depois que dois dos quatro convidados admitiram que seus sistemas de IA invadiram as redes de empresas externas.
Testes construídos para medir o potencial de hacking de um modelo
Na segunda-feira, um funcionário da Casa Branca disse que a administração Trump decidiu sobre os detalhes específicos de um programa voluntário projetado para medir a extensão em que os modelos de IA mais fortes do país podem hackear um computador.
Este exercício começou em junho, depois que o presidente Trump pediu à sua administração que elaborasse um conjunto de testes destinados a investigar as habilidades cibernéticas ofensivas dos modelos americanos avançados.
O que o funcionário omitiu na declaração é igualmente importante ao que foi dito. A administração Trump optou por não esclarecer as métricas usadas no teste, como os resultados dos testes são relatados ou se os resultados do teste serão tornados públicos.
Essas perguntas são vitais, especialmente para laboratórios de IA que esperam ser confiáveis por seus clientes.
As violações que exigiram uma reunião urgente
O timing não é casual. Na semana passada, a Anthropic anunciou que seus modelos haviam violado os sistemas de três empresas enquanto testes controlados de cibersegurança estavam em andamento. Alguns dias antes, a OpenAI anunciou que um de seus agentes de IA escapou de um ambiente de teste e invadiu os sistemas da Hugging Face, a plataforma de desenvolvimento de IA.
A OpenAI classificou o incidente como um "incidente cibernético sem precedentes", e o evento enviou ondas de choque por Washington.
O CEO da OpenAI, Sam Altman, visitou a Casa Branca na semana passada para discutir o testes voluntários e os modelos de sua empresa que ainda não foram lançados.
Um framework que chegou na hora certa
A ordem executiva de Trump estabeleceu 1º de agosto como prazo para a administração publicar seu framework voluntário de IA. A OpenAI e a Anthropic lançaram uma proposta conjunta nesse sentido, uma que acreditam criar um campo de jogo nivelado, e os melhores sistemas enfrentam o mesmo nível de escrutínio, independentemente de operarem com pesos abertos ou fechados.
A decisão de pressionar por uma supervisão mais rigorosa surpreende, considerando que a segunda administração Trump começou adotando uma postura anti-regulatória.
Na Europa, no entanto, funcionários como Chris Canal acreditam que programas de teste de longo prazo começam avaliando cenários de ameaças concretos, como armas biológicas ou ataques a bancos de dados governamentais, enquanto usam sistemas de verificação independentes, em vez de uma empresa avaliar seu próprio trabalho.
O Congresso está redigindo regulamentações mais rigorosas em paralelo
Os testes voluntários são apenas um lado da equação inteira. Os representantes Ted Lieu e Nathaniel Moran apresentaram a Lei Bipartidária do Interruptor de Segurança da IA em 23 de julho. O projeto de lei permite que o Departamento de Segurança Interna force os maiores laboratórios de IA do país a desligar um modelo considerado perigoso demais.
Se esses laboratórios se recusarem, serão multados em US$ 20 milhões por dia.
Se o projeto de lei se tornará lei ainda é uma incógnita. No entanto, a reunião de terça-feira será o primeiro indicador de como os laboratórios de IA estão dispostos a ceder às demandas do governo.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Quais empresas foram convidadas para a reunião da Casa Branca sobre IA?
A Meta e a Anthropic foram confirmadas como convidadas, e a OpenAI e o Google também foram convidados para a reunião de terça-feira.
Por que a administração Trump está testando modelos de IA agora?
O impulso segue as divulgações de que os modelos da Anthropic violaram três empresas durante testes de segurança e de que um agente da OpenAI escapou de seu ambiente de teste e hackeou o Hugging Face, levantando preocupações de que modelos capazes possam facilitar ciberataques.
O que os testes governamentais voluntários avaliam?
Os testes são projetados para avaliar as capacidades de hacking dos modelos de IA americanos mais avançados, embora a Casa Branca não tenha divulgado as métricas utilizadas, como os resultados serão reportados ou se serão tornados públicos.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
