Hassabis pede que os EUA liderem o regulador global de IA antes do fim do ano
- O CEO do Google DeepMind, Demis Hassabis, quer um órgão regulador dos EUA estilo FINRA para avaliar modelos poderosos de IA e interromper o desenvolvimento se os riscos aumentarem.
- Seu plano prevê que laboratórios de fronteira submetam voluntariamente seus modelos para testes de cibersegurança, biológicos e de engano 30 dias antes do lançamento.
- Hassabis alerta que riscos biológicos e nucleares graves podem surgir em até 18 meses.
Demis Hassabis, cofundador e CEO da Google DeepMind, quer que o governo dos EUA crie um novo órgão de vigilância que será encarregado de filtrar os modelos de IA mais poderosos do mundo. O órgão de vigilância também terá o poder de ordenar que a indústria desacelere se o perigo aumentar.
Ele detalhou isso em seu manifesto, que foi publicado em 14 de julho, e disse que quer que o órgão esteja funcionando antes do fim do ano.
Hassabis é uma das vozes mais influentes no espaço de IA. Ele compartilhou o Prêmio Nobel de Química de 2024 por seu trabalho de dobramento de proteínas e dirige o laboratório por trás do Gemini.
Em uma entrevista, ele afirmou que a indústria atingiu o ponto em que a supervisão da IA precisa ser sistemática, financiada pelos próprios laboratórios, equipada com especialistas técnicos e responsável perante o governo dos EUA.
O que o órgão de vigilância de IA dos EUA fará?
Hassabis está modelando o corpo no FINRA, o regulador privado e financiado pela indústria que fiscaliza os corretores da Wall Street sob a autoridade da Comissão de Valores Mobiliários (SEC).
Em seu plano, os laboratórios de fronteira primeiro entregariam voluntariamente seus modelos, até 30 dias antes do lançamento, para que o órgão pudesse testá-los por capacidades perigosas de ciberataques, biológicas e de "engano".
Ele afirmou que, uma vez que esses testes provem ser confiáveis, regras formais "poderiam seguir rapidamente", o que significa que um modelo teria que passar antes de ser implantado no mercado dos EUA.
Os padrões se aplicariam a todos os sistemas de classe fronteira, e Hassabis acrescentou que "independentemente de seu país de origem ou se são abertos ou fechados", com as benchmarks atualizadas conforme a tecnologia avança.
Ele também quer que o conselho seja majoritariamente independente, preenchido com vencedores do Prêmio Turing e outros pesquisadores credenciados, junto com assentos para indústria, governo e desenvolvedores de código aberto. Ele afirmou que o rótulo "fronteira" se tornaria uma marca de status, acrescentando: "Acho que é um ativo bastante agradável e de prestígio para se ter."
Por que Hassabis está pedindo um órgão de vigilância de IA agora?
Hassabis diz que os ciberataques impulsionados por IA de hoje são "tiros de aviso". De acordo com ele, dentro de 18 meses, riscos biológicos e nucleares mais sérios podem estar dentro de modelos de código aberto que nenhum governo pode retirar. Ele acrescentou que a ameaça não se limita a sistemas abertos e que os próprios modelos proprietários futuros dos laboratórios terão os mesmos perigos.
Ele disse que quer que o órgão de vigilância esteja operacional em meses e passou as últimas semanas briefando a administração Trump, líderes de laboratórios rivais e funcionários europeus antes de ir ao público. "Os ruídos que tenho ouvido são muito positivos", disse ele sobre as conversas com a Casa Branca.
Essa administração havia favorecido uma abordagem de não interferência até o mês passado, quando colocou os modelos Mythos e Fable da Anthropic sob uma ordem de controle de exportação, limitando seu acesso. A ordem foi posteriormente removida, com a Anthropic lançando os modelos com mais controles sobre eles.
A OpenAI, por outro lado, concordou em limitar o GPT-5.6 a parceiros aprovados pelo governo antes de lançá-lo publicamente na semana passada após testes com o Departamento de Comércio, uma medida que foi vista como uma tentativa de evitar o mesmo resultado que o da Anthropic.
Hassabis diz que o incidente é "um pouco um chamado de atenção".
Um raro ponto de concordância
O CEO da Anthropic, Dario Amodei, também tem a opinião de que deve haver uma agência com o poder de conter modelos de IA inseguros, pedindo regras vinculativas e uma agência estilo FAA.
A posição de Amodei está em concordância com a de Hassabis; no entanto, este último favorece a estrutura mais leve e gerida pela indústria do FINRA.
A crença de Hassabis de que as apostas estão subindo rapidamente vale a pena notar. Ele disse que a AGI, um sistema que corresponde à gama completa de capacidade cognitiva humana, está "provavelmente a poucos anos de distância", e em um evento em Stanford, ele colocou a chegada perto de 2030, "mais ou menos um ano". No manifesto, ele escreveu que os pesquisadores "encontraram uma maneira de fazer a areia pensar", chamando-o de "milagroso".
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
O que Demis Hassabis está propondo?
Ele propõe um órgão de padrões de IA baseado nos EUA, modelado no regulador da Wall Street FINRA, que testaria os modelos mais avançados do mundo quanto a capacidades perigosas de cibersegurança, biológicas e de engano, podendo coordenar uma desaceleração da indústria caso as ameaças cresçam.
Quando Hassabis quer que o órgão regulador de IA esteja operacional?
Ele disse à Axios que deseja que o órgão esteja funcionando em "meses", idealmente antes do final de 2026, e afirmou que suas conversas com a administração Trump receberam sinais positivos.
Outros laboratórios de IA concordam com Hassabis?
Os principais líderes de laboratórios concordam que Washington deve regular a IA de fronteira, mas divergem sobre a estrutura. O CEO da Anthropic, Dario Amodei, defendeu uma agência estilo FAA com poder vinculante para bloquear modelos inseguros, enquanto Hassabis favorece um órgão mais leve, financiado pela indústria e sob supervisão governamental.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
