Anthropic, OpenAI e Google avaliam a criação de um organismo partilhado de normas de IA

Segundo uma notícia do The Information, a Anthropic, a OpenAI e a Google discutiram a formação de um organismo colaborativo de normas da indústria. Isto daria aos maiores laboratórios de ponta a oportunidade de estabelecer os padrões de segurança pelos quais os seus próprios modelos serão avaliados.

Para as empresas que avaliam a utilização de modelos de ponta para tarefas sensíveis, a introdução de normas comuns aumentaria a certeza quanto à sua adoção. Mas esta mesma estrutura pode fortalecer as grandes empresas. A OCDE já alertou que os elevados custos fixos, a falta de recursos computacionais e a infraestrutura concentrada já dificultam a entrada das empresas no mercado da IA. Os custos de conformidade podem representar mais um obstáculo para os laboratórios mais pequenos.

As propostas que já estão em discussão

A 14 de julho, Demis Hassabis, responsável da Google DeepMind, sugeriu uma iniciativa para um Organismo de Normas de IA de Fronteiras com sede nos EUA, inspirado na Autoridade Reguladora da Indústria Financeira (FINRA).

Na sua proposta, os laboratórios de ponta submeteriam voluntariamente as suas tecnologias avançadas para avaliação, com um período de 30 dias antes do seu lançamento. Os avaliadores verificariam a segurança das tecnologias para garantir que não apresentam riscos, como cibersegurança, ameaças biológicas ou manipulação.

O Council on Foreign Relations (CFR) informou que a Casa Branca já estava a considerar a ideia apresentada por Hassabis. De acordo com a sua proposta, a aprovação no processo de avaliação seria obrigatória apenas numa fase posterior, para a implementação de tecnologias de ponta nos EUA.

No seu artigo de setembro intitulado “Precisamos de acompanhar o ritmo da fronteira”, Dario Amodei, CEO da Anthropic, analisa o problema de uma perspetiva diferente. Segundo o mesmo, os esforços em segurança precisam de mais tempo para acompanhar as capacidades da IA. A solução proposta por Amodei é permitir que avaliadores independentes,dent a METR, visitem laboratórios de ponta durante períodos prolongados, o que abrirá caminho à colaboração entre as principais empresas de IA de países democráticos em relação às normas de segurança.

Porque é que esta não é a primeira tentativa?

É importante notar que as organizações de segurança lideradas pela indústria já existem há algum tempo. De facto, em 2023, o Frontier Model Forum juntou-se a seis grandes empresas de IA como parte do esforço para estabelecer um programadent de investigação em segurança através do Fundo de Segurança de IA, com mais de 10 milhões de dólares.

A Agentic AI Foundation foi criada em dezembro de 2025 como parte da Linux Foundation e tem como objetivo desenvolver normas abertas e infraestrutura para agentes de IA. Os projetos que deram origem à fundação incluem o Model Context Protocol da Anthropic, o goose da Block e o AGENTS.md da OpenAI.

A OpenAI colaborou na criação da Fundação Appia, que foi fundada em junho de 2026 com 13 membros. A fundação tem como objetivo transformar os princípios gerais de governação da IA ​​em especificações, testes e provas de conformidade, que serão utilizados em toda a cadeia de fornecimento de IA.

A necessidade de coordenação também se observa fora das organizações do setor. Tal como foi noticiado pela Cryptopolitan, o responsável pelos assuntos globais da OpenAI, Chris Lehane, insistiu que os EUA e a China devem apoiar a estrutura global de segurança da IA, comparando esta iniciativa à cooperação nuclear internacional.

O problema do fosso que ninguém resolveu

O principal problema é a independência. De acordo com a análise do CFR, um regulador financiado pelo sector pode enfrentar conflitos semelhantes aos observados no sistema de classificação de crédito em que o emitente pagava, antes da crise financeira de 2008, levantando uma série de questões sem resposta relativamente ao acesso do regulador a modelos de vanguarda, à especialização dos avaliadores, às medidas de segurança nacional e à fiabilidade dos métodos de ensaio actuais.

A capacidade é outro desafio. Uma projeção fornecida pela GovAI indica que 14 a 16 modelos nos anos de 2025 a 2028 podem ter a mesma ordem de grandeza da maior execução de formação até à data, o que significa que é necessária uma capacidade de revisão contínua em vez de avaliações periódicas.

A concorrência também é importante. Os padrões estabelecidos principalmente pelos maiores laboratórios podem tornar-se custos fixos, o que é mais fácil de sustentar para as empresas já estabelecidas em comparação com as startups. Se alguma estrutura voluntária se tornar um requisito obrigatório, é necessário introduzir mecanismos que impeçam que o cumprimento das normas de segurança funcione como uma barreira à entrada no mercado.

Qualquer iniciativa criada precisa de estar alinhada com a Europa. O Código de Práticas de IA de Propósito Geral da União Europeia, introduzido em julho de 2025 como forma voluntária de comprovar a conformidade com a Lei de IA, já conta com a Anthropic, a Google, a Microsoft e a OpenAI como signatários. Portanto, qualquer novo organismo de normalização liderado pelos EUA ou pela indústria teria de entrar num cenário de governação já saturado, em vez de criar um de raiz.