Anthropic alerta que IA criada por IA pode ultrapassar a segurança e inclinar os mercados
-
O Claude gerou mais de 80% do código de engenharia da Anthropic até maio de 2026, mas ainda requer supervisão humana.
-
O Claude liderou 26% das tarefas de pesquisa com IA em agosto, subindo de menos de 1% em fevereiro.
-
Nenhum sistema de IA alcançou o aperfeiçoamento recorrente e totalmente autônomo, de acordo com a Anthropic.
A inteligência artificial está assumindo mais das tarefas necessárias para criar modelos mais fortes. A Anthropic afirma que o Claude já garante que o processo ocorra mais rápido, embora ainda não seja capaz de criar um sucessor sozinho. A empresa, em uma avaliação de 4 de junho, disse que o avanço da IA cria um risco de a tecnologia superar diretamente os controles de segurança e a supervisão regulatória.
Quando a IA se constrói e o que isso ainda não significa
No entanto, o Claude ainda não atingiu o nível de autoaperfeiçoamento recursivo, no qual uma IA criaria e treinaria seu sucessor sem exigir qualquer intervenção humana. De acordo com a Anthropic, nenhum sistema alcançou essa capacidade até o momento.
O Claude tem sido capaz de gerenciar grande parte dos esforços de programação da Anthropic, mesmo sem autonomia total. Até maio de 2026, o Claude havia criado mais de 80% do código que os engenheiros contribuíram para os projetos de software da empresa. No segundo trimestre de 2026, um engenheiro típico contribuiu com oito vezes mais código por dia do que em 2024.
Esses números mostram o quanto a produção de código cresceu, mas não necessariamente o quanto de trabalho útil é realizado. Uma pesquisa citada pelo METR com 349 profissionais técnicos revelou um aumento mediano autorrelatado de 1,4 a 2 vezes no valor do trabalho realizado com ferramentas de IA.
26% liderado pelo Claude, nenhum deles totalmente autônomo
O Claude agora faz mais do que apenas escrever código. As medições da Anthropic de agosto revelaram que ele liderou 26% das tarefas de pesquisa e desenvolvimento em IA, ante menos de 1% em fevereiro. O Claude colaborou ou liderou mais de 90% dos trabalhos, mas os humanos permaneceram envolvidos durante todo o processo. Nenhum dos trabalhos medidos foi totalmente autônomo.
As pesquisas da Anthropic e a pesquisa METR medem coisas diferentes. A Anthropic acompanha a geração de código e as pesquisas realizadas com a ajuda de sistemas de IA, enquanto a METR mede como os trabalhadores percebem aumentos no valor de seu trabalho. No entanto, nenhum dos estudos indica se a IA é capaz de determinar quais problemas de pesquisa devem ser resolvidos.
Como isso poderia se acumular sem que nenhum modelo único se autoaperfeiçoe
A IA não precisa ser totalmente autônoma para realizar pesquisas mais rapidamente. De acordo com um relatório de outubro do RAND, agentes de IA podem criar modelos mais robustos sem precisar desenvolver seus próprios sucessores. Eles já podem representar uma ameaça à segurança ao terem acesso a modelos e códigos sensíveis.
De acordo com os economistas da METR, podem existir restrições causadas por fatores como disponibilidade de dados, poder computacional e capacidade de realizar estudos experimentais. No entanto, eles não descartaram a ideia de uma aceleração sustentada do desenvolvimento da IA
A questão é se revisões de segurança independentes conseguiriam acompanhar os experimentos impulsionados por IA. Caso contrário, a supervisão pode ficar defasada muito antes da autonomia total.
De acelerar a fronteira a policiá-la
Essa preocupação levou o CEO da Anthropic, Dario Amodei, a pedir um desenvolvimento mais lento e avaliadores independentes. Em seu ensaio de setembro, ele escreveu:
“Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA.”
OpenAI’s September 16 disclosure detailed six cases of concerning model behavior. Cryptopolitan also reported divisions among technology leaders over whether to slow AI development.
Mas concordar com as preocupações de segurança não garante ação. A CSIS alertou que os avaliadores externos devem evitar conflitos de interesses. Os governos também devem se proteger contra captura regulatória. Acordos setoriais permanecem incertos.
O dinheiro segue o poder computacional
O debate também envolve interesses financeiros. O Índice de IA de Stanford de 2026 revelou que o investimento privado em IA aumentou 127,5% em 2025. O investimento nos EUA foi 23 vezes maior que o da China. A OCDE, também conhecida como OECD, alerta que o acesso a chips, infraestrutura em nuvem e dados permanece concentrado. Isso cria um paradoxo: a IA pode tornar a codificação de pesquisa mais barata, mas treinar e testar modelos avançados ainda exige investimentos enormes. Portanto, um desenvolvimento mais rápido pode conferir uma vantagem ainda maior aos laboratórios líderes em relação aos concorrentes menores.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Perguntas Frequentes
O que é autoaperfeiçoamento recursivo?
É o ponto em que um sistema de IA pode projetar e treinar totalmente seu sucessor sem envolvimento humano. A Anthropic afirma que essa linha ainda não foi ultrapassada e não é inevitável.
Quanto do código e da pesquisa da Anthropic o Claude gerencia?
Até maio de 2026, o Claude escreveu mais de 80% do código mesclado na Anthropic e, até agosto de 2026, ele "liderou" 26% das pesquisas de IA mensuradas da empresa, embora nenhuma área mensurada tenha funcionado totalmente de forma autônoma.
O que Dario Amodei propôs?
Em seu ensaio de 12 de setembro, o CEO da Anthropic pediu aos laboratórios que regulassem a fronteira, reduzindo os ganhos de capacidade sem interromper o treinamento, começando com avaliadores externos embutidos, como o METR, além de coordenação entre laboratórios e governos de países democráticos.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Ashish Kumar
Ashish Kumar é jornalista de cripto e finanças com oito anos de experiência em redações. Ele cobre o que acontece com os mercados de cripto, regulação, DeFi e ecossistemas de exchanges. Trabalhou na Coingape, Todayq e Newsroompost. Ashish possui pós-graduação em Jornalismo Inglês pelo IIMC. Também entrevistou figuras do setor, incluindo Arthur Hayes, Yat Siu, Austin Federa e outros.
