CEO da Anthropic diz que o custo para treinar IA pode chegar a US$ 100 bilhões nos próximos três anos

O custo de treinamento de modelos de inteligência artificial (IA) está disparando, com projeções sugerindo um aumento significativo nos próximos anos. Dario Amodei, CEO da startup de IA Anthropic, destacou esses custos crescentes durante um episódio recente do podcast “In Good Company”.

Também leia: Trabalhadores da Samsung entram em greve exigindo salários mais altos durante a crescente competição de IA

Os modelos de IA avançados atuais, como o ChatGPT-4, exigem cerca de US$ 100 milhões para treinamento. Mas, de acordo com Amodei, isso pode aumentar entre US$ 10 bilhões e US$ 100 bilhões nos próximos três anos.

O desenvolvimento da inteligência artificial geral impulsiona os custos para cima

O aumento acentuado deve-se à mudança da IA generativa, como o ChatGPT, para a inteligência artificial geral (AGI). O progresso em direção à AGI busca desenvolver sistemas que possam compreender, adquirir e utilizar conhecimento de maneira semelhante à mente humana.

“Acho que, se chegarmos a US$ 10 ou US$ 100 bilhões, e acho que isso acontecerá em 2025, 2026, talvez 2027… então acho que há uma boa chance de que, até lá, sejamos capazes de obter modelos que sejam melhores que a maioria dos humanos na maioria das coisas.” 

Amodei

De acordo com a Tom’s Hardware, a estrutura existente para esses avanços é massiva no momento. Por exemplo, para treinar o ChatGPT, foram necessários mais de 30.000 GPUs, e cada chip de IA Nvidia B200 custa entre US$ 30.000 e US$ 40.000. Este investimento em hardware é um dos elementos que pode estar causando o aumento das despesas. 

Recursos computacionais elevam os custos de treinamento de IA

Existem várias razões pelas quais o custo de treinamento de IA está subindo. A principal razão é que a quantidade de recursos computacionais necessários é imensa. Com o avanço dos modelos de aprendizado profundo, são necessárias GPUs poderosas e outro hardware especialmente projetado. Mais de 3,8 milhões de GPUs foram enviadas para data centers em 2023, o que demonstra a extensão da infraestrutura necessária. 

Também leia: A Inteligência Artificial afetará uma ampla gamade serviços públicos

Outro fator importante é o consumo de energia. O consumo de energia de todas as GPUs vendidas no ano passado seria suficiente para alimentar 1,3 milhão de residências. Esse alto consumo de energia não apenas leva a altos custos para as empresas, mas também levanta questões sobre os efeitos no meio ambiente e na conservação. De acordo com um relatório recente do Google, as emissões da empresa aumentaram quase 50% em quatro anos, principalmente devido à energia necessária para o aprendizado de IA.

Gigantes da tecnologia investem pesadamente em infraestrutura de IA

Além disso, as principais empresas de tecnologia estão investindo muito dinheiro no avanço da inteligência artificial. Por exemplo, Elon Musk quer comprar 300.000 dos chips de IA mais avançados da Nvidia. Da mesma forma, diz-se que a Microsoft e a OpenAI estão trabalhando em um data center de US$ 100 bilhões para o avanço da IA.

Também leia: Wimbledon emprega IA para combater o abuso online

Apesar desses custos crescentes, há tentativas de otimizar os custos de treinamento de IA. O DeepMind do Google apresentou recentemente uma técnica chamada Seleção de Exemplos Conjunta (JEST) que afirma reduzir o número de iterações por um fator de 13 e os recursos computacionais necessários por um fator de 10. Isso ajuda a reduzir os recursos a serem usados e o tempo a ser gasto.

No entanto, mesmo com esses avanços, a direção geral é para custos mais altos devido ao avanço da AGI. Da IA generativa à AGI, os modelos precisam interpretar grandes conjuntos de dados, aprender com eles, antecipar diferentes situações e resolver problemas que exigem pensamento crítico. 

Reportagem Cryptopolitan por Brenda Kanana