Escassez de dados na indústria de IA

À medida que a indústria de inteligência artificial (IA) continua a crescer em popularidade, um desafio iminente surgiu – a escassez de dados de treinamento de alta qualidade. Essa falta ameaça impedir o crescimento dos modelos de IA, particularmente os grandes modelos de linguagem, e pode potencialmente alterar a trajetória da revolução da IA. Este artigo explora por que os recursos de dados em declínio são uma causa de preocupação e delineia possíveis soluções para abordar essa questão.

Dados de alta qualidade são o sangue vital dos algoritmos de IA, contribuindo para sua precisão, desempenho e qualidade geral. Por exemplo, o ChatGPT, um modelo de linguagem proeminente, foi treinado em uma impressionante 570 gigabytes de dados de texto, equivalentes a aproximadamente 300 bilhões de palavras. Da mesma forma, o algoritmo de difusão estável, que alimenta aplicativos de geração de imagens de IA como DALL-E, Lensa e Midjourney, dependeu do conjunto de dados LIAON-5B contendo 5,8 bilhões de pares de imagem-texto. Dados inadequados podem levar a imprecisões e resultados inferiores.

Além disso, a qualidade dos dados de treinamento desempenha um papel pivotal. Dados de baixa qualidade, como postagens em redes sociais ou imagens borradas, estão prontamente disponíveis, mas são insuficientes para treinar modelos de IA de alto desempenho. O texto extraído de plataformas de redes sociais pode estar contaminado por vieses, preconceitos, desinformação ou conteúdo ilegal, que os modelos de IA podem replicar inadvertidamente. Por exemplo, a tentativa da Microsoft de treinar um bot de IA usando conteúdo do Twitter resultou na produção de saídas racistas e misóginas. 

Para mitigar esses riscos, os desenvolvedores de IA buscam conteúdo de alta qualidade de fontes como livros, artigos online, artigos científicos, Wikipedia e conteúdo da web cuidadosamente filtrado. Até mesmo fontes incomuns, como romances de sites de auto-publicação como a Smashwords, foram usadas para aprimorar a IA conversacional, como o Google Assistant.

Oferta de dados vs. demanda de IA

Enquanto a indústria de IA tem escalado continuamente o tamanho dos conjuntos de dados usados para treinamento, a disponibilidade de dados online está crescendo a um ritmo mais lento. Pesquisas recentes sugerem que, no ritmo atual de treinamento de IA, os dados de texto de alta qualidade podem se esgotar antes de 2026. Dados de linguagem de baixa qualidade podem acabar entre 2030 e 2050, e dados de imagem de baixa qualidade entre 2030 e 2060. Essas projeções levantam preocupações sobre o possível gargalo no desenvolvimento da IA.

As apostas são altas no mundo da IA, com a PwC estimando que a IA pode contribuir com até US$ 15,7 trilhões para a economia global até 2030. No entanto, a escassez iminente de dados ameaça desacelerar o desenvolvimento da indústria e a realização de seu potencial.

Eficiência de Dados Aprimorada: Os desenvolvedores de IA podem aprimorar os algoritmos para fazer um uso mais eficiente dos dados existentes. Nos próximos anos, eles podem alcançar sistemas de IA de alto desempenho com menos dados e menor poder computacional. Essa abordagem não apenas aliviaria a escassez de dados, mas também contribuiria para reduzir a pegada ambiental da IA.

Geração de Dados Sintéticos: Outra solução é o uso da IA para criar dados sintéticos adaptados para treinar modelos de IA específicos. Projetos já estão utilizando conteúdo sintético de serviços geradores de dados como a Mostly AI, e essa abordagem deve se tornar mais comum no futuro.

Exploração de Fontes de Dados Não Livres: Desenvolvedores estão explorando cada vez mais conteúdo além dos recursos online disponíveis gratuitamente. Dados valiosos detidos por grandes editoras e repositórios offline, incluindo milhões de textos publicados antes da era da internet, podem servir como novas fontes para projetos de IA. Movimentos recentes de empresas como a News Corp para negociar acordos de conteúdo com desenvolvedores de IA, onde as empresas de IA pagam por dados de treinamento, podem ajudar a garantir uma compensação justa para os criadores de conteúdo e abordar o desequilíbrio de poder.

A dependência da indústria de IA em dados de treinamento de alta qualidade é evidente, e a possível escassez desses dados pode representar desafios para seu crescimento contínuo. Embora existam preocupações, a situação pode não ser tão grave quanto parece. Os desenvolvedores de IA têm vias para melhorar a eficiência dos dados, criar dados sintéticos e explorar fontes de dados não livres. Essas estratégias, combinadas com a evolução contínua das tecnologias de IA, oferecem esperança para mitigar os riscos associados à escassez de dados. À medida que a revolução da IA se desenrola, a adaptabilidade e a inovação serão fundamentais para navegar neste desafio emergente e garantir a contribuição contínua da IA para a economia global.