Como Prevenir o Colapso do Modelo e o Efeito Dominó do Aprendizado de IA em IA

Resumo TL;DR

• Treinar modelos de IA em dados gerados por IA leva a percepções distorcidas e representações imprecisas.
• O uso de dados gerados por IA para treinar modelos de IA levanta a possibilidade de colapso do modelo e desvio da distribuição real dos dados.
• Priorizar dados gerados por humanos é fundamental para prevenir o colapso dos modelos de IA e manter a precisão.

A Inteligência Artificial (IA) fez avanços notáveis nos últimos anos, com avanços em modelos de aprendizado de máquina levando a descobertas significativas. Por outro lado, surgiu uma tendência preocupante na qual os modelos de IA estão sendo treinados em dados gerados por IA. Em um artigo intitulado “A Maldição da Recursão: Treinar em Dados Gerados Faz Modelos Esquecerem”, pesquisadores de instituições de prestígio lançaram luz sobre os perigos potenciais dessa prática. Eles alertam que essa abordagem pode levar a um fenômeno conhecido como colapso do modelo, no qual os modelos de IA perdem a capacidade de perceber a realidade com precisão. Este artigo explora as complexidades do colapso do modelo e destaca a importância de confiar em dados gerados por humanos para manter a integridade dos modelos de IA.

A maldição da recursão leva ao colapso do modelo

Pesquisadores de Cambridge, Oxford, da Universidade de Toronto e do Imperial College em Londres identificaram uma consequência preocupante do treinamento de modelos de IA em dados gerados por IA. De acordo com suas descobertas, o colapso do modelo ocorre quando os dados gerados contaminam o conjunto de treinamento das gerações subsequentes de modelos. Em termos mais simples, os modelos de IA, sendo treinados em dados poluídos, desenvolvem uma percepção distorcida da realidade. Como resultado, eles produzem representações imprecisas que se desviam da distribuição real subjacente dos dados.

O problema do colapso do modelo não se limita a um tipo específico de modelo de IA. Alguns observam isso em vários modelos generativos aprendidos e ferramentas, incluindo modelos de linguagem grandes (LLMs), autoencoders variacionais e modelos de mistura gaussiana. O acúmulo de gerações exacerba o problema, à medida que os modelos esquecem progressivamente a distribuição original dos dados. A consequência é uma simulação desconectada da realidade, tornando os modelos de IA delirantes.

Aprendizado de IA em IA é uma tendência perigosa

O surgimento de modelos de IA sendo treinados em dados gerados por IA representa uma tendência preocupante. À medida que a tecnologia avança, às vezes os modelos de aprendizado de máquina são intencionalmente treinados em saídas de outros sistemas de IA. Por exemplo, modelos de aprendizado de linguagem (LLMs) estão sendo treinados nas saídas geradas pelo GPT-4. Além disso, plataformas como a DeviantArt permitem que a arte criada por IA seja publicada e usada como dados de treinamento para novos modelos de IA. Embora isso possa parecer um passo em frente, carrega riscos significativos.

Os pesquisadores alertam que o processo de aprendizado de IA em IA pode levar a uma proliferação de colapsos de modelos. Semelhante aos problemas encontrados ao tentar a clonagem indefinida, treinar modelos de IA em dados gerados por IA pode criar uma cascata de imprecisões e distorções. À medida que os modelos continuam a aprender com dados poluídos, eles se tornam ainda mais desconectados da distribuição real dos dados, resultando em uma perda de compreensão do mundo real.

Dados gerados por humanos previnem o colapso do modelo

Para prevenir as consequências prejudiciais do colapso do modelo, é crucial manter o acesso à fonte original de dados gerados por humanos. Os pesquisadores propõem que há uma “vantagem do primeiro movimento” para treinar modelos de IA. Ao garantir que os modelos sejam treinados em dados reais produzidos por humanos, o risco de mudança de distribuição e subsequente colapso do modelo pode ser mitigado.

A prevenção do colapso do modelo requer abordar as duas causas principais identificadas no artigo de pesquisa. O “erro de aproximação estatística” é a causa inicial devido ao número limitado de amostras de dados. A segunda causa é o “erro de aproximação funcional”, resultante da configuração inadequada da margem de erro durante o treinamento de IA. Esses erros podem se acumular ao longo das gerações, levando a uma cascata crescente de imprecisões dentro dos modelos.

Protegendo o futuro dos modelos de IA

A ascensão do aprendizado de IA em IA apresenta desafios significativos para o futuro dos modelos de IA. O fenômeno do colapso do modelo, no qual os modelos de IA perdem a capacidade de perceber a realidade com precisão, exige atenção imediata. Para prevenir o colapso do modelo e garantir a integridade dos modelos de IA, é essencial manter o acesso à fonte original de dados gerados por humanos ou à capacidade de diferenciar entre conteúdo gerado por máquinas e produzido por humanos.