Modelos de IA dominam capacidades muito antes de exibi-las, mostra pesquisa

Modelos de inteligência artificial (IA) possuem algumas capacidades muito antes de exibi-las durante o treinamento, mostrou uma nova pesquisa. De acordo com a pesquisa realizada por Havard e a Universidade de Michigan, os modelos não mostram essas habilidades até que precisem delas de uma forma ou de outra.

A pesquisa é uma das muitas realizadas para entender como os modelos de IA constroem suas capacidades antes de exibi-las.

O estudo analisou como os modelos de IA aprendem conceitos básicos como tamanho e cor, revelando que eles dominam essas habilidades mais cedo do que a maioria dos testes sugere. O estudo também forneceu insights sobre a complexidade de medir as capacidades de uma IA. “Um modelo pode parecer incompetente quando recebe prompts padrão, enquanto na verdade possui habilidades sofisticadas que só emergem sob condições específicas”, lê-se no artigo.

Pesquisa mostra que modelos de IA internalizam conceitos

Havard e a Universidade de Michigan não são os primeiros a tentar entender as capacidades dos modelos de IA, com pesquisadores da Anthropic apresentando um artigo intitulado ‘aprendizado de dicionário’. O artigo discutia o mapeamento de conexões em sua linguagem Claude para conceitos específicos que ela entende. Embora a maioria dessas pesquisas tenha abordado ângulos diferentes, o objetivo principal é entender os modelos de IA.

A Anthropic revelou que encontrou recursos que poderiam ser vinculados a diferentes conceitos interpretáveis. “Encontramos milhões de recursos que parecem corresponder a conceitos interpretáveis, variando de objetos concretos como pessoas, países e edifícios famosos a ideias abstratas como emoções, estilos de escrita e etapas de raciocínio”, revelou a pesquisa.

Durante sua pesquisa, os pesquisadores realizaram vários experimentos usando o modelo de difusão, uma das arquiteturas mais populares para IA. Durante o experimento, eles perceberam que os modelos tinham maneiras distintas de manipular conceitos básicos. Os padrões eram consistentes, pois os modelos de IA mostraram novas capacidades em fases diferentes e um ponto de transição agudo sinalizando quando uma nova habilidade é adquirida.

Durante o treinamento, os modelos mostraram que dominaram conceitos cerca de 2.000 etapas antes do que um teste padrão detectaria. Conceitos fortes apareceram por volta de 6.000 etapas e os mais fracos foram visíveis por volta de 20.000 etapas. Após o ajuste dos sinais de conceito, eles descobriram uma correlação direta com a velocidade de aprendizado.

Pesquisadores revelam métodos para acessar capacidades ocultas

Os pesquisadores usaram métodos de prompt alternativos para revelar capacidades ocultas antes que elas fossem exibidas em testes padrão. A natureza generalizada do surgimento oculto tem efeitos na avaliação e segurança da IA. Por exemplo, benchmarks tradicionais podem perder certas capacidades dos modelos de IA, perdendo tanto as benéficas quanto as preocupantes.

Durante a pesquisa, a equipe descobriu certos métodos para acessar as capacidades ocultas dos modelos de IA. A pesquisa denominou esses métodos de intervenção latente linear e super-prompting, pois os pesquisadores fizeram os modelos exibir comportamentos complexos antes que eles aparecessem em testes padrão. Os pesquisadores também descobriram que os modelos de IA manipulavam certos recursos complexos antes de poderem exibi-los por meio de prompts padrão.

Por exemplo, os modelos poderiam ser solicitados a gerar ‘mulheres sorrindo’ ou ‘homens usando chapéus’ com sucesso antes de serem solicitados a combiná-los. No entanto, a pesquisa mostrou que eles aprenderam a combiná-los mais cedo, mas não conseguiriam exibi-los por meio de prompts convencionais. A exibição de capacidades pelos modelos pode ser chamada de grokking, uma situação em que os modelos exibem desempenho perfeito nos testes após um treinamento prolongado. No entanto, os pesquisadores disseram que há diferenças-chave entre ambos.

Enquanto o grokking acontece após várias sessões de treinamento e envolve o refinamento de várias distribuições dos mesmos conjuntos de dados, a pesquisa mostra que essas capacidades emergem durante o aprendizado ativo. Os pesquisadores observaram que os modelos encontraram novas maneiras de manipular conceitos por meio de mudanças de fase, em vez de melhorias graduais na representação no grokking.

De acordo com a pesquisa, isso mostra que os modelos de IA conhecem esses conceitos, mas não conseguem exibi-los. É semelhante a pessoas assistindo e entendendo um filme estrangeiro, mas não conseguem falar o idioma. Isso mostra que a maioria dos modelos tem mais capacidades do que mostram, e também demonstra a dificuldade de entender e controlar suas capacidades.