Abordagem de Treinamento Revolucionária Capacita a IA a Generalizar Como Mentes Humanas

Em um desenvolvimento revolucionário para o campo da inteligência artificial (IA), pesquisadores revelaram um novo protocolo de treinamento que pode melhorar significativamente a capacidade de um modelo de IA de generalizar e compreender informações, aproximando-o da maneira como os humanos aprendem e raciocinam. Essa abordagem inovadora desafia a crença convencional de que mais dados são a chave para melhorar o aprendizado de máquina, oferecendo novas perspectivas sobre os segredos da cognição tanto da IA quanto humana.

Os humanos se destacam na compreensão e combinação de vários componentes para dar sentido ao mundo, uma habilidade cognitiva conhecida como “composicionalidade” ou “generalização sistemática”. Isso nos permite decodificar frases desconhecidas, criar respostas originais e compreender os significados subjacentes de palavras e regras gramaticais. Alcançar a composicionalidade tem sido um desafio há muito para os desenvolvedores de IA, pois as redes neurais tradicionais lutam para emular esse aspecto fundamental da cognição humana.

Embora os modelos atuais de IA generativa, como o GPT-3 e GPT-4 da OpenAI, possam imitar a composicionalidade em certa medida, eles frequentemente ficam aquém em alguns benchmarks, falhando em compreender verdadeiramente o significado e a intenção por trás das frases que geram. No entanto, um estudo recente publicado na Natureza sugere que um protocolo de treinamento único focado em como as redes neurais aprendem pode ser a chave para enfrentar esse desafio.

Remodelando o processo de aprendizado

Os autores do estudo adotaram uma abordagem diferente para treinar a IA, evitando a necessidade de criar arquiteturas de IA inteiramente novas. Em vez disso, eles começaram com um modelo transformer padrão, a mesma arquitetura fundamental usada no ChatGPT e no Bard do Google, mas sem treinamento prévio em texto. A inovação crítica estava no próprio regime de treinamento.

Os pesquisadores projetaram um conjunto de tarefas envolvendo uma linguagem fictícia composta por palavras sem sentido como “dax”, “lug”, “kiki”, “fep” e “blicket”. Essas palavras estavam associadas a conjuntos de pontos coloridos, com algumas palavras representando diretamente cores específicas de pontos e outras significando funções que alteravam as saídas dos pontos. Por exemplo, “dax” representava um ponto vermelho, enquanto “fep” era uma função que, quando combinada com “dax” ou outras palavras simbólicas, multiplicava a saída do ponto correspondente por três. Crucialmente, a IA não recebeu nenhuma informação sobre essas associações; os pesquisadores simplesmente forneceram exemplos de frases sem sentido junto com as configurações de pontos correspondentes.

IA alcançando compreensão semelhante à humana

À medida que o modelo de IA passava pelo treinamento, ele gradualmente aprendeu a responder de forma coerente, aderindo às regras implícitas da linguagem sem sentido. Mesmo quando apresentadas com combinações novas de palavras, a IA demonstrou sua capacidade de “compreender” as regras inventadas da linguagem e aplicá-las a frases nunca vistas anteriormente. Essa façanha notável indicou o potencial da IA de generalizar, um passo crítico em direção ao raciocínio semelhante ao humano.

Para avaliar o desempenho da IA, os pesquisadores compararam-na com participantes humanos. Em alguns casos, a IA treinada respondeu com 100% de precisão, superando os humanos, que alcançaram uma taxa de precisão de aproximadamente 81%. Mesmo quando a IA cometia erros, eles espelhavam erros comumente feitos por humanos, destacando sua capacidade de raciocínio semelhante ao humano.

O que é particularmente notável é que esse desempenho impressionante foi alcançado com um modelo transformer relativamente pequeno, não uma IA massiva treinada em vastos conjuntos de dados. Essa descoberta sugere que, em vez de inundar modelos de aprendizado de máquina com dados intermináveis, uma abordagem mais focada, semelhante a uma aula especializada de linguística ou álgebra, pode produzir melhorias substanciais nas capacidades da IA.

Implicações e direções futuras

Embora esse novo protocolo de treinamento ofereça resultados promissores, é essencial reconhecer suas limitações. O modelo de IA se saiu bem em tarefas específicas relacionadas ao reconhecimento de padrões em uma linguagem fabricada, mas teve dificuldades quando enfrentou desafios inteiramente novos ou formas não praticadas de generalização. Consequentemente, é crucial reconhecer que alcançar uma generalização limitada na IA é um passo significativo, mas está longe do objetivo final da inteligência artificial geral.

Armando Solar-Lezama, cientista da computação no Instituto de Tecnologia de Massachusetts, observa que esta pesquisa pode abrir novas vias para melhorar a IA. Ao focar no ensino de modelos para raciocinar efetivamente, mesmo em tarefas sintéticas, podemos encontrar maneiras de aprimorar as capacidades da IA além dos limites atuais. No entanto, escalar esse novo protocolo de treinamento pode apresentar desafios que precisam ser abordados.

Além de suas implicações práticas para a IA, esta pesquisa também pode lançar luz sobre o funcionamento interno das redes neurais e suas capacidades emergentes. Compreender esses processos pode contribuir para minimizar erros em sistemas de IA e aprimorar nossa compreensão da cognição humana.