Pesquisa Destaca a Ameaça do Colapso do Conhecimento Devido ao Foco da IA

Andrew J. Peterson, pesquisador da Universidade de Poitiers, publicou recentemente um estudo que criou agitação em várias plataformas, incluindo Hacker News e Reddit. 

Peter argumenta que esse “colapso do conhecimento” pode surgir da nossa crescente e contínua dependência de sistemas de IA, incluindo modelos de linguagem e bases de conhecimento, que atendem às nossas necessidades de informação. Consequentemente, a IA computacional pode ajudar as pessoas a obter sabedoria convencional, mas há o risco de que as ideias, únicas e divergentes, essenciais para o desenvolvimento, sejam negligenciadas e esquecidas.

Compreendendo o Colapso do Conhecimento

À medida que o conhecimento se torna cada vez mais comprimido e as pessoas experimentam continuamente uma largura de banda de informação cada vez mais estreita, percebendo simultaneamente menos valor no uso de diferentes repositórios de informação, Peterson introduz o colapso cognitivo como uma progressão. 

Esse fenômeno, no entanto, não é apenas um obstáculo para as ideias inovadoras que impulsionam grandes saltos, mas é perigoso para a própria condição crucial para a descoberta de avanços em todos os campos – a diversidade do pensamento humano.

O artigo de pesquisa explica como os sistemas de IA, se dedicarem atenção à corrente de dados que é imperdível e aos números extremamente populares, podem levar a uma situação em que o conhecimento não convencional – o alimento certo do qual a criatividade depende e da qual a inovação depende – fica de fora. 

Peterson não hesita em nos alertar de que, se dependermos cada vez mais dessas tecnologias de IA para selecionar nosso conhecimento, nos veremos trancados em um “coro de conformistas”, deixando-nos apenas com um espectro restrito de compreensão e imaginação.

Navegando pelo viés da IA em direção ao conhecimento 

Na mesma tentativa de descobrir as causas reais de um colapso do conhecimento, ele elaborou um modelo matemático simples que mostra o acúmulo de conhecimento quando a IA é usada. As implicações de sua pesquisa mostram que o mecanismo da IA tinha apenas uma pequena preferência pelo conhecimento mainstream, o que afeta significativamente a distribuição pública do conhecimento e exacerba a marginalização das áreas de conhecimento periféricas. 

Além disso, o modelo propõe que esse fenômeno seja acelerado extremamente pela interdependência de sistemas autônomos recursivos, onde um viés meramente instilado ou um erro que predisponha uma IA à convenção serve como modelo para a próxima iteração.

No modelo de Peterson, o incentivo no processo de adquirir conhecimento acadêmico de ponta pessoalmente é de valor imenso. O artigo afirma que esses incentivos seriam nossa única defesa contra uma situação em que as pressões econômicas e sociais resultariam na uniformidade dos padrões de pensamento e fechariam as portas para a variedade de ideias, necessárias para que ideias inovadoras surjam.

Equilibrando a busca da IA por escala suficiente de conhecimento

A ideia de brainstorming do conhecimento é retratada, por um lado, como uma possível devastação, mas, por outro lado, o ensaio explora as maneiras de prevenir esse impacto negativo. 

De acordo com Peterson, uma das questões-chave é unir os esforços de entidades sociais e oficiais, em vez de deixar apenas os indivíduos fazerem tudo sozinhos. Por exemplo, o design de sistemas de IA tem a capacidade de se afastar da missão designada, incluindo aspectos de nicho e incomuns, e o objetivo é manter todo o espectro do conhecimento humano não apenas acessível, mas valorizado.

Além disso, ao citar o fato de que o papel das bases de conhecimento descentralizadas e abertas como alternativa à influência restritiva da IA nesse aspecto também é identificado como uma possível solução. Plataformas como Wikidata, arXiv ou IPFS podem funcionar como protetores contra a perda de conhecimento marginal, e assim, as caudas dos big data sempre serão tão excitantes e descobríveis quanto qualquer nova fronteira da humanidade.

Chamado por conhecimento diverso para sustentar o conhecimento humano

O artigo de Peterson funciona como um testemunho eloquente do valor do pensamento heterogêneo e da geração de conhecimento, que deve ser lembrado no contexto dos futuros esforços e invenções humanos. 

Com a integração da IA, o processo de coleta de conhecimento inevitavelmente se tornará mais intricado. Assim, manter uma natureza rica e variada de informação neste mundo digital torna-se uma necessidade.

Este debate, desencadeado pela pesquisa, levanta questões críticas vitais para a comunidade; o elemento central da discussão é o que acreditamos ser o papel da IA em nossa sociedade. Com as dificuldades da integração da IA em nossas vidas, as preocupações de Peterson sobre o colapso do conhecimento servem para nos fazer refletir sobre o que devemos fazer para evitar que a posição da IA diminua o conhecimento humano, em vez de aumentá-lo. 

Manter um leque bem-variado e vibrante de ideias na competição pela geração de conhecimento humano, diante dos rápidos desenvolvimentos no campo da curadoria de conhecimento por IA, serve como o problema mais difícil para o futuro de nossa sociedade como uma espécie que continuamente Osborn.

Notícia obtida de:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse