Pesquisa destaca a ameaça de colapso do conhecimento devido ao foco da IA

Andrew J. Peterson, pesquisador da Universidade de Poitiers, publicou recentemente um estudo que gerou grande repercussão em diversas plataformas, incluindo Hacker News e Reddit. 

Peter argumenta que esse “colapso do conhecimento” pode surgir da nossa crescente dependência de sistemas de IA, incluindo modelos de linguagem e bases de conhecimento, que suprem nossas necessidades de informação. Consequentemente, embora a IA possa ajudar as pessoas a obterem um conhecimento mais convencional, existe o risco de que ideias únicas e divergentes, essenciais para o desenvolvimento, sejam negligenciadas e esquecidas.

Compreendendo o colapso do conhecimento

À medida que o conhecimento se torna cada vez mais comprimido e as pessoas experimentam continuamente uma redução na largura de banda da informação, ao mesmo tempo que percebem menos valor na utilização de diversas fontes de informação, Peterson introduz o colapso cognitivo como uma progressão. 

Esse acontecimento, porém, não é apenas um obstáculo às ideias inovadoras que representam um grande salto em frente, mas também um perigo para a própria condição crucial para a descoberta de avanços em todos os campos: a diversidade do pensamento humano.

O artigo de pesquisa explica como os sistemas de IA, se dedicarem atenção ao fluxo de dados que é leitura obrigatória e aos números extremamente populares, podem levar a uma situação em que o conhecimento não convencional — o alimento certo do qual a criatividade e a inovação dependem — seja deixado de lado. 

Peterson não hesita em nos alertar que, se dependermos cada vez mais dessas tecnologias de IA para selecionar nosso conhecimento, nos veremos presos em um "coro de conformistas", com um alcance limitado de compreensão e imaginação.

Navegando pelo viés da IA ​​em relação ao conhecimento 

Na mesma tentativa de descobrir as verdadeiras razões para o colapso do conhecimento, ele elaborou um modelomaticsimples que demonstra a acumulação de conhecimento quando a IA é utilizada. As implicações de sua pesquisa mostram que o mecanismo de IA, mesmo que minimamente, favorece o conhecimento dominante, afetando significativamente a distribuição pública do conhecimento e exacerbando a marginalização das áreas de conhecimento periféricas. 

Além disso, o modelo propõe que esse fenômeno seja extremamente acelerado pela interdependência recursiva de sistemas autônomos, onde um mero viés intrínseco ou um erro que predisponha uma IA à convencionalidade serve como modelo para a próxima iteração.

No modelo de Peterson, o incentivo para a assimilação pessoal do conhecimento acadêmico de ponta é de imenso valor. O artigo afirma que esses incentivos seriam nossa única defesa contra uma situação em que as pressões econômicas e sociais resultariam na homogeneização dos padrões de pensamento e fechariam as portas para a diversidade de ideias necessárias ao surgimento de ideias inovadoras.

Equilibrar o alcance da IA ​​para garantir escala suficiente de conhecimento.

A ideia de brainstorming para gerar conhecimento também é retratada, por um lado, como uma possível devastação, mas, por outro lado, o ensaio explora maneiras de prevenir esse impacto negativo. 

Segundo Peterson, uma das questões-chave é a necessidade de unir os esforços de entidades sociais e oficiais, em vez de deixar que os indivíduos façam tudo sozinhos. Por exemplo, o design de sistemas de IA tem a capacidade de se desviar da missão designada, incluindo aspectos específicos e incomuns, e o objetivo é manter todo o espectro do conhecimento humano não apenas acessível, mas também valorizado.

Além disso, o papel das bases de conhecimento descentralizadas e abertas como alternativa à influência cada vez menor da IA ​​nesse sentido também édentcomo uma possível solução. Plataformas como Wikidata, arXiv ou IPFS poderiam funcionar como mecanismos de proteção contra a perda de conhecimento marginal e, assim, as ramificações do Big Data sempre serão tão fascinantes e passíveis de descobertas quanto qualquer nova fronteira da humanidade.

Apelo à diversidade de conhecimentos para sustentar o conhecimento humano.

O artigo de Peterson funciona como um testemunho eloquente do valor do pensamento heterogêneo e da geração de conhecimento, algo que deve ser levado em consideração no contexto dos futuros empreendimentos e invenções da humanidade. 

Com a integração da IA, o processo de coleta de conhecimento inevitavelmente se tornará mais complexo. Assim, manter uma natureza rica e variada de informações neste mundo digital torna-se uma necessidade.

Este debate, desencadeado por pesquisas, levanta questões críticas vitais para a comunidade; o elemento central da discussão é qual acreditamos ser o papel da IA ​​em nossa sociedade. Diante das dificuldades de integração da IA ​​em nossas vidas, as preocupações de Peterson sobre o colapso do conhecimento nos levam a refletir sobre o que devemos fazer para evitar que a IA diminua o conhecimento humano em vez de aumentá-lo. 

Manter um conjunto diversificado e dinâmico de ideias na competição pela geração de conhecimento humano, diante dos rápidos avanços na área de curadoria de conhecimento por IA, constitui o problema mais difícil para o futuro da nossa sociedade como espécie que continuamente [Osborn] busca soluções.

Notícias retiradas de:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse