La recherche met en évidence la menace de l'effondrement des connaissances due à la focalisation de l'IA

Andrew J. Peterson, chercheur à l'Université de Poitiers, a récemment publié une étude qui a créé un buzz sur diverses plateformes, y compris Hacker News et Reddit. 

Peter soutient que cet « effondrement des connaissances » pourrait survenir de notre dépendance croissante continue aux systèmes d'IA, notamment les modèles de langage et les bases de connaissances, qui comblent nos besoins en informations. Il s'ensuit que les IA informatisées peuvent aider les gens à obtenir une sagesse conventionnelle plus légère, mais il existe un risque que les idées, uniques et déviantes, essentielles au développement soient négligées et oubliées.

Comprendre l'effondrement des connaissances

À mesure que les connaissances deviennent de plus en plus compressées et que les gens expérimentent continuellement un rétrécissement de la bande passante d'informations tout en percevant simultanément moins de valeur dans l'utilisation de divers magasins d'informations, Peterson introduit l'effondrement cognitif comme une progression. 

Cet événement, cependant, n'est pas seulement un obstacle aux idées innovantes qui font un grand bond en avant, mais est dangereux pour la condition même qui est cruciale pour la découverte de percées dans tous les domaines – la diversité de la pensée humaine.

Le document de recherche explique comment les systèmes d'IA, s'ils prêtent attention au flux de données qui doit être lu et aux chiffres extrêmement populaires, peuvent entraîner une situation où les connaissances non conventionnelles – la bonne nourriture sur laquelle la créativité s'appuie et sur laquelle l'innovation dépend – sont laissées de côté. 

Peterson n'hésite pas à nous avertir que si nous dépendons de plus en plus de ces technologies IA pour sélectionner nos connaissances, nous nous retrouverons enfermés dans un « chœur de conformistes » avec seulement une gamme restreinte de compréhension et d'imagination.

Naviguer dans le biais de l'IA vers les connaissances 

Dans la même tentative de découvrir les vraies raisons d'un effondrement des connaissances, il a conçu un modèle mathématique simple montrant l'accumulation de connaissances lorsque l'IA est utilisée. Les implications de sa recherche montrent que le mécanisme de l'IA avait juste une légère faveur envers les connaissances mainstream qui affectent significativement la distribution des connaissances publiques et exagère la marginalisation de la zone de connaissances périphériques. 

De plus, le modèle propose que ce phénomène soit extrêmement accéléré par l'interdépendance des systèmes autonomes récursifs, où un simple biais instillé ou une erreur qui prédispose une IA à la conventionnalité sert de modèle pour l'itération suivante.

Dans le modèle de Peterson, l'incitation dans le processus de prise de connaissances académiques sur la pointe de la technologie personnelle est d'une valeur immense. Le document indique que ces incitations seraient notre seul défenseur contre une situation dans laquelle les pressions économiques et sociales entraîneraient la similarité des schémas de pensée et fermeraient les portes à la variété des idées, nécessaires à l'émergence d'idées innovantes.

Équilibrer la portée de l'IA pour une échelle suffisante de connaissances

L'idée de brainstorming des connaissances est également dépeinte d'une part comme une possible dévastation, mais d'autre part, l'essai explore les moyens d'empêcher cet impact négatif. 

Selon Peterson, l'un des problèmes clés est de rassembler les efforts des entités sociétales et officielles au lieu de simplement laisser les individus tout faire seuls. Par exemple, la conception des systèmes IA a la capacité de s'écarter de la mission assignée, y compris les aspects de niche et inhabituels, et l'objectif est de maintenir tout le spectre des connaissances humaines non seulement accessible mais valorisé.

De plus, en se référant au fait que le rôle des bases de connaissances décentralisées et ouvertes en tant qu'alternative à l'influence rétrécissante de l'IA à cet égard est également identifié comme une solution possible. Des plateformes comme Wikidata, arXiv ou IPFS pourraient fonctionner comme des propritons contre la perte de connaissances marginales, et ainsi, les queues des grands données seront toujours aussi excitantes et découvrables qu'il y a une nouvelle frontière dans l'humanité.

Appel à des connaissances diverses pour soutenir les connaissances humaines

Le document de Peterson fonctionne comme un témoignage éloquent de la valeur de la pensée hétérogène et de la génération de connaissances, qu'il faut garder à l'esprit dans le contexte des efforts et inventions futurs de l'humanité. 

Avec l'intégration de l'IA, le processus de collecte des connaissances deviendra inévitablement plus complexe. Ainsi, maintenir une nature riche et variée de l'information dans ce monde numérique devient une nécessité.

Ce débat, déclenché par des recherches, soulève des enjeux critiques essentiels pour la communauté ; l'élément central de la discussion est la place que nous croyons que l'IA doit occuper dans notre société. Face aux difficultés d'intégration de l'IA dans nos vies, les préoccupations de Peterson concernant l'effondrement des connaissances nous incitent à réfléchir à la manière dont nous devons agir pour éviter que la position de l'IA ne diminue le savoir humain au lieu de l'augmenter. 

Maintenir un éventail d'idées riche et dynamique dans la compétition pour la génération de connaissances humaines, face aux développements rapides dans le domaine du curation des connaissances par l'IA, constitue le problème le plus difficile pour l'avenir de notre société en tant qu'espèce qui continue d'Osborn.

Actualités sourcées de :https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse