Des recherches mettent en lumière la menace d'un effondrement des connaissances dû à l'importance accordée à l'IA

Andrew J. Peterson, chercheur à l'Université de Poitiers, a récemment publié une étude qui a fait grand bruit sur diverses plateformes, dont Hacker News et Reddit. 

Peter soutient que cet « effondrement des connaissances » pourrait résulter de notre dépendance croissante aux systèmes d'IA, notamment aux modèles de langage et aux bases de connaissances, qui répondent à nos besoins d'information. Il s'ensuit que les IA peuvent certes nous permettre d'acquérir des connaissances plus conventionnelles, mais au risque de voir les idées originales et novatrices, essentielles au développement, négligées et oubliées.

Effondrement des connaissances

À mesure que les connaissances se compressent et que les individus subissent une réduction constante de leur capacité d'information tout en percevant moins de valeur dans l'utilisation de sources d'information diversifiées, Peterson introduit le concept d'effondrement cognitif comme une progression. 

Ce phénomène constitue toutefois non seulement un obstacle aux idées novatrices qui permettent de faire un grand bond en avant, mais aussi un danger pour la condition même qui est cruciale pour la réalisation de percées dans tous les domaines : la diversité de la pensée humaine.

L'article de recherche explique comment les systèmes d'IA, s'ils concentrent leur attention sur le flux de données incontournables et les chiffres extrêmement populaires, peuvent créer une situation où les connaissances non conventionnelles — le terreau fertile dont reposent la créativité et l'innovation — sont négligées. 

Peterson n'hésite pas à nous avertir que si nous dépendons de plus en plus de ces technologies d'IA pour sélectionner nos connaissances, nous nous retrouverons enfermés dans un « chœur de conformistes », avec un champ de compréhension et d'imagination restreint.

Naviguer dans les biais de l'IA en faveur de la connaissance 

Dans le même but de comprendre les véritables causes de l'effondrement des connaissances, il a conçu un modèlematicsimple illustrant l'accumulation des savoirs lors de l'utilisation de l'IA. Les implications de ses recherches montrent que le mécanisme d'IA, bien que favorisant légèrement les connaissances dominantes, influence considérablement la diffusion publique des connaissances et accentue la marginalisation des domaines de recherche marginaux. 

De plus, le modèle suggère que ce phénomène est extrêmement accéléré par l'interdépendance récursive des systèmes autonomes, où un simple biais inculqué ou une erreur qui prédispose une IA à la conventionnalité sert de modèle pour l'itération suivante.

Dans le modèle de Peterson, la motivation à s'approprier les connaissances académiques de pointe est d'une valeur inestimable. L'article affirme que ces motivations seraient notre seul rempart contre une situation où les pressions économiques et sociales uniformiseraient les modes de pensée et entraveraient l'émergence de la diversité des idées, pourtant essentielle à l'innovation.

Équilibrer la portée de l'IA pour une échelle de connaissances suffisante

L'idée de brainstorming des connaissances est également présentée d'une part comme une source possible de dévastation, mais d'autre part, l'essai explore les moyens de prévenir cet impact négatif. 

Selon Peterson, l'un des enjeux majeurs est de conjuguer les efforts des acteurs de la société civile et des instances officielles, au lieu de laisser les individus agir seuls. Ainsi, la conception des systèmes d'IA peut s'affranchir de la mission initiale, notamment en intégrant des aspects spécifiques et atypiques, afin de préserver l'accessibilité et la valorisation de l'ensemble du savoir humain.

De plus, le rôle des bases de connaissances ouvertes et décentralisées, en tant qu'alternative à l'influence grandissante de l'IA, est égalementdentcomme une solution possible. Des plateformes telles que Wikidata, arXiv ou IPFS pourraient servir de rempart contre la perte de connaissances marginales ; ainsi, les données issues du Big Data resteront toujours aussi passionnantes et riches en découvertes que n'importe quelle nouvelle frontière de l'humanité.

Appel à la diversité des savoirs pour préserver le savoir humain

L'article de Peterson témoigne avec éloquence de la valeur de la pensée hétérogène et de la production de connaissances, qu'il convient de garder à l'esprit dans le contexte des futurs efforts et inventions humains. 

Avec l'intégration de l'IA, le processus de collecte des connaissances deviendra inévitablement plus complexe. Par conséquent, il est essentiel de préserver la richesse et la diversité des informations dans ce monde numérique.

Ce débat, suscité par la recherche, soulève des questions cruciales pour la communauté ; au cœur des discussions se trouve notre conception du rôle de l’IA dans notre société. Face aux difficultés d’intégration de l’IA dans nos vies, les inquiétudes de Peterson concernant l’effondrement des connaissances nous incitent à réfléchir aux mesures à prendre pour éviter que l’IA ne diminue le savoir humain au lieu de l’accroître. 

Maintenir un éventail d'idées riche et dynamique dans la compétition pour la production de connaissances humaines face aux développements rapides dans le domaine de la curation des connaissances par l'IA constitue le problème le plus difficile pour l'avenir de notre société en tant qu'espèce qui se transforme continuellement.

Source de l'article :https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse