La investigación destaca la amenaza del colapso del conocimiento debido al enfoque de la IA

Andrew J. Peterson, investigador de la Universidad de Poitiers, publicó recientemente un estudio que ha creado revuelo en varias plataformas, incluido Hacker News y Reddit. 

Peter argumenta que este "colapso del conocimiento" podría ocurrir debido a nuestra dependencia creciente y continua en los sistemas de IA, entre ellos, modelos de lenguaje y bases de conocimiento, que satisfacen nuestras necesidades de información. En consecuencia, las IA computarizadas pueden ayudar a las personas a obtener sabiduría convencional más fácilmente, pero existe el riesgo de que las ideas, únicas y divergentes, esenciales para el desarrollo, sean negligidas y olvidadas.

Comprendiendo el colapso del conocimiento

A medida que el conocimiento se comprime cada vez más y las personas experimentan continuamente un ancho de banda de información cada vez más estrecho mientras perciben simultáneamente menos valor en el uso de diversas fuentes de información, Peterson introduce el colapso cognitivo como una progresión. 

Este fenómeno, sin embargo, no solo obstaculiza las ideas innovadoras que impulsan grandes avances, sino que también representa un peligro para la condición fundamental para lograr avances en todos los campos: la diversidad del pensamiento humano.

El artículo de investigación explica cómo los sistemas de IA, si prestan atención únicamente a los flujos de datos más populares y ampliamente consumidos, pueden provocar que se excluya el conocimiento no convencional, que es el alimento esencial para la creatividad y la innovación. 

Peterson no duda en advertirnos que, si dependemos cada vez más de estas tecnologías de IA para seleccionar nuestro conocimiento, terminaremos atrapados en un "coro de conformistas", con un rango limitado de comprensión e imaginación.

Navegando el sesgo de la IA hacia el conocimiento 

En el mismo intento de descubrir las causas reales de un colapso del conocimiento, desarrolló un modelo matemático simple que muestra la acumulación de conocimiento cuando se utiliza la IA. Las implicaciones de su investigación indican que el mecanismo de la IA favorece ligeramente el conocimiento mainstream, lo que afecta significativamente la distribución pública del conocimiento y exacerba la marginación de las áreas de conocimiento periféricas. 

Además, el modelo propone que este fenómeno se ve acelerado por la interdependencia de sistemas autónomos recursivos, donde un sesgo o error que predispone a la IA hacia la convención sirve como plantilla para la siguiente iteración.

En el modelo de Peterson, la motivación en el proceso de adquirir conocimientos académicos de vanguardia es de inmenso valor. El artículo señala que estos incentivos serían nuestro único defensor frente a una situación en la que las presiones económicas y sociales resultarían en la uniformidad de los patrones de pensamiento y cerrarían las puertas a la variedad de ideas, necesarias para que surjan ideas innovadoras.

Equilibrar el alcance de la IA para lograr una escala de conocimiento suficiente

La idea de la lluvia de ideas sobre el conocimiento también se presenta por un lado como una posible devastación, pero por otro lado, el ensayo explora las formas de prevenir este impacto negativo. 

Según Peterson, uno de los problemas clave es unir los esfuerzos de las entidades sociales y oficiales, en lugar de dejar que los individuos lo hagan todo por su cuenta. Por ejemplo, el diseño de los sistemas de IA tiene la capacidad de desviarse de la misión asignada, incluyendo aspectos nicho e inusuales, y el objetivo es mantener todo el espectro del conocimiento humano no solo accesible, sino valorado.

Además, al hacer referencia al hecho de que el papel de las bases de conocimiento descentralizadas y abiertas como alternativa a la influencia restrictiva de la IA en este sentido también se identifica como una posible solución. Plataformas como Wikidata, arXiv o IPFS podrían funcionar como guardianes contra la pérdida de conocimiento marginal, y así, las colas de los grandes datos siempre serán tan emocionantes y descubribles como cualquier nueva frontera de la humanidad.

Llamamiento a un conocimiento diverso para sostener el conocimiento humano

El artículo de Peterson funciona como un testimonio elocuente del valor del pensamiento heterogéneo y la generación de conocimiento, algo que hay que tener en cuenta en el contexto de los futuros esfuerzos e invenciones de la humanidad. 

Con la integración de la IA, el proceso de recopilación de conocimiento se volverá inevitablemente más intrincado. Por lo tanto, mantener una naturaleza rica y variada de la información en este mundo digital se convierte en una necesidad.

Este debate, desencadenado por la investigación, plantea cuestiones críticas vitales para la comunidad; el elemento central de la discusión es qué creemos que debe ser el papel de la IA en nuestra sociedad. Con las dificultades de la integración de la IA en nuestras vidas, las preocupaciones de Peterson sobre el colapso del conocimiento nos sirven para reflexionar sobre qué debemos hacer para evitar que la posición de la IA disminuya el conocimiento humano en lugar de aumentarlo. 

Mantener un conjunto bien dotado y animado de ideas en la competencia por la generación de conocimiento humano frente a los rápidos desarrollos en el campo de la curaduría de conocimiento por parte de la IA sirve como el problema más difícil para el futuro de nuestra sociedad como especie que continuamente Osborn.

Noticia obtenida de:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse