La investigación destaca la amenaza del colapso del conocimiento debido al enfoque de la IA

Andrew J. Peterson, investigador de la Universidad de Poitiers, publicó recientemente un estudio que ha generado revuelo en varias plataformas, incluidas Hacker News y Reddit. 

Peter argumenta que este “colapso del conocimiento” podría deberse a nuestra creciente dependencia de los sistemas de IA, entre ellos, los modelos de lenguaje y las bases de conocimiento, que satisfacen nuestras necesidades de información. De ello se deduce que las IA pueden ayudar a las personas a acceder a un conocimiento más convencional, mientras que existe el riesgo de que las ideas, únicas y divergentes, esenciales para el desarrollo, sean descuidadas y olvidadas.

Comprender el colapso del conocimiento

A medida que el conocimiento se vuelve cada vez más comprimido y las personas experimentan continuamente un ancho de banda de información cada vez más estrecho mientras que al mismo tiempo perciben menos valor en el uso de un conjunto diverso de información, Peterson presenta el colapso cognitivo como una progresión. 

Este fenómeno, sin embargo, no sólo es un obstáculo para las ideas innovadoras que dan un gran salto hacia adelante, sino que también es peligroso para la condición misma que es decisiva para el descubrimiento de avances en todos los campos: la diversidad del pensamiento humano.

El artículo de investigación explica cómo los sistemas de IA, si prestan atención al flujo de datos que son de lectura obligada y a los números muy populares, pueden generar una situación en la que el conocimiento no convencional (el alimento adecuado en el que se basan la creatividad y la innovación) queda fuera. 

Peterson no duda en advertirnos que si dependemos cada vez más de estas tecnologías de IA para seleccionar nuestro conocimiento, nos veremos atrapados en un “coro de conformistas” que nos quedará solo con un rango restringido de comprensión e imaginación.

Navegando el sesgo de la IA hacia el conocimiento 

En el mismo intento por descubrir las verdaderas razones del colapso del conocimiento, ideó un modelomaticsimple que muestra la acumulación de conocimiento cuando se utiliza la IA. Las implicaciones de su investigación muestran que el mecanismo de la IA, aunque mínimamente favorable al conocimiento general, afecta significativamente la distribución pública del conocimiento y exacerba la marginación del área de conocimiento marginal. 

Además, el modelo propone que este fenómeno está extremadamente ligado a la interdependencia de sistemas autónomos recursivos, donde un mero sesgo inculcado o un error que predispone a una IA a la convencionalidad sirve como plantilla para la siguiente iteración.

En el modelo de Peterson, el incentivo para asumir personalmente el conocimiento académico de vanguardia es de inmenso valor. El artículo afirma que estos incentivos serían nuestra única defensa ante una situación en la que las presiones económicas y sociales generarían patrones de pensamiento uniformes y cerrarían las puertas a la diversidad de ideas, necesaria para el surgimiento de ideas innovadoras.

Equilibrar el alcance de la IA para lograr una escala suficiente de conocimiento

La idea de la lluvia de ideas sobre el conocimiento también se describe, por un lado, como una posible devastación, pero por otro lado, el ensayo explora las formas de prevenir este impacto negativo. 

Según Peterson, una de las cuestiones clave es aunar los esfuerzos de las entidades sociales y oficiales en lugar de dejar que cada individuo se encargue de todo por sí solo. Por ejemplo, el diseño de los sistemas de IA tiene la capacidad de desviarse de la misión asignada, incluyendo los aspectos específicos y poco comunes, y el objetivo es mantener todo el espectro del conocimiento humano no solo accesible, sino también valorado.

Además, al referirse al hecho de que el papel de las bases de conocimiento descentralizadas y abiertas como alternativa a la influencia cada vez menor de la IA en este sentido también sedentcomo una posible solución, plataformas como Wikidata, arXiv o IPFS podrían funcionar como protectores contra la pérdida de conocimiento marginal y, por lo tanto, los avances del big data siempre serán tan emocionantes y fáciles de descubrir como cualquier nueva frontera en la humanidad.

Llamado a un conocimiento diverso para sustentar el conocimiento humano

El artículo de Peterson funciona como un testimonio elocuente del valor del pensamiento heterogéneo y de la generación de conocimiento, que es necesario tener en cuenta en el contexto de los futuros esfuerzos e invenciones humanos. 

Con la integración de la IA, el proceso de recopilación de conocimiento se volverá inevitablemente más complejo. Por lo tanto, mantener una información rica y variada en este mundo digital se vuelve una necesidad.

Este debate, impulsado por la investigación, plantea cuestiones cruciales para la comunidad; el elemento central de la discusión es nuestra concepción del papel de la IA en nuestra sociedad. Ante las dificultades que supone la integración de la IA en nuestras vidas, las preocupaciones de Peterson sobre el colapso del conocimiento nos hacen reflexionar sobre qué debemos hacer para evitar que la IA reduzca el conocimiento humano en lugar de aumentarlo. 

Mantener un conjunto de ideas bien organizado y dinámico en la competencia por la generación de conocimiento humano frente a los rápidos avances en el campo de la curación del conocimiento de la IA es el problema más difícil para el futuro de nuestra sociedad como especie que continuamente Osborn.

Noticias procedentes de:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse