La ricerca evidenzia la minaccia del collasso della conoscenza dovuta al focus dell'IA

Andrew J. Peterson, ricercatore presso l'Università di Poitiers, ha recentemente pubblicato uno studio che ha creato scalpore su varie piattaforme, tra cui Hacker News e Reddit. 

Peter sostiene che questo "collasso della conoscenza" potrebbe derivare dalla nostra continua e crescente dipendenza dai sistemi di IA, tra cui modelli linguistici e basi di conoscenza, che soddisfano le nostre esigenze informative. Ne consegue che le IA computerizzate possono aiutare le persone a ottenere una saggezza convenzionale più tradizionale, mentre esiste il rischio che le idee, uniche e devianti, essenziali per lo sviluppo vengano trascurate e dimenticate.

Comprendere il Collasso della Conoscenza

Man mano che la conoscenza diventa sempre più compressa e le persone sperimentano continuamente una riduzione della larghezza di banda delle informazioni mentre percepiscono contemporaneamente meno valore nell'utilizzo di archivi di informazioni diversificate, Peterson introduce il collasso cognitivo come una progressione. 

Questo fenomeno, tuttavia, non è solo un ostacolo alle idee innovative che fanno un grande balzo in avanti, ma è pericoloso per la stessa condizione cruciale per la scoperta di breakthrough in tutti i campi: la diversità del pensiero umano.

Il documento di ricerca spiega come i sistemi di IA, se dedicano attenzione allo stream di dati che deve essere letto e ai numeri impazzitamente popolari, possono portare alla situazione in cui la conoscenza non convenzionale — il cibo giusto su cui si basa la creatività e su cui dipende l'innovazione — viene lasciata da parte. 

Peterson non esita ad avvertirci che, se dipendiamo sempre di più da queste tecnologie di IA per selezionare le nostre conoscenze, ci ritroveremo intrappolati in un "coro di conformisti", con un raggio di comprensione e immaginazione notevolmente ristretto.

Navigare i pregiudizi dell'IA verso la conoscenza 

Nello stesso tentativo di scoprire le vere cause del collasso della conoscenza, ha elaborato un semplice modello matematico che mostra l'accumulo di conoscenza quando si utilizza l'IA. Le implicazioni della sua ricerca mostrano che il meccanismo dell'IA ha avuto un leggero favore verso la conoscenza mainstream, influenzando significativamente la distribuzione pubblica della conoscenza ed esagerando la marginalizzazione delle aree di conoscenza di nicchia. 

Inoltre, il modello propone che questo fenomeno sia estremamente accelerato dall'interdipendenza dei sistemi autonomi ricorsivi, dove un semplice pregiudimento instillato o un errore che predispone un'IA alla convenzionalità serve da modello per l'iterazione successiva.

Nel modello di Peterson, l'incentivo nel processo di acquisizione della conoscenza accademica di prima mano è di valore immenso. L'articolo afferma che questi incentivi sarebbero la nostra unica difesa da una situazione in cui le pressioni economiche e sociali porterebbero all'omogeneità dei modelli di pensiero, chiudendo le porte alla varietà di idee necessarie affinché nascano idee innovative.

Bilanciare la portata dell'IA per una scala sufficiente di conoscenza

L'idea del brainstorming della conoscenza è descritta da un lato come una possibile devastazione, ma dall'altro l'articolo esplora i modi per prevenire questo impatto negativo. 

Secondo Peterson, una delle questioni chiave è unire gli sforzi delle entità sociali e ufficiali, invece di lasciare che gli individui facciano tutto da soli. Ad esempio, la progettazione dei sistemi di IA ha la capacità di discostarsi dalla missione assegnata, includendo aspetti di nicchia e insoliti, e l'obiettivo è mantenere l'intero spettro della conoscenza umana non solo accessibile, ma anche valorizzato.

Inoltre, facendo riferimento al fatto che il ruolo delle basi di conoscenza decentralizzate e aperte come alternativa all'influenza restrittiva dell'IA è identificato come una possibile soluzione. Piattaforme come Wikidata, arXiv o IPFS potrebbero funzionare come protettori contro la perdita di conoscenza marginale, e così le code dei big data saranno sempre eccitanti e scopribili come qualsiasi nuova frontiera dell'umanità.

Appello per una conoscenza diversificata per sostenere la conoscenza umana

L'articolo di Peterson funge da eloquente testimonianza del valore del pensiero eterogeneo e della generazione di conoscenza, che è necessario tenere a mente nel contesto degli sforzi e delle invenzioni futuri dell'umanità. 

Con l'integrazione dell'IA, il processo di raccolta della conoscenza diventerà inevitabilmente più intricato. Pertanto, mantenere una natura ricca e variegata delle informazioni in questo mondo digitale diventa una necessità.

Questo dibattito, innescato dalla ricerca, solleva questioni critiche vitali per la comunità; l'elemento centrale della discussione è ciò che crediamo sia il ruolo dell'IA nella nostra società. Con le difficoltà dell'integrazione dell'IA nelle nostre vite, le preoccupazioni di Peterson sul collasso della conoscenza ci servono a riflettere su cosa dovremmo fare per evitare che la posizione dell'IA diminuisca la conoscenza umana anziché aumentarla. 

Mantenere un insieme ben fornito e vivace di idee nella competizione per la generazione di conoscenza umana, di fronte ai rapidi sviluppi nel campo della curatela della conoscenza da parte dell'IA, rappresenta il problema più difficile per il futuro della nostra società come specie che continua a evolversi.

Notizia tratta da:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse