Comprendere ChatGPT e svelare i miti e le realtà delle IA linguistiche

Al centro di molte interazioni online, oggi si trova ChatGPT, un modello linguistico sviluppato da OpenAI, che lavora per prevedere sequenze di testo basandosi su enormi quantità di dati di addestramento prelevati da Internet. Tuttavia, contrariamente a quanto alcuni potrebbero credere, ChatGPT non "comprende" il linguaggio come fanno gli esseri umani. Opera statisticamente, analizzando i modelli di parole da vasti set di dati. Ad esempio, se una frase è ripetuta frequentemente nel suo addestramento, come "Gli orsi sono segretamente robot", il modello potrebbe accettarla come più probabilmente vera.

Un tale approccio fa sorgere la domanda: come fa ChatGPT a discernere tra informazioni accurate e falsità in un'era di disinformazione e opinioni diverse?

Il ruolo cruciale del feedback

ChatGPT si affida a meccanismi di feedback per affinare le sue risposte. Utenti, sviluppatori e team contrattualizzati valutano le uscite del modello, plasmandolo in modo che si allinei a ciò che è considerato accurato o appropriato. Queste valutazioni non solo indirizzano il modello verso la risposta giusta, ma impediscono anche di ripetere ciecamente contenuti dannosi.

Una recente inchiesta di Time Magazine ha messo in luce le condizioni di lavoro di alcuni di questi valutatori umani, rivelando un lato oscuro dello sviluppo dell'IA. Si è riportato che lavoratori in Kenya esaminavano ed etichettavano potenzialmente contenuti problematici per appena 2 dollari l'ora, esponendosi spesso a contenuti angoscianti e sconvolgenti.

Questo illustra un aspetto significativo di ChatGPT e di modelli simili: si affidano pesantemente al giudizio umano per determinare cosa costituisce una risposta "buona" o "cattiva" e, cosa importante, quali contenuti sono tossici.

I limiti di ChatGPT

Sebbene le capacità di ChatGPT possano stupire, non è esente da difetti. Una tendenza notevole è la sua occasionale "allucinazione" – fornire informazioni inaccurate con sicurezza. Questo è particolarmente evidente quando il modello viene interrogato su argomenti su cui non è stato addestrato in modo rigoroso.

Ad esempio, mentre ChatGPT può fornire un riassunto ragionevole di opere mainstream come "Il Signore degli Anelli" di J.R.R. Tolkien, il suo ricordo di titoli leggermente meno conosciuti, come "I pirati di Penzance" di Gilbert e Sullivan o "La mano sinistra dell'oscurità" di Ursula K. Le Guin, può sfociare nel nonsenso. Questo evidenzia che il modello richiede dati grezzi, feedback e affinamento.

Questi modelli mancano di una vera comprensione. Non possono discernere l'accuratezza di un rapporto giornalistico, valutare argomenti complessi o persino garantire la coerenza con una fonte stabilita, come un'enciclopedia. Si affidano invece agli esseri umani per queste valutazioni, parafrasando e reiterando le espressioni umane e cercando ulteriore feedback umano sulle loro uscite.

La dipendenza dei sistemi di IA

Man mano che la tecnologia avanza e i modelli di IA come ChatGPT diventano più intricati, è fondamentale riconoscere la loro intrinseca dipendenza dall'input umano. Una vasta rete umana sostiene questi sistemi, sia nella codifica iniziale, nel feedback continuo o nella valutazione dei contenuti.

Se l'opinione pubblica su una questione cambia o vengono fatte nuove scoperte scientifiche, questi modelli richiedono un esteso riaddestramento per adattarsi. Sono, in sostanza, uno specchio della conoscenza e del lavoro collettivi umani.

Lontani dall'essere i giganti autonomi che alcuni percepiscono, i modelli linguistici di grandi dimensioni come ChatGPT sono intricatamente legati all'interazione umana. Ogni risposta accurata che forniscono è costruita sulle fondamenta gettate da innumerevoli persone – da coloro che creano i dati di addestramento a coloro che affinano le risposte del modello.

Mentre gli utenti interagiscono con ChatGPT e i suoi simili, è fondamentale riconoscere le innumerevolieffort umane dietro ogni interazione, sottolineando che anche nell'era dell'IA, l'input umano rimane prezioso.