Aprire il codice dei modelli linguistici di grandi dimensioni (LLM) è un buon modo per favorire l'innovazione?

Riepilogo TL;DR

• Geoffrey Hinton, il padrino dell'IA, esprime preoccupazioni riguardo al codice dei modelli di IA open-source, avvisando di un aumento dei rischi e di un possibile uso improprio.
• Hinton suggerisce uno sviluppo controllato guidato dalle grandi aziende per garantire un uso responsabile dell'IA.
• I sostenitori degli LLM open-source sostengono che le restrizioni limitano la creatività e l'innovazione.

Geoffrey Hinton, una figura di spicco nel campo dell'intelligenza artificiale (IA) e spesso definito il "padrino dell'IA", ha espresso preoccupazioni riguardo ai potenziali rischi associati all'apertura del codice dietro i modelli di IA, in particolare i modelli linguistici di grandi dimensioni (LLM). Hinton, noto per i suoi contributi rivoluzionari alle reti neurali, ritiene che rendere tale codice liberamente disponibile online potrebbe avere effetti dannosi e aumentare i pericoli associati all'IA.

La posizione di Hinton deriva dalla sua convinzione che la tecnologia alla base dell'IA, in particolare gli LLM, abbia il potenziale per essere utilizzata in modo improprio e sfruttata se cade nelle mani sbagliate. I modelli linguistici di grandi dimensioni, come il GPT-3 di OpenAI, sono progettati per generare testo simile a quello umano e possiedono una capacità immensa di apprendere da enormi quantità di dati. Hanno dimostrato capacità impressionanti in varie applicazioni, tra cui la traduzione linguistica, la generazione di contenuti e persino il completamento automatico del codice.

Il lato oscuro degli LLM

Geoffrey Hinton ha recentemente espresso le sue preoccupazioni riguardo al movimento open-source che circonda i modelli linguistici di grandi dimensioni (LLM) e alle loro potenziali sfide. Essendo recentemente uscito dalla sua posizione presso Google per esprimere liberamente le sue opinioni sullo sviluppo dell'IA, Hinton ritiene che confinare gli LLM nei laboratori di aziende come OpenAI potrebbe rivelarsi benefico. Suggerisce che un approccio allo sviluppo controllato, con poche grandi aziende di diversi paesi che prendono la guida, permetterebbe lo sviluppo simultaneo della tecnologia e l'istituzione di metodi per garantirne l'uso responsabile. 

Hinton ha sottolineato che l'IA open-source aumenta il rischio di consentire a individui con intenti maliziosi di utilizzare la tecnologia in modi dannosi e imprevedibili.

Hinton crede anche che il punto in cui l'IA superintelligente supererà l'intelligenza umana non sia troppo lontano, menzionando di vedere segni di intelligenza in modelli come GPT-4. Ha rivisto la sua stima precedente di 50-100 anni, considerando ora più probabile che ciò accada nei prossimi cinque o venti anni.

Come gli LLM open-source alimentano il successo aziendale

I modelli linguistici di grandi dimensioni (LLM) open-source sono diventati sempre più abbondanti online, offrendo accesso a potenti capacità di IA. Parallelamente a questa tendenza, i fornitori di software stanno capitalizzando sulla crescente domanda delle aziende di LLM personalizzabili e installabili che possono essere addestrati su dati proprietari. Un rilascio notevole in questo settore è stato Dolly 2.0 di Databricks, acclamato come il primo LLM open-source che segue le istruzioni, progettato esplicitamente per l'uso commerciale. Con funzionalità simili a ChatGPT, Dolly 2.0 consente alle organizzazioni di eseguire il modello sulla propria infrastruttura, consentendo un maggiore controllo e flessibilità.

Mitigare i pericoli dell'IA: l'iniziativa di allerta precoce di DeepMind

DeepMind, il laboratorio di IA sotto l'ex datore di lavoro di Hinton, Google, ha annunciato lo sviluppo di un sistema di allerta precoce progettato per identificare i potenziali rischi associati all'IA. Questo sistema mira ad affrontare le preoccupazioni sollevate da Hinton e a migliorare la capacità di rilevare e mitigare eventuali pericoli derivanti dalle tecnologie di IA. L'iniziativa dimostra gli sforzi continui all'interno dell'industria per gestire proattivamente i rischi e garantire uno sviluppo e un'implementazione responsabili dell'IA.

La posizione dei sostenitori degli LLM open-source

I sostenitori degli LLM open-source sostengono che abbiano il potenziale per democratizzare l'accesso a sistemi di IA come ChatGPT, favorendo l'innovazione riducendo le barriere all'ingresso per la sperimentazione. Credono che rendendo queste tecnologie apertamente disponibili, una comunità più ampia di individui possa contribuire ai progressi nel campo. C'è un numero significativo di persone entusiaste desiderose di esplorare e innovare con l'IA, e i sostenitori dei modelli open-source lo vedono come cruciale per empowerment di questi individui e per sfruttare il loro potenziale collettivo.