Il co-fondatore di OpenAI avverte che l'AI superintelligente sarà 'imprevedibile'

Il co-fondatore di OpenAI, Ilya Sutskever, ha offerto approfondimenti sul futuro dell'intelligenza artificiale durante la recente conferenza annuale sull'AI. Ha parlato del potenziale trasformativo dell'AI di diventare "imprevedibile", evidenziando al contempo le sue sfide e implicazioni.

Sutskever, parlando alla conferenza NeurIPS venerdì, ha esplorato il concetto di "AI superintelligente", che ha definito come sistemi che superano le capacità umane in una vasta gamma di attività. 

Il co-fondatore di OpenAI, Ilya Sutskever, crede che l'AI superintelligente sarà 'imprevedibile' https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) Dicembre 14, 2024

Ha previsto che tali sistemi sarebbero qualitativamente diversi dall'AI di oggi e, in alcuni aspetti, irriconoscibili. Secondo Sutskever, questi sistemi avanzati possiederanno autoconsapevolezza, un livello di ragionamento e la capacità di comprendere scenari complessi a partire da dati limitati. 

“I sistemi [superintelligenti] saranno effettivamente agentic in modo reale," ha detto, contrapponendoli all'AI attuale, che ha descritto come solo "molto leggermente agentic."

Sutskever: I modelli AI attuali sono limitati

Ricevendo un premio "Test of Time" alla conferenza, Sutskever ha riconosciuto le limitazioni dei modelli di pre-addestramento come quelli utilizzati in ChatGPT di OpenAI. Sebbene i sistemi attuali dimostrino capacità notevoli, ha avvertito che la natura finita dei dati internet sta diventando un collo di bottiglia. 

Intervista completa @ilyasut su Pre-training is dead e altro pic.twitter.com/PigZVvcEGB

— Diego | AI 🚀 – e/acc (@diegocabezas01) 14 dicembre 2024

Sutskever ha proposto approcci alternativi, inclusi sistemi AI che generano i propri dati o perfezionano le loro risposte per migliorare l'accuratezza. Queste innovazioni, ha suggerito, potrebbero aiutare a superare le limitazioni esistenti.

Il co-fondatore di OpenAI ha anche toccato le implicazioni etiche dell'AI superintelligente, incluso il potenziale per tali sistemi di richiedere diritti. "Non è un cattivo risultato finale se hai AI e tutto ciò che vogliono è coesistere con noi e semplicemente avere diritti,” ha osservato. 

Tuttavia, ha sottolineato l'intrinseca imprevedibilità dell'AI agentic e autoconsapevole, presentando sia opportunità che sfide per sviluppatori e regolatori.

Il CEO di OpenAI, Altman, prevede disruption e l'avvento dell'AGI

All'inizio di questo mese, il CEO di OpenAI Sam Altman ha condiviso opinioni simili a quelle di Sutskever riguardo al soffitto delle prestazioni dell'AI superintelligente. Parlando al DealBook Summit del New York City a New York, Altman ha delineato la sua visione per l'intelligenza artificiale generale (AGI). Ha previsto che l'AGI, sistemi AI in grado di eseguire compiti complessi con ragionamento simile a quello umano, potrebbe diventare una realtà già nel 2025. 

“Penso che sia possibile… nel 2025 avremo sistemi che guarderemo… e le persone diranno: 'Wow, questo cambia ciò che mi aspettavo,'" ha detto Altman.

Altman ha confrontato il potenziale impatto dell'AI sull'invenzione del transistor, che ha rivoluzionato industrie ed economie in tutto il mondo. Ha descritto un futuro in cui questo sarà "sorprendentemente capace." 

“I modelli AI diventano ampiamente disponibili e vengono utilizzati in vari settori per diverse applicazioni. "L'AI stessa, il motore di ragionamento, diventerà una commodity" ha opinato Altman, suggerendo che la sua integrazione nella vita quotidiana sarà tanto trasformativa quanto i precedenti progressi tecnologici.

Durante la sua apparizione, Altman ha evidenziato l'adozione diffusa di ChatGPT, rivelando che lo strumento AI ora ha più di 300 milioni di utenti settimanali. Ha riconosciuto i dibattiti in corso sulla sua sicurezza ma ha mantenuto che l'approccio di sviluppo e distribuzione iterativo è stato cruciale. 

“Ci sono sicuramente persone che pensano che ChatGPT non sia sufficientemente sicuro," ha detto ma ha notato che OpenAI crede che l'adozione precoce, quando le poste in gioco sono più basse, sia vitale per un miglioramento graduale.

L'enfasi di Altman sulla sicurezza ha fatto eco alle preoccupazioni del settore sullo sviluppo responsabile dell'AI. Ha riconosciuto che, sebbene ChatGPT sia "ora generalmente considerato dalla maggior parte della società come sufficientemente sicuro e sufficientemente robusto", il perfezionamento continuo e la supervisione rimangono priorità.

Riflessioni sulla leadership e sull'evoluzione di OpenAI

Il percorso di leadership di Altman ha svolto un ruolo fondamentale nel plasmare la traiettoria di OpenAI. Co-fondando l'organizzazione nel 2015 come laboratorio di ricerca no-profit, mirava a far avanzare le tecnologie AI a beneficio dell'umanità. Prima di unirsi a tempo pieno a OpenAI nel 2019, Altman ha ricoperto la carica di presidente di Y Combinator, un importante acceleratore di startup, dal 2014 al 2019.

OpenAI è passata dalle sue origini no-profit a un modello di profitto limitato per garantire i finanziamenti necessari per progetti AI su larga scala. Sotto la leadership di Altman, l'azienda ha lanciato ChatGPT e DALL-E, che hanno ridefinito il panorama AI. 

Tuttavia, il percorso non è stato privo di sfide. Nel novembre 2023, Altman è stato brevemente licenziato dal suo ruolo dal consiglio di amministrazione di OpenAI per preoccupazioni relative alla sua comunicazione con i membri del consiglio. La disputa, che si è svolta pubblicamente, si è conclusa con il reinsediamento di Altman meno di una settimana dopo, poiché il consiglio ha affermato di essere ora in "buoni termini" con il CEO.