Vitalik avverte che l'IA deve potenziare l'umanità, non disabilitarla

Il co-fondatore di Ethereum Vitalik Buterin ha esortato a uno sviluppo attento dell'intelligenza artificiale (IA), dicendo che dovrebbe aiutare l'umanità a diventare più forte, non creare sistemi che potrebbero sottrarre il controllo alle persone.

Buterin ha scritto sulla direzione futura che l'intelligenza artificiale sta prendendo. In una serie di post, il co-fondatore di Ethereum ha chiarito che l'IA dovrebbe potenziare l'umanità – non disabilitarla.

L'IA dovrebbe aiutare gli esseri umani, non prendere il controllo

Ha avvertito che "sistemi di IA mal progettati potrebbero produrre qualcosa che è più o meno un'entità non controllabile e auto-riproduttiva."

L'IA fatta male sta creando nuove forme di vita intelligente auto-riproduttiva indipendente, ha scritto Buterin. "L'IA fatta bene è una tuta mecha per la mente umana. Se facciamo il primo caso senza il secondo, rischiamo un disempowerment umano permanente. Se facciamo il secondo, una civiltà umana superintelligente in fiore."

Crede che l'IA dovrebbe aumentare il pensiero umano, la creatività e così via, un po' come una "tuta mecha" che potenzia la forza dell'utente. Questo è in contrasto con i pericoli dei sistemi di IA autonomi senza supervisione umana, secondo lui, che potrebbero alla fine portare a una perdita di controllo sulla tecnologia che creiamo.

Buterin suggerisce inoltre che dovrebbe esserci l'uso del "giudizio umano distillato" come mezzo collettivo di miglioramento nel processo decisionale. Lo descrive ulteriormente come la creazione di sistemi che potrebbero imitare i processi decisionali umani di alta qualità ma eseguire in modo più efficiente degli esseri umani.

Così, gli esseri umani potrebbero mantenere il controllo con i benefici ricavati dalle capacità dell'IA.

L'ultimo può essere fatto a livello collettivo attraverso il giudizio umano distillato, ha spiegato; l'intelligenza umana collettiva può fornire guida per aiutare l'IA ad amplificare, piuttosto che sostituire, le capacità umane.

I rischi dei sistemi di IA non controllati

Buterin continua a chiarire che gli strumenti di IA emergenti – come questo software di generazione video in tempo reale – hanno un esempio di sistema di IA che effettivamente potenzia, mentre il "modo del 'sistema passivo' come, ad esempio, il modello text-to-image, in cui le influenze dell'utente sono molto minime."

Prompt e attendi non funziona in quel modo, mira e regola su una base costante in tempo reale," aggiunge, suggerendo una dinamica più intima e abilitante tra esseri umani e IA.

Poi ha parlato di agenti IA: i programmi che eseguiranno compiti senza input umano. Ha spiegato due tipi: uno che fa pianificazione a lungo termine e complessa, e l'altro strumento IA più semplice come un chatbot, che sostituisce le GUI. Quest'ultimo, ha detto, "Il chatbot sostituisce le GUI come interfaccia per tutto. L'ultimo è fantastico!"

In definitiva, Buterin sostiene per uno sviluppo responsabile dell'IA per potenziare l'umanità. Non è favorevole a una spinta incontrollata e sfrenata verso sistemi autonomi e vede invece strumenti che servono ad aumentare le capacità umane. "Se fatto bene," pensa, "l'IA può portare a una civiltà superintelligente in fiore."