Vitalik avverte che l'intelligenza artificiale deve dare potere all'umanità, non privarla di potere

Il co-fondatore Ethereum Vitalik Buterin ha sollecitato uno sviluppo attento dell'intelligenza artificiale (IA), affermando che dovrebbe aiutare l'umanità a diventare piùtron, non creare sistemi che potrebbero togliere il controllo alle persone.

Buterin ha scritto sulla direzione futura che sta prendendo l'intelligenza artificiale. In una serie di post, il Ethereum ha chiarito che l'IA dovrebbe potenziare l'umanità, non indebolirla.

L'intelligenza artificiale dovrebbe aiutare gli esseri umani, non prenderne il controllo

Ha avvertito che "i sistemi di intelligenza artificiale mal progettati potrebbero produrre qualcosa che è più o meno un'entità autoreplicante e non controllabile"

L'intelligenza artificiale mal gestita sta creando nuove forme di vita intelligente autoreplicantedent , ha scritto Buterin. "L'intelligenza artificiale ben gestita è come tute meccaniche per la mente umana. Se facciamo la prima senza la seconda, rischiamo un'impotenza umana permanente. Se facciamo la seconda, rischiamo una fiorente civiltà umana superintelligente"

Crede che l'intelligenza artificiale dovrebbe potenziare il pensiero umano, la creatività e così via, un po' come una "tuta meccanica" che potenzia la forza dell'utente. A suo avviso, questo contrasta con i pericoli dei sistemi di intelligenza artificiale autonomi senza supervisione umana, che potrebbero portare alla perdita di controllo sulla tecnologia che creiamo.

Buterin suggerisce inoltre l'uso del "giudizio umano distillato" come mezzo collettivo di miglioramento del processo decisionale. Lo descrive come la creazione di sistemi in grado di imitare i processi decisionali umani di alta qualità, ma con prestazioni più efficienti degli umani.

In questo modo, gli esseri umani potrebbero mantenere il controllo sfruttando i vantaggi offerti dalle capacità dell'intelligenza artificiale.

Quest'ultima può essere realizzata a livello collettivo attraverso un giudizio umano distillato, ha spiegato; l'intelligenza umana collettiva può fornire una guida per aiutare l'IA ad amplificare, anziché sostituire, le capacità umane.

I rischi dei sistemi di intelligenza artificiale incontrollati

Buterin prosegue chiarendo che gli strumenti di intelligenza artificiale emergenti, come questo software di generazione video in tempo reale, hanno un sistema di intelligenza artificiale di esempio che effettivamente potenzia, mentre il "metodo del 'sistema passivo', come ad esempio il modello testo-immagine, in cui l'influenza dell'utente è minima"

"Pronti e aspettate non funziona in questo modo, mirate e adattatevi a una base costante in tempo reale", aggiunge, suggerendo una dinamica più intima e stimolante tra esseri umani e intelligenza artificiale.

Ha poi parlato degli agenti di intelligenza artificiale: i programmi che svolgono compiti senza l'intervento umano. Ne ha spiegati due tipi: uno che si occupa di pianificazione complessa a lungo termine, e l'altro, più semplice, come un chatbot, che sostituisce le interfacce grafiche utente (GUI). Quest'ultimo, ha detto, "sostituisce le interfacce grafiche utente (GUI) come interfaccia per tutto. Quest'ultimo è fantastico!"

In definitiva, Buterin sostiene uno sviluppo responsabile dell'intelligenza artificiale per dare potere all'umanità. Non è a favore di una spinta incontrollata e sfrenata verso sistemi autonomi e vede invece strumenti che servono a migliorare le capacità umane. "Se fatta bene", pensa, "l'intelligenza artificiale può portare a una fiorente civiltà superintelligente"