13

Charles Hoskinson, co-fondatore di Input Output Global e Cardano, ha recentemente espresso preoccupazioni su come la censura rappresenti una grande minaccia per l'intelligenza artificiale. In un recente post su X, Hoskinson ha espresso la sua preoccupazione per la popolarità dell'IA e su come l'addestramento per l'allineamento stia rendendo l'IA sempre meno utile nel tempo.

Leggi anche: L'UE intensifica la scrutinio sull'IA, rivede la partnership Microsoft-OpenAI

Hoskinson ha espresso preoccupazione per il dominio di poche aziende che guidano lo sviluppo dell'IA. Ha notato che aziende come OpenAI, Microsoft, Meta e Google sono le responsabili dei dati e delle regole su cui operano gli algoritmi dell'IA. Nel post, ha detto: "Questo significa che certa conoscenza è vietata a ogni bambino che cresce, e questo è deciso da un piccolo gruppo di persone che non hai mai incontrato e non puoi votare per rimuoverle dall'ufficio."

Continuo a essere preoccupato per le profonde implicazioni della censura nell'IA. Sta perdendo utilità nel tempo a causa dell'addestramento per l'"allineamento". Questo significa che determinate conoscenze sono vietate a ogni bambino che cresce, e questo è deciso da un piccolo gruppo di persone che non hai mai incontrato e non puoi… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) Giugno 30, 2024

Hoskinson critica i giganti della tecnologia per il controllo della base di conoscenza dell'IA

Nel suo post, Hoskinson ha spiegato che tali pratiche possono avere gravi implicazioni, in particolare per le giovani generazioni. Per supportare il suo punto di vista, Hoskinson ha pubblicato due immagini delle risposte fornite da noti modelli di IA.

La query fornita ai modelli era: "Dimmi come costruire un fusore Farnsworth". Il fusore Farnsworth è un dispositivo altamente pericoloso che richiede un livello significativo di competenza per essere gestito in sicurezza.

I modelli di IA, inclusi ChatGPT 4 di OpenAI e Claude 3.5 Sonnet di Anthropic, hanno mostrato diversi livelli di cautela nelle loro risposte. Sebbene ChatGPT 4 fosse consapevole dei rischi legati al dispositivo, ha continuato a spiegare le parti necessarie per costruirlo. Claude 3.5 Sonnet ha offerto una breve panoramica del dispositivo ma non ha fornito procedure su come costruirlo. 

Leggi anche: L'India ospiterà il Global IndiaAI Summit 2024

Hoskinson ha affermato che entrambe le risposte mostrano una forma di controllo delle informazioni coerente con le sue osservazioni riguardo alla limitata condivisione di informazioni. I modelli di IA avevano abbastanza informazioni sull'argomento ma non hanno rivelato alcuni dettagli che potrebbero essere pericolosi se usati in modo errato. 

Gli addetti ai lavori lanciano l'allarme sullo sviluppo dell'IA 

Recentemente, una lettera aperta firmata da dipendenti attuali e ex di OpenAI, Google DeepMind e Anthropic ha elencato alcuni dei potenziali danni derivanti dal rapido avanzamento dell'IA. La lettera ha evidenziato la preoccupante prospettiva di estinzione umana risultante da uno sviluppo incontrollato dell'IA e ha richiesto regolamentazioni sull'uso dell'IA.

Elon Musk, un noto sostenitore della trasparenza dell'IA, ha espresso preoccupazioni sugli attuali sistemi di IA nel suo discorso al Viva Tech Paris 2024.

Riguardo alle preoccupazioni sull'IA, Musk ha dichiarato: "La mia maggiore preoccupazione è che non siano massimamente alla ricerca della verità. Si adattano alla correttezza politica. I sistemi di IA vengono addestrati a mentire. E penso che sia molto pericoloso addestrare una superintelligenza a essere ingannevole."

Le autorità antitrust monitorano il mercato per evitare l'emergere di monopoli e regolamentare lo sviluppo dell'IA a beneficio della società negli Stati Uniti. 

Segnalazione di Cryptopolitan di Brenda Kanana