Vitalik Buterin sostiene sistemi di IA guidati dall'uomo per preservare i valori e prevenire la centralizzazione del potere

Il co-fondatore di Ether Vitalik Buterin ha presentato quello che chiama un piano audace per un'intelligenza artificiale (IA) controllata dall'uomo, sottolineando che tale evento è necessario per evitare un futuro distopico in cui il potere è centralizzato e la sopravvivenza dell'umanità è in gioco o irrecuperabile.

Il co-fondatore vede le capacità dell'IA diversamente. Credere che l'IA possa essere più potente degli esseri umani e, quindi, propellerà l'evoluzione e porterà alle migliori pratiche di innovazione in diversi settori.

Ma Buterin teme ancora che se le IA diventano troppo autonome, potrebbero iniziare a generare seri conflitti con gli interessi umani. Come forza rilasciata accidentalmente, l'intelligenza artificiale potrebbe fare balzi veloci che potrebbero porre fine alla vita umana.

L'intelligenza artificiale si sta sviluppando così rapidamente ora e sta creando i propri obiettivi. Facendo ciò, potrebbe creare una società che spaventa alcuni ma funziona bene per altri. Nella storia dell'evoluzione, questo modello è familiare e spesso tragico.

Per quanto lontano possa sembrare nei dibattiti legislativi attuali, questo futuro è reso plausibile da sondaggi che offrono una probabilità non trascurabile di rischio esistenziale dalle IA. Questi risultati sottolineano che è fondamentale stabilire strutture che possano guidare lo sviluppo dell'IA in modo sensato.

L'IA potenzia l'umanità nel raggiungere grandi imprese intellettuali

Buterin vede l'IA come uno strumento in grado di potenziare i singoli esseri umani e di compiere grandi imprese intellettuali e pratiche. Un tale approccio aiuta ad approfondire la collaborazione tra IA e umani e considera la tecnologia come un'estensione dell'agenzia umana.

In questo contesto, le interfacce cervello-computer (BCI) sono diventate un approccio con potenziali benefici. Le BCI forniscono uno stack di comunicazione neurale diretta tra esseri umani e intelligenza artificiale, riducendo l'attesa tra gli scambi umani e dell'IA da secondi a millisecondi.

Questi progressi potrebbero garantire che le decisioni umane rimangano sotto controllo, che la tecnologia serva le persone in modi significativi e che i sistemi automatizzati non operino mai oltre l'autorità umana. Questa separazione viene rafforzata dalle BCI, che salvaguarderanno l'autonomia man mano che i sistemi intelligenti diventano sempre più integrati con la cognizione umana.

Buterin sottolinea inoltre la presenza di un cruciale "giudizio umano distillato" riguardo ai sistemi di IA nel processo decisionale. Si tratta dell'idea di orientare il comportamento dell'IA attivando la saggezza della folla e fornendo possibili input morali che potrebbero guidare il comportamento delle macchine. È inoltre fondamentale che gli sviluppatori inseriscano il giudizio umano nei sistemi di IA in modo che le tecnologie riflettano più da vicino le norme e le aspettative sociali.

Decentralizzazione dell'IA per tutelarsi contro la concentrazione di potere

L'argomento di Buterin si basa anche sulla decentralizzazione dello sviluppo e del controllo dell'IA. Egli mette in guardia da situazioni in cui le tecnologie IA diventano il monopolio di pochi grandi attori che finiscono per controllare l'estrema concentrazione di potere. Di conseguenza, il potere di plasmare lo sviluppo dell'IA potrebbe efficacemente risiedere nelle mani di poche persone, potenzialmente a scapito della società nel suo complesso.

Blockchain e le prove a conoscenza zero sono esempi di tecnologie abilitanti che aiutano a rendere la decentralizzazione una realtà, il che potrebbe essere un approccio per uno sviluppo dell'IA più equo tra le comunità.

Questo democratizza la ricerca sull'IA, limita l'accumulo di potere e garantisce che l'IA sia un bene collettivo, non specifico.

Buterin afferma specificamente che l'accelerazionismo decentralizzato è lo sviluppo rapido di tecnologie per difendere l'autonomia individuale dal controllo centralizzato. Si concentra sull'aumento delle capacità difensive per recuperare il potenziale dominio di una forte sistemi IA. In questo modo, lo sviluppo di tecnologie protettive dovrebbe precedere una società allineata.

Con la sua vasta portata e la sua tendenza universale al pensiero basato sulle soluzioni, Buterin individua la necessità di un potenziale correzione di rotta nella traiettoria della tecnologia. Ora, invita tutte le parti interessate, dai ricercatori e dai responsabili politici al pubblico generale, a lavorare insieme in modo proattivo per plasmare la traiettoria dell'IA.

Riferendosi alla regolamentazione e alla governance dello sviluppo tecnologico, il cuore di queste priorità è la necessità di linee guida etiche e quadri normativi per l'IA.