Il deficit democratico nel processo decisionale sull'IA: chi detiene il potere?

In un mondo sempre più plasmato dall'intelligenza artificiale (IA), molti si chiedono chi abbia deciso di inaugurare questa era di disruption. Hai perso, come molti altri, il promemoria sull'ingresso trionfale dell'IA nelle nostre vite? La verità è che le decisioni cruciali relative allo sviluppo e all'implementazione dell'IA sono state in gran parte orchestrate da un ristretto gruppo di persone, con un contributo minimo da parte del resto di noi. Questa mancanza di partecipazione democratica è fonte di preoccupazione e potrebbe portare a una crescente instabilità.

Lo squilibrio di potere: pochi a governare l'IA

Un manipolo di ricercatori di IA sono gli architetti di questa rivoluzione tecnologica, spinti dalla convinzione che l'IA abbia il potenziale per un progresso umano senza precedenti. Si sono assunti l'onere di spingere i confini delle capacità dell'IA, ma nel farlo hanno riconosciuto apertamente la loro crescente incapacità di controllare la tecnologia e le sue potenziali conseguenze. Questo solleva la domanda: un piccolo gruppo di esperti dovrebbe avere l'autorità di guidare la società lungo un percorso potenzialmente pericoloso?

È come se ci avessero chiesto cosa volevamo per cena e avessimo risposto «thai», per poi trovarci di fronte a una scelta tra pizza con pepperoni e pizza con prosciutto canadese. Questa non è una vera scelta; è una forma di gaslighting democratico. Una democrazia funzionale non dovrebbe permettere a un manipolo di informatici di prendere decisioni che potrebbero influenzare irreversibilmente le generazioni future.

Consultare i giganti della tecnologia: le voci mancanti della democrazia

Oltre a lasciare il destino dell'IA nelle mani di un gruppo selezionato di laboratori di IA, i nostri eletti stanno ora cercando consigli su come regolamentare al meglio questa tecnologia emergente dagli stessi leader tecnologici non rappresentativi e non eletti. Le recenti notizie da Washington, D.C., sono state dominate dal senatore X che consulta il leader tecnologico Y. Assenti in modo eclatante da questi incontri sono i rappresentanti delle comunità, sia straniere che nazionali, che subiranno il peso delle conseguenze dell'IA, siano esse positive, negative o spiacevoli.

È importante notare che una parte significativa della popolazione ritiene che l'IA non avrebbe dovuto essere introdotta su questa scala, o forse non in questo momento. Se condividi questa preoccupazione, potresti lamentarti che è già troppo tardi per cambiare rotta. Ci troviamo nella fase decisionale «pepperoni o prosciutto canadese», in cui la nostra influenza sulla traiettoria dell'IA è al massimo minima. Inoltre, se riuscissimo a fermare il dispiegamento dei modelli di IA, esiste il rischio che altri paesi, come la Cina o altri avversari percepiti, continuino a sviluppare i propri modelli e potenzialmente li utilizzino contro di noi in futuri conflitti.

Tuttavia, le argomentazioni a favore di uno sviluppo dell'IA senza freni sono tutt'altro che convincenti. Molti preferirebbero vivere in un Stati Uniti caratterizzato da comunità forti, lavoro significativo, pensiero critico e fiducia nelle istituzioni sociali, piuttosto che in uno che si limita a guidare il mondo nell'IA. In effetti, la versione precedente degli Stati Uniti ha maggiori probabilità di sopravvivere e competere con successo rispetto a qualsiasi altra nazione che ripone una fede eccessiva nella tecnologia come chiave per il benessere umano.

Per affrontare il deficit democratico nel processo decisionale sull'IA, dobbiamo spostare la narrazione da «Come modelliamo lo sviluppo dell'IA?» a «Quando e in quali condizioni dovremmo consentire usi limitati dell'IA?». Nel frattempo, è ragionevole che i nostri funzionari cerchino indicazioni dagli esperti e dai leader dell'IA. Tuttavia, quando si tratta di determinare come l'IA trasformi la nostra società, il potere dovrebbe risiedere infine nei votanti, non nei CEO delle aziende tecnologiche o in un ristretto gruppo di ricercatori. È tempo di un approccio più inclusivo e democratico per plasmare il nostro futuro guidato dall'IA.