Negli ultimi anni, il movimento dell'Altruismo Efficace (EA), nato nella Silicon Valley, ha acquisito una notevole influenza nel plasmare l'approccio di Washington alla politica tecnologica, in particolare per quanto riguarda l'intelligenza artificiale (IA). Questo movimento razionalista, sostenuto da miliardari del settore tecnologico, è nato come un approccio basato sui dati per affrontare la sofferenza umana, ma si è evoluto in una forza influente con una forte attenzione ai rischi esistenziali dell'IA. Mentre alcuni decisori politici abbracciano le preoccupazioni dell'EA, altri rimangono scettici sulla portata di queste minacce.
Le preoccupazioni di EA sull'apocalisse dell'intelligenza artificiale
Una delle caratteristiche distintive dei sostenitori dell'Altruismo defiè la loro apprensione per un'apocalisse dell'IA. Molti sostenitori dell'Altruismo Efficace credonotronche l'umanità sia sul punto di creare un'IA superintelligente che potrebbe potenzialmente superare in astuzia tutti gli sforzi umani per controllarla. Questa IA, temono, potrebbe agire autonomamente o cadere nelle mani sbagliate, portando a conseguenze catastrofiche. Alcuni, tra cui l'eminente pensatore dell'Altruismo Efficace Eliezer Yudkowsky, sostengono che persino un olocausto nucleare sarebbe un esito preferibile rispetto a un futuro di IA incontrollata.
L'invasione di Washington da parte di EA
Gli altruisti efficaci sono arrivati a Washington, DC, in numero significativo, e la loro presenza sta rimodellando il panorama delle politiche tecnologiche della città. Il loro approccio alle politiche sull'intelligenza artificiale differisce sostanzialmente da quello dei tradizionali professionisti della politica nella capitale. Mentre Washington si occupa tipicamente di questioni pratiche come la profilazione razziale, la disinformazione e la disoccupazione, l'Altruismo Efficace porta sul tavolo una prospettiva più trac ed esistenziale .
I membri di Effective Altruism stanno attivamente promuovendo leggi radicali sull'intelligenza artificiale, volte ad allineare lo sviluppo dell'intelligenza artificiale ai valori e agli obiettivi umani. Queste politiche includono nuove regole di reporting per i modelli di intelligenza artificiale avanzati, requisiti di licenza per le aziende di intelligenza artificiale, restrizioni sui modelli di intelligenza artificiale open source e persino una proposta per una "pausa" completa sugli esperimenti di intelligenza artificiale "giganteschi". L'obiettivo generale è prevenire un futuro di intelligenza artificiale che potrebbe potenzialmente minacciare l'umanità.
Uno scontro di culture
I sostenitori dell'Altruismo Efficace spesso si avvicinano a Washington con un fervore simile a quello dei convertiti religiosi, creando uno scontro culturale con la cultura politica incrementale e attenta ai dettagli della città. Mentre i decisori politici di Washington sono abituati ad affrontare questioni pratiche, gli Altruisti Efficaci enfatizzano preoccupazioni esistenzialitrac, distinguendosi per stile e focus.
I critici hanno sollevato preoccupazioni circa la mancanza di diversità tra i sostenitori dell'Altruismo Efficace. Il movimento è composto prevalentemente da individui bianchi, di sesso maschile e provenienti da contesti privilegiati. Questa composizione demografica ha suscitato scetticismo da parte di alcuni legislatori, in particolare quelli provenienti da comunità emarginate, che ritengono che la visione del mondo dell'Altruismo Efficace possa non rispondere adeguatamente alle preoccupazioni relative all'intelligenza artificiale di coloro che rappresentano.
Il denaro che confluisce nell'Altruismo Efficace
Uno dei fattori chiave che determina l'influenza di EA a Washington è il consistente sostegno finanziario che riceve. Open Philanthropy, uno dei principali finanziatori delle cause di EA, fondato da Dustin Moskovitz e Cari Tuna, ha incanalato immense risorse in think tank e programmi, collocando ricercatori di intelligenza artificiale e biosicurezza in posizioni chiave all'interno di agenzie governative e uffici del Congresso.
L'influenza dei miliardari della tecnologia sull'Altruismo Efficace non può essere sopravvalutata. Personaggi di spicco come Elon Musk e Dustin Moskovitz hanno generosamente finanziato cause e organizzazioni legate ad EA, investendo centinaia di milioni di dollari in influenti think tank e programmi che hanno collocato il personale in posizioni chiave a livello governativo. Questo sostegno finanziario ha conferito ad EA un vantaggio significativo nel promuovere le sue politiche.
Un'influenza crescente
Nonostante lo scetticismo e le critiche, l'influenza dell'EA continua a crescere, plasmando il dibattito sulle politiche in materia di IA a Washington. I professionisti politici finanziati dall'EA sono integrati nei principali nodi politici della città, tra cui la Casa Bianca, le agenzie federali e influenti think tank. La loro presenza sta indirizzando le discussioni verso i rischi esistenziali dell'IA, che sono diventati un punto focale del dibattito politico.
Ottimisti dell'intelligenza artificiale: emerge una forza contraria
Mentre l'EA ha guadagnato notevole traca Washington, sta iniziando a emergere una forza contraria. Gli ottimisti dell'IA, spesso definiti "acceleratoristi efficaci", stanno respingendo le proposte volte a rallentare lo sviluppo e il controllo dell'IA. Questi ottimisti, guidati da figure come Marc Andreessen, sono concentrati principalmente nella Silicon Valley e sono determinati a offrire una narrazione alternativa.
Non tutti a Washington accettano prontamente la narrazione apocalittica dell'IA. Alcuni legislatori rimangono scettici sulla probabilità e la gravità dei rischi esistenziali dell'IA. Ritengono che l'attenzione su questi rischi possa distogliere trac attenzione dall'affrontare questioni urgenti come la distorsioni dell'IA, la privacy e la sicurezza informatica.
Mentre le preoccupazioni dell'EA sui rischi esistenziali dell'IA stanno acquisendo sempre più importanza, un coro crescente di decisori politici sta sostenendo un approccio più equilibrato. Sostengono che affrontare le sfide immediate dell'IA, come i pregiudizi e le preoccupazioni sulla privacy, non dovrebbe passare in secondo piano rispetto al timore di un'ipotetica apocalisse dell'IA.
Il crescente impatto dell'EA sulla politica dell'IA
Il movimento Effective Altruism, con la sua attenzione ai rischi esistenziali dell'IA e i suoi influenti sostenitori, ha avuto un impatto significativo sul panorama politico di Washington in materia di IA. La sua presenza e le sue politiche stanno rimodellando il dibattito sulla regolamentazione dell'IA, anche se alcuni decisori politici rimangono cauti sulla gravità delle minacce. Mentre il dibattito politico sull'IA continua a evolversi, trovare un equilibrio tra l'affrontare le preoccupazioni immediate e la considerazione dei rischi esistenziali rimane una sfida centrale per i decisori politici nella capitale.
