Re Carlo avverte di controllare l'IA prima che sviluppi "capacità più oscure" per togliere la vita

Durante un vertice ospitato in Scozia, re Carlo III ha detto ai vertici delle più grandi aziende mondiali di intelligenza artificiale che devono trovare il modo di mantenere la tecnologia sotto il controllo umano. 

Il re avvertì che coloro che l'avevano costruita ora temono che possa sviluppare "capacità più oscure" e persino essere usata per uccidere. 

Cosa ha da dire Re Carlo III sull'intelligenza artificiale? 

Re Carlo III ha tenuto un discorso a Dumfries House, nell'East Ayrshire, in occasione di un incontro organizzato dalla Ditchley Foundation che ha visto la partecipazione di circa 30 dirigenti, funzionari e ricercatori, tra cui il ministro britannico per l'intelligenza artificiale Kanishka Narayan, l'amministratore delegato di Nvidia Jensen Huang, il co-fondatore di DeepMind Demis Hassabis, la responsabile finanziaria di OpenAI Sarah Friar e il responsabile degli affari globali di Anthropic Tino Cuéllar.

Secondo quanto riportato, la lista privata degli invitati visionata da Bloomberg includeva anche nomi come il capo dell'MI6 Blaise Metreweli, lo scrittore Yuval Noah Harari e Xue Lan dell'Università di Tsinghua.

Carlo, 77 anni, ha parlato solo per una ventina di minuti prima di lasciare la stanza per quello che sperava sarebbe stato un colloquio produttivo. Coloro che apprezzano il nucleo morale dell'umanità, ha detto, "cercano con ansia la vostra rassicurazione sul fatto che non perderemo il controllo del nostro destino, né delle nostre anime".

Charles ha definito il ritmo di sviluppo di questa tecnologia "al tempo stesso intrigante e profondamente preoccupante". Ha riconosciuto e lodato i suoi successi in medicina e nelle scienze biologiche, prima di porre una domanda diretta: "Non è forse necessario disporre di mezzi di controllo adeguati prima che sia troppo tardi?"

Nel suo avvertimento, il Re ha fatto riferimento alle preoccupazioni dei creatori della tecnologia IA. Ha anche affermato che questi sistemi rischiano di "sviluppare capacità più oscure, forse persino di togliere la vita". Ha aggiunto che i dirigenti dovrebbero considerare i "pericoli esistenziali" che questi strumenti possano cadere nelle mani sbagliate. 

In precedenza, Carlo aveva inviato un videomessaggio al vertice britannico sulla sicurezza dell'IA del 2023 a Bletchley Park, esprimendo opinioni simili. 

Paolo Benanti, consulente vaticano per l'intelligenza artificiale, era presente al Summit, e Papa Leone XIV ha scritto in un'enciclica di maggio che l'IA non deve rimanere nelle mani "di pochi"

Lo sviluppo dell'intelligenza artificiale rallenterà? 

Hassabis ha detto ai delegati che l'intelligenza artificiale generale, ovvero sistemi in grado di eguagliare o superare gli esseri umani in molti compiti, è "probabilmente a pochi anni di distanza" 

Ha affermato che la tecnologia potrebbe avere un impatto potenziale dieci volte superiore a quello della Rivoluzione Industriale. Le probabilità che qualcosa vada storto, ha aggiunto, sono "sicuramentedefida zero", anche se poi ha precisato che "il futuro non è ancora scritto"

Friar ha affermato che il crescente potere di questa tecnologia solleva interrogativi sulla possibilità di mantenerla al servizio delle persone e che "nessuna azienda o governo può farlo da solo" 

Huang, la cui azienda Nvidia ha una valutazione di quasi 5.150 miliardi di dollari, ha dichiarato ai presenti che la sicurezza è fondamentale e che un prodotto dovrebbe essere ritirato dal mercato se non è pronto. Ha insistito sulla necessità di regolamentare i prodotti di intelligenza artificiale piuttosto che la tecnologia in sé e ha difeso i modelli aperti come un modo per evitare che i paesi e i ricercatori più piccoli vengano esclusi.

Il vertice si svolge dopo che un post di dimissioni diventato virale del ricercatore di Anthropic Jacob Coxon e la previsione del suo collega, Evan Hubinger, secondo cui l'intelligenza artificiale ha una probabilità del 10% di causare l'estinzione umana, suscitando preoccupazioni.

Cryptopolitan , Dario Amodei di Anthropic ha pubblicato un saggio in cui esorta i laboratori a "spingersi oltre i limiti della frontiera" e OpenAI ha lanciato questa settimana un sistema che rivelerà le condotte scorrette dei modelli dopo aver registrato sei episodidentcomportamento preoccupante. 

Tuttavia, non tutti concordano sul fatto che il pericolo sia reale: ildent Donald Trump ha definito tali timori una "bufala"