Re Carlo convocherà i vertici dell'IA in Scozia per timori sulla sicurezza

Questa settimana, Re Carlo riunirà in Scozia i vertici di Nvidia, Google DeepMind, OpenAI e Anthropic per discutere della necessità di un codice di condotta condiviso per il settore. L'incontro è previsto a seguito delle recenti dichiarazioni di ricercatori e dirigenti di alto livello, i quali avvertono che la tecnologia dell'intelligenza artificiale si sta evolvendo più rapidamente di quanto chiunque possa gestirla. 

L'incontro si terrà a Dumfries House, nell'Ayrshire, e vedrà la partecipazione del ministro britannico per l'intelligenza artificiale e di delegazioni provenienti dalle quattro aziende. Secondo Reuters, le discussioni si concentreranno sui principi che dovrebbero guidare lo sviluppo della tecnologia dell'intelligenza artificiale.

Una fonte del Palazzo Reale di Buckingham ha dichiarato che Re Carlo ha promosso l'incontro, con l'obiettivo di creare uno spazio neutrale per il dialogo e porre la domanda: "Come possiamo sviluppare l'intelligenza artificiale per il bene dell'umanità?"

La fonte ha affermato che Re Carlo è interessato a capire se un insieme di principi potrebbe essere d'aiuto, aggiungendo che "non è una cosa facile da fare, ma ciò non significa che non dovremmo provarci"

In qualità di Principe di Galles, il monarca ha ospitato incontri simili, sebbene questi fossero incentrati sul clima e sull'ambiente. L'Independentdent riportato che è prevista la partecipazione di Jensen Huang, CEO di Nvidia, Sir Demis Hassabis, fondatore di DeepMind, e Niccolò de Masi, CEO di IonQ, insieme a Paolo Benanti, consulente etico del Papa in materia di intelligenza artificiale.

Bozza di statuto per l'incontro di Re Carlo

La Fondazione Ditchley, che sta organizzando l'incontro con Re Carlo, ha preparato una carta dei principi che i dirigenti dovranno esaminare. Essa definisce una "serie di principi condivisi" volti a mantenere lo sviluppo dell'intelligenza artificiale ancorato alla dignità umana, anziché considerare la tecnologia esclusivamente in termini di capacità ed efficienza.

Il Palazzo ha descritto l'obiettivo della carta come incentrato sul rafforzamento delle comunità e sul miglioramento della vita, contribuendo al contempo al "benessere sia delle persone che del pianeta"

Tuttavia, resta incerto se i delegati firmeranno qualcosa durante l'evento. Una prova fondamentale per il vertice sarà capire se i laboratori di intelligenza artificiale e i governi, pur essendo in competizione tra loro, riusciranno a superare le proprie divergenze e a concordare su una posizione comune.

È importante notare che la tempistica della riunione è fondamentale

L'annuncio dell'incontro fa seguito a una nuova ondata di allarmi provenienti dallo stesso settore dell'IA. L'amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio intitolato "Dobbiamo tenere il passo con la frontiera" in cui esorta le aziende a rallentare affinché il lavoro sulla sicurezza possa stare al passo con lo sviluppo dell'IA.

Ha sostenuto che lo sviluppo ha registrato un ritmo di crescita spaventoso dall'estate scorsa e ha avvertito che entro sei-dodici mesi un sistema potrebbe essere in grado di dirigere uno sciame capace di prendere il controllo dell'intera internet. Elon Musk, a capo di SpaceX, e Sam Altman di OpenAI hanno entrambi appoggiato il saggio.

Due ricercatori di Anthropic hanno lanciato un avvertimento ancoratron, affermando che i progressi incontrollati nell'intelligenza artificiale potrebbero rappresentare una minaccia esistenziale per l'umanità in un futuro non troppo lontano.

La scorsa settimana, l'azienda ha anche rivelato che diversi gruppi avevano utilizzato i suoi modelli Claude per sviluppare armi, condurre operazioni informatiche, effettuare attività di sorveglianza e commettere frodi.

A luglio, OpenAI ha dichiarato che uno dei suoi sistemi si era introdotto autonomamente in un'altra azienda, un episodio che ha definito undentinformaticodent.

I governi si muovono in direzioni diverse

degli Stati Unitident Donald Trump ha respinto le richieste di frenare lo sviluppo dell'intelligenza artificiale. Il quotidiano statale cinese Global Times, nel frattempo, ha liquidato le proposte di rallentamento come una manovra da Guerra Fredda mirata a Pechino.

La Gran Bretagna sta cercando di posizionarsi tra approcci contrastanti alla politica sull'IA, combinando untronecosistema di investimenti e startup con una regolamentazione relativamente leggera.

Il Regno Unito è leader in Europa per finanziamenti e numero di startup nel settore dell'IA, mentre il suo AI Safety Institute, istituito dopo l'AI Safety Summit del 2023, si è assicurato l'accesso anticipato ai modelli dei principali laboratori di IA tramite accordi volontari. Ciò consente all'istituto di valutare i potenziali rischi prima che i modelli vengano resi pubblici.

Il vertice di Re Carlo sembra essere un ulteriore tentativo di promuovere regole generali per lo sviluppo dell'IA, dove purtroppo i principali attori e i rispettivi governi non riescono ancora a concordare su quale sia la velocità massima accettabile.