Il governo federale installa “AI Doomer” nell’AI Safety Institute tra i cinque nuovi membri

L'Istituto statunitense per la sicurezza dell'intelligenza artificiale (AI Safety Institute), del Dipartimento del Commercio, ha annunciato cinque nuovi membri per il suo team dirigenziale. Tra i cinque nuovi membri, uno di loro ha previsto una probabilità del 50% che lo sviluppo dell'intelligenza artificiale porti all'umanità. Ma questa non è la sua unica introduzione; ha al suo attivo alcune innovazioni molto importanti.

Nuovi membri del team di sicurezza dell'IA

Da tempo si discute sul fatto che l'intelligenza artificiale diventerà una minaccia esistenziale per l'umanità, ma molti esperti sostengono che sia esagerata e sopravvalutata, e che questo tipo di previsione potrebbe ostacolare i progressi nel settore. Il compito del team appena nominato è quello di incoraggiare lo sviluppo in modo che l'intelligenza artificiale diventi vantaggiosa per le persone, contrastando questa percezione di danno secondo il National Institute of Standards and Technology (NIST).

Il direttore del NIST e sottosegretario al Commercio per gli standard e la tecnologia, Laurie E. Locascio, ha affermato:

"Sono molto lieto di dare il benvenuto a questi talentuosi esperti nel team dirigenziale dell'US AI Safety Institute per contribuire a definire la scienza della misurazione che supporterà lo sviluppo di un'IA sicura e affidabile. Ognuno di loro porta con sé esperienze uniche che aiuteranno l'istituto a costruire solide basi per la sicurezza dell'IA nel futuro."

Tra i nuovi membri c'è Adam Russell, Chief Vision Officer, che è anche direttore della divisione di intelligenza artificiale dell'Information Sciences Institute dell'Università della California. Il Prof. Rob Reich, originario di Stanford, è direttore associato dell'Institute for Human-Centered AI ed è anche esperto di scienze politiche.

Mara Quintero Campbell è stata nominata Chief Operating Officer e Chief of Staff; attualmente ricopre il ruolo di Vice Chief Operating Officer presso l'Economic Development Administration del Dipartimento del Commercio. Mark Latonero, proveniente dall'Office of Science and Technology Policy della Casa Bianca e vicedirettore del National AI Initiative Office, sarà a capo dell'impegno internazionale.

L'intelligenza artificiale è un disastro a bordo, ma c'è di più

Il nuovo membro, definito "AI doomer", non è altri che Paul Christiano. È stato nominato responsabile della sicurezza dell'IA del team. È un ex ricercatore di OpenAI e fondatore dell'Alignment Research Center. È anche l'inventore di una tecnica fondamentale per la sicurezza dell'IA nota come apprendimento per rinforzo, che incorpora il feedback umano. Ha ottenuto la sua etichetta di AI doomer dopo che gli è stato chiesto in un podcast se le ambizioni di IA dell'uomo potessero finire in tragedia, risposta alla quale ha mostrato una certa preoccupazione per la fine dell'umanità, ha affermato 

"Penso che ci sia una probabilità del 10-20% che l'intelligenza artificiale prenda il sopravvento e che la maggior parte degli esseri umani muoia. Prendo questa ipotesi molto seriamente."

Ha anche detto:

"Nel complesso, forse avremo una probabilità di sventura del 50% subito dopo aver implementato sistemi di intelligenza artificiale di livello umano."

Fonte: podcast Bankless.

Christiano ha espresso questi pensieri al podcast Bankless con i conduttori David Hoffman e Ryan Sean Adams, ma insiste sul fatto che le sue opinioni non sono così estreme come quelle del famoso sventurato Eliezer Yudkowsky, che ipotizza uno scenario di catastrofe totale.

La Segretaria al Commercio degli Stati Uniti Gina Raimondo ha inoltre affermato che, per salvaguardare la leadership globale in materia di intelligenza artificiale responsabile, garantire la sicurezza dell'intelligenza artificiale e mitigare i rischi ad essa associati, abbiamo bisogno dei migliori talenti della nazione. Ecco perché vengono selezionati questi individui, i migliori nei loro campi, che ora si uniscono al team dirigenziale dell'US AI Safety Institute.