I federali installano un «AI Doomer» nell'Istituto per la Sicurezza dell'IA tra cinque nuovi membri

L'Istituto per la Sicurezza dell'IA degli Stati Uniti, sotto il Dipartimento del Commercio, ha annunciato cinque nuovi membri per il suo team di leadership. Tra i cinque nuovi membri c'è uno che ha previsto che c'è una probabilità del 50% che lo sviluppo dell'intelligenza artificiale finisca per porre fine all'umanità. Ma questa non è la sua unica introduzione; ci sono alcune innovazioni molto importanti al suo attivo.

Nuovi membri del team per la sicurezza dell'IA

C'è un dibattito in corso da abbastanza tempo sul fatto che l'intelligenza artificiale diventerà una minaccia esistenziale per gli esseri umani, ma molti esperti dicono che è esagerata e iperbolica, e questo tipo di previsione potrebbe ostacolare i progressi nel campo. Il compito a portata di mano per il team appena nominato è incoraggiare lo sviluppo in modo che l'IA diventi benefica per le persone, contro questa percezione di danno sotto l'National Institute of Standards and Technology (NIST).

La Direttrice del NIST e Sottosegretaria al Commercio per gli Standard e la Tecnologia, Laurie E. Locascio, ha dichiarato:

«Sono molto lieta di dare il benvenuto a questi esperti talentuosi nel team di leadership dell'Istituto per la Sicurezza dell'IA degli Stati Uniti per aiutare a stabilire la scienza delle misurazioni che supporterà lo sviluppo di un'IA sicura e affidabile. Ognuno porta esperienze uniche che aiuteranno l'istituto a costruire una solida base per la sicurezza dell'IA per il futuro.»

Tra i nuovi membri c'è Adam Russell, chief vision officer, che è anche direttore della divisione IA dell'Information Sciences Institute dell'Università della California. Il Prof. Rob Reich sarà il senior adviser; proviene da Stanford e lavora come direttore associato dell'Istituto per l'IA Centrata sull'Uomo, ed è anche un esperto di scienze politiche.

Mara Quintero Campbell è nominata chief operating officer e chief of staff; attualmente è presso l'Economic Development Administration del Dipartimento del Commercio come deputy chief operating officer. Mark Latonero sarà il capo dell'impegno internazionale; proviene dall'Ufficio di Scienza e Tecnologia della Casa Bianca e lavora come direttore aggiunto dell'Ufficio dell'Iniziativa Nazionale sull'IA.

Un doomer dell'IA a bordo, ma c'è dell'altro

Il nuovo membro, definito un doomer dell'IA, non è altri che Paul Christiano. È stato nominato capo della sicurezza dell'IA del team. È un ex ricercatore di OpenAI e fondatore dell'Alignment Research Center. È anche l'inventore di una tecnica fondamentale per la sicurezza dell'IA nota come apprendimento per rinforzo, che incorpora il feedback umano. Ha ottenuto l'etichetta di doomer dell'IA dopo essere stato intervistato in un podcast sulla possibilità che le ambizioni umane nell'IA finiscano in un disastro, mostrando una certa preoccupazione per la possibilità che l'umanità venga annientata, ha dichiarato 

"Penso che ci sia forse una probabilità del 10-20% di un'ascesa dell'IA, con la morte della maggior parte degli esseri umani, la prendo molto sul serio."

Ha anche detto,

"In generale, forse si arriva a una probabilità del 50/50 di un disastro poco dopo aver ottenuto sistemi di IA di livello umano."

Fonte: podcast Bankless.

Christiano ha espresso questi pensieri nel podcast Bankless con gli ospiti David Hoffman e Ryan Sean Adams, ma insiste sul fatto che le sue opinioni non sono così estreme come quelle del famoso doomer dell'IA Eliezer Yudkowsky, che prevede uno scenario di disastro totale.

Il Segretario al Commercio degli Stati Uniti Gina Raimondo ha anche dichiarato che, al fine di salvaguardare la leadership globale sull'IA responsabile e per garantire la sicurezza dell'IA e mitigare i rischi associati, abbiamo bisogno dei migliori talenti della nazione, motivo per cui questi individui sono stati selezionati, essendo i migliori nei loro campi, per unirsi ora al team di leadership esecutiva presso l'Istituto per la Sicurezza dell'IA degli Stati Uniti.