L'CEO di Anthropic incoraggia la cautela sulla sicurezza dei modelli di IA

Dario Amodei, CEO di Anthropic, ha recentemente menzionato che le aziende di intelligenza artificiale dovrebbero sottoporsi a requisiti di test obbligatori. Questo si applica anche alla sua stessa azienda, Anthropic. L'obiettivo è assicurarsi che queste tecnologie siano sicure per il pubblico generale prima che vengano rilasciate. 

Amodei stava rispondendo a una domanda a un vertice sulla sicurezza dell'IA recentemente tenutosi a San Francisco dai dipartimenti del Commercio e degli Affari Esteri degli Stati Uniti. Nella sua risposta, il CEO ha dichiarato: "Credo che dobbiamo assolutamente rendere i test obbligatori, ma dobbiamo anche essere molto attenti a come li facciamo."

Queste osservazioni seguono un rilascio da parte degli Istituti per la Sicurezza dell'IA del Regno Unito e degli Stati Uniti che contengono i risultati dei loro test sul modello Claude 3.5 Sonnet di Anthropic. Questi test sono stati condotti in varie categorie che includono applicazioni biologiche e di cybersecurity. In precedenza, sia OpenAI che Anthropic hanno accettato di sottomettere i loro modelli alle agenzie governative.

Le grandi aziende come Anthropic seguono linee guida di sicurezza autoimposte

Amodei ha menzionato che le grandi aziende hanno volontariamente accettato determinate linee guida autoimposte. Questo include il framework di preparazione di OpenAI e la politica di scaling responsabile di Anthropic. Tuttavia, ha aggiunto che è necessario fare di più per garantire la sicurezza.

"Non c'è nulla da verificare o garantire che le aziende stiano davvero seguendo quei piani nella lettera e nello spirito. Hanno solo detto che lo faranno", ha detto Amodei. Ha anche aggiunto: "Credo che solo l'attenzione pubblica e il fatto che i dipendenti si preoccupino abbiano creato una certa pressione, ma penso alla fine che non sarà sufficiente."

Amodei crede che i potenti sistemi di IA abbiano la capacità di superare i più intelligenti degli esseri umani. Pensa anche che tali sistemi possano diventare disponibili entro il 2026. Aggiunge che le aziende di IA stanno ancora testando certi danni catastrofici e minacce biologiche, nessuno dei quali è attualmente reale. Tuttavia, questi test ipotetici possono diventare realtà molto prima.

Ha anche avvertito che i requisiti per i test dei sistemi di IA dovrebbero essere flessibili, considerando il fatto che la tecnologia è in continua evoluzione. A suo dire, è un problema "socio-politico" molto difficile da risolvere.