I modelli di IA possono essere rischiosi se lasciati in mano a elementi fuorilegge

Il Dipartimento del Commercio sotto l'amministrazione Biden punta a una nuova iniziativa di conformità per restringere ulteriormente l'esportazione di modelli di intelligenza artificiale open source o closed source. L'iniziativa mira a tutelare gli interessi statunitensi e la tecnologia IA da Russia e Cina, integrando i passi compiuti negli ultimi due anni per bloccare l'accesso cinese ai chip avanzati più recenti.

Lo sforzo degli Stati Uniti consiste nel porre barriere protettive più rigide attorno al software core dei grandi modelli linguistici che alimentano app come ChatGPT, ha riportato Reuters citando tre fonti a conoscenza della questione. Sebbene l'ente di stampa abbia affermato che ricercatori del settore privato e del governo sono preoccupati per il fatto che gli avversari degli Stati Uniti potrebbero utilizzare la tecnologia per attacchi cibernetici aggressivi e sviluppare armi biologiche, l'ambasciata cinese si è opposta alla mossa, definendola un bullismo unilaterale e una coercizione economica.

I deepfake sono un'arma letale di disinformazione

Le minacce temute dagli Stati Uniti sono numerose e possono essere utilizzate da attori non statali sostenuti da stati. I deepfake possono essere impiegati come arma efficace per la propaganda, poiché coinvolgono video realistici ma falsi creati con strumenti di IA. 

Questo tipo di video sta già emergendo sui social media. Sebbene tali contenuti mediatici esistano da alcuni anni, sviluppati con software di animazione e rendering, gli strumenti di IA generativa hanno reso facile la produzione per chiunque, e attori malintenzionati possono sfruttarli più facilmente che mai per manipolare l'opinione pubblica su questioni sensibili, specialmente durante le campagne elettorali.

Piattaforme di social media come YouTube, Facebook e Twitter hanno già intrapreso misure per limitare i deepfake, ma le tattiche per svilupparli e pubblicarli stanno cambiando con lo sviluppo della tecnologia. Al momento, strumenti di aziende come Microsoft e OpenAI possono essere utilizzati per creare contenuti per diffondere disinformazione.

Una preoccupazione molto più grande è che i modelli di IA possano fuoriuscire informazioni utili per lo sviluppo di armi biologiche, secondo ricercatori di Rand Corporation e Gryphon Scientific, e le agenzie di intelligence statunitensi, esperti accademici e think tank sono preoccupati per la possibilità che l'IA finisca in mano a elementi fuorilegge.

Lo studio di Gryphon ha identificato come i LLM possano produrre conoscenze esperte e di livello dottorale che possono aiutare nello sviluppo di virus con capacità pandemiche, e questo può essere utilizzato da attori non statali come armi biologiche.

Attacchi cibernetici amplificati con modelli di IA

Il Dipartimento della Sicurezza Interna ha anche espresso preoccupazione per il fatto che attacchi cibernetici a infrastrutture cruciali come ferrovie e oleodotti potrebbero essere eseguiti con l'IA sviluppando nuovi strumenti capaci di attacchi cibernetici su larga scala e più complessi, e più rapidamente.

L'agenzia ha anche affermato che la Cina sta sviluppando software di intelligenza artificiale che può essere utilizzato per attacchi malware, e sta lavorando su tecnologie IA che potrebbero potenzialmente sabotare le difese cibernetiche del paese.

Già a febbraio, Microsoft ha emesso un rapporto in cui ha notato di aver identificato gruppi cibernetici coinvolti in attività di hacking che stanno perfezionando le loro campagne hackerando utilizzando LLM, e hanno affiliazioni con l'intelligence militare della Russia, dei governi nordcoreano e cinese, e delle Guardie Rivoluzionarie dell'Iran.

L'azienda ha annunciato il divieto per i gruppi cibernetici finanziati dallo Stato che utilizzano i suoi prodotti e servizi di intelligenza artificiale. Mercoledì, un gruppo di esponenti politici ha proposto un disegno di legge che aiuterà il governo Biden a imporre controlli sull'esportazione dei modelli di IA per prevenirne l'esposizione a potenziali avversari.

Gli esperti del settore hanno dichiarato che Washington cerca di evitare regolamentazioni eccessivamente rigide che potrebbero soffocare l'innovazione, mentre cerca di promuoverla insieme a possibili soluzioni per i rischi associati all'IA. Hanno inoltre sottolineato che l'imposizione di regolamentazioni severe limitando rigorosamente lo sviluppo dell'IA creerebbe un vuoto a vantaggio dei concorrenti esteri, impattando negativamente sui settori delle infrastrutture, della sicurezza nazionale e della scoperta di farmaci.