L'avanzamento dei modelli linguistici AI solleva preoccupazioni per il bioterrorismo e le armi biologiche

Il rapido avanzamento dell'intelligenza artificiale ha portato a numerosi progressi nella scienza e nella sanità, rivoluzionando vari campi in meglio. Tuttavia, solleva anche serie preoccupazioni riguardo al potenziale uso improprio, in particolare nel contesto del bioterrorismo e delle armi biologiche. Il famoso caso di Aum Shinrikyo, una setta giapponese che ha tentato un attacco di bioterrorismo usando la tossina botulinica, esemplifica come l'accesso ai moderni modelli linguistici AI potrebbe potenzialmente aumentare il rischio di devastanti eventi di bioterrorismo.

I modelli linguistici di grandi dimensioni come ChatGPT e gli strumenti di progettazione biologica basati sull'AI potrebbero agire come moltiplicatori di minacce, consentendo ad attori malintenzionati di accedere a conoscenze scientifiche a duplice uso e accelerare lo sviluppo di pericolosi agenti biologici. Man mano che l'intersezione tra AI e biologia diventa più accessibile, devono essere prese misure urgenti per rafforzare la biosicurezza e la governance dell'AI.

La minaccia dei modelli linguistici AI nel bioterrorismo

La facilità con cui i modelli linguistici di grandi dimensioni come ChatGPT possono fornire informazioni su patogeni potenzialmente pericolosi e armi biologiche è una preoccupazione maggiore. Un recente esercizio al MIT ha dimostrato che in appena un'ora, ChatGPT ha istruito studenti non scienziati su quattro potenziali patogeni pandemici e su come acquisire materiale genetico senza essere rilevati. La diffusione di informazioni potrebbe empowerire attori malintenzionati a esplorare le armi biologiche senza le competenze necessarie.

Abbassare la barriera della conoscenza tacita

Sebbene i modelli linguistici AI non possano fornire esperienza pratica, possono abbassare la barriera della conoscenza tacita necessaria per la creazione di agenti biologici. Man mano che i sistemi AI continuano a evolversi, potrebbero facilitare l'automazione della scienza e lo sviluppo di armi biologiche in modo furtivo, riducendo la necessità di molti scienziati in tali progetti.

Il ruolo degli strumenti di progettazione biologica

Strumenti AI specializzati come AlphaFold2 e RFdiffusion stanno già spingendo i confini delle capacità di progettazione biologica. Sebbene abbiano il potenziale per portare significativi progressi in medicina, potrebbero anche esacerbare i rischi biologici consentendo la creazione di patogeni altamente pericolosi con proprietà senza precedenti. Tali strumenti potrebbero mettere alla prova le misure esistenti per controllare l'accesso a tossine e patogeni pericolosi, poiché generano agenti con proprietà pericolose non coperte dai metodi di screening convenzionali.

Regole obbligatorie per la sintesi genica

Lo screening universale della sintesi genica è essenziale per mitigare i rischi derivanti dall'intersezione tra AI e biologia. Questo comporta lo screening degli ordini e dei clienti per garantire che solo i ricercatori legittimi abbiano accesso al materiale genetico per agenti controllati. È necessario implementare uno screening di base obbligatorio per i fornitori di sintesi genica e altri fornitori di servizi cruciali per prevenire lo sfruttamento delle debolezze nella sicurezza della catena di approvvigionamento.

La necessità di governance dell'AI

Interventi specifici per l'AI sono vitali per gestire i rischi dei modelli linguistici di grandi dimensioni e degli strumenti di progettazione biologica. Le valutazioni pre-rilascio delle capacità del modello possono garantire che le funzionalità pericolose non siano presenti al momento del rilascio pubblico. Il rilascio dei modelli attraverso metodi di accesso strutturati, piuttosto che open-sourcing, consente l'aggiornamento continuo delle salvaguardie. I responsabili politici devono affrontare la questione di chi dovrebbe avere accesso alle capacità scientifiche a duplice uso e considerare l'input di voci diverse attraverso discipline, demografie e geografie.

Trovare un equilibrio tra la possibilità di consentire la ricerca scientifica legittima e prevenire la diffusione di conoscenze pericolose è cruciale. Le versioni pubbliche dei modelli linguistici come ChatGPT potrebbero scegliere di non fornire istruzioni dettagliate sulla creazione di patogeni pericolosi. Allo stesso tempo, possono essere implementati metodi di accesso specializzati per gli scienziati legittimi con la formazione e l'approvazione appropriate.

La convergenza tra AI e biologia ha un vasto potenziale per impatti positivi sulla scienza e sulla sanità. Tuttavia, gli stessi progressi pongono seri rischi, in particolare per quanto riguarda il bioterrorismo e le armi biologiche. Man mano che i modelli linguistici AI e gli strumenti di progettazione biologica diventano sempre più accessibili, sono necessarie misure urgenti per rafforzare la biosicurezza e la governance. L'implementazione dello screening obbligatorio per la sintesi genica, la conduzione di valutazioni pre-rilascio delle capacità del modello e la garanzia di metodi di accesso differenziati per gli scienziati legittimi sono passi chiave per affrontare queste sfide emergenti. Un'azione rapida da parte dei responsabili politici non solo può migliorare la sicurezza, ma anche spianare la strada per sfruttare responsabilmente i benefici dell'intelligenza artificiale.