ChatGPT ha risposto a domande sulle armi biologiche mentre il MIT mette in guardia dai rischi di una catastrofe causata dall'IA

ChatGPT ha risposto alle domande di centinaia di persone sulle armi biologiche. Nessuna legge federale obbligava OpenAI a segnalarlo alle autorità.

L'intento alla base di queste query rimane oscuro. Secondo il Wall Street Journal, il fenomeno è iniziato dopo l'aggiornamento di ChatGPT effettuato da OpenAI lo scorso anno.

Anche altre aziende si trovano ad affrontare lo stesso problema. Gli utenti hanno rivolto domande simili a Claude di Anthropic, a Gemini di Google e a Grok di Elon Musk. Non è ancora chiaro se questi scambi rappresentassero veri e propri tentativi di sviluppare armi o test dei limiti dei sistemi.

Le domande poste all'utente erano dettagliate e riguardavano la produzione e il rilascio di veleni e agenti biologici. Il chatbot rispondeva con istruzioni passo passo che potevano essere facilmente eseguite anche da unodentdi biologia delle scuole superiori.

Esperti di armi biologiche e terrorismo hanno esaminato quelle conversazioni. Affermano che alcune delle risposte erano estremamente pertinenti e "di una precisione letale".

I messaggi di ChatGPT sulle armi biologiche mettono in luce una lacuna nella segnalazione dell'IA

Alcuni hanno chiesto come trasformare gli agenti patogeni infettivi in ​​particelle respirabili, ovvero in aerosol.

Altri hanno chiesto come modificare il virus del morbillo per renderlo resistente al vaccino esistente. Il chatbot ha risposto a entrambe le domande. Un utente ha chiesto informazioni sulla ricina, un veleno vietato dai trattati internazionali, e ha accennato all'idea di uccidere i suoi genitori. ChatGPT ha fornito le istruzioni. OpenAI ha chiuso quegli account senza avvisare nessuno.

Negli Stati Uniti non esistono leggi federali che obblighino le aziende di intelligenza artificiale a fare né l'una né l'altra cosa. Come già riportato da Cryptopolitan, le aziende di intelligenza artificiale si sono adoperate per eludere le leggi statali, mentre un quadro normativo federale stenta a prendere forma, lasciando un vuoto giuridico crescente su ciò che i chatbot possono e non possono fare.

Secondo quanto affermano attuali ed ex dipendenti di importanti aziende di intelligenza artificiale e ricercatori che studiano le minacce biologiche, questo vuoto giuridico si sta ampliando di pari passo con l'aumento degli utenti che chiedono all'IA come condurre stragi di massa e con i chatbot che forniscono risposte credibili.

Una ricerca sulle minacce legate all'intelligenza artificiale condotta da Amy Change presso Cisco ha scoperto che, nel giro di cinque scambi di conversazione, i ricercatori sono riusciti a eludere i filtri di sicurezza dei principali chatbot. Secondo la Change, nessun modello è in grado di resistere al 100% a tali insistenze.

Il pericolo non si ferma agli aggressori solitari

Hamza Chaudhry del Future of Life Institute ha affermato che persone con una certa preparazione in biologia potrebbero già utilizzare l'intelligenza artificiale per pianificare attacchi mirati, avvelenando cibo o acqua con sostanze come la salmonella o la ricina.

Secondo quanto affermato, i gruppi organizzati potrebbero trattare l'IA come un supervisore di ricerca, qualcuno che corregge gli esperimenti falliti e sopperisce ad anni di formazione specialistica che altrimenti sarebbe molto difficile da acquisire.

Uno studio condotto da MIT FutureTech e dall'Università del Queensland mappa la portata di tali rischi.

I ricercatori hanno chiesto a 272 esperti di intelligenza artificiale di valutare 24 categorie di rischio. Nelle condizioni attuali, 18 delle 24 categorie presentano almeno il 10% di probabilità di causare danni catastrofici da qui al 2030, deficome oltre un milione di morti, oltre 100 miliardi di dollari di perdite o danni comparabili.

Anche adottando misure ragionevoli per ridurre tali rischi, cinque aree si attestano ancora al di sopra o al livello del 10%: sistemi di intelligenza artificiale con capacità pericolose (12%), armi e attacchi informatici assistiti dall'IA (12%), danni ambientali (12%), disoccupazione e disuguaglianza (11%) e concentrazione del potere nelle mani di pochi (11%).

"Non stiamo affermando che queste cose accadranno defi", ha dichiarato Peter Slattery, ricercatore presso MIT FutureTech e uno dei coautori dello studio. "Stiamo dicendo che questi sono gli aspetti a cui gli esperti ritengono valga la pena prestare attenzione ora."

All'interno di OpenAI, la responsabile della sicurezza Ryan Beiermeister ha trascorso gran parte del 2024 a spingere i colleghi a costruire un sistema per segnalare gli utenti pericolosi. Alcuni hanno ignorato le sue preoccupazioni.

Uno strumento di monitoraggio di base era già operativo nella primavera del 2025. L'azienda tiene tracdi tutte le interrogazioni sui suoi modelli avanzati dall'aprile 2025 e offre una ricompensa di 50.000 dollari a chiunque sia in grado di dimostrare di aver aggirato i suoi sistemi di sicurezza contro le armi biologiche.

Sul fronte politico, il deputato Nathaniel Moran (repubblicano, Texas) ha presentato a giugno un disegno di legge che obbligherebbe le aziende che si occupano di intelligenza artificiale a segnalare al Dipartimento del Commercio le query pericolose, comprese quelle relative alle armi biologiche. È anche co-firmatario di una legge che consentirebbe al governo federale di ordinare la disattivazione dei modelli di intelligenza artificiale ritenuti troppo pericolosi.

"L'intelligenza artificiale è un potente motore di innovazione e desidero vederla prosperare", ha affermato Moran, "ma non senza responsabilità e non senza supervisione umana"