Una nuova ondata di chatbot del mercato nero emerge e prospera

I chatbot del mercato nero sono diventati una delle ultime tendenze emergenti nel settore dell'intelligenza artificiale e stanno prosperando poiché i modelli linguistici di grandi dimensioni (LLM) dannosi guadagnano denaro per i loro creatori.

Uno studio americano ha scoperto che esiste un fiorente mercato nero dell'intelligenza artificiale, in cui gli LLM non registrati stanno facendo soldi vendendo i loro servizi in modo clandestino. Le aziende registrate e pubbliche come OpenAI, Perplexity e altre grandi aziende che offrono gli stessi servizi devono rispettare determinate prescrizioni normative.

Gli LLM sotterranei possono eludere gli antivirus

Lo studio, incentrato principalmente su Malla, un ecosistema che prospera sfruttando gli LLM legali e le piattaforme di intelligenza artificiale a scopo di lucro, ha esaminato 212 LLM del mercato nero quotati su mercati clandestini tra aprile e ottobre 2023, valutandone le caratteristiche.

Uno degli autori, Zilong Lin dell'Università dell'Indiana, ha affermato:

"Abbiamo scoperto che la maggior parte dei servizi mala sui forum underground esistono principalmente per trarre profitto."

Lo studio ha inoltre scoperto che alcune piattaforme guadagnano fino a 28.000 dollari in due mesi da abbonamenti e acquisti da parte di persone che vogliono sfuggire ai limiti dell'intelligenza artificiale regolamentata.

Alcuni, come DarkGPT ed EscapeGPT, sono semplicemente derivati ​​jailbreak di LLM debitamente autorizzati e utilizzati legalmente.

Uno studio separato ha inoltre dimostrato che questi LLM illeciti possono essere utilizzati per numerose attività, come la creazione di email di phishing. Ad esempio, DarkGPT ed EscapeGPT potevano creare codici corretti in quasi il 75% dei casi, ma gli antivirus non erano in grado di individuarli.

Un altro modello , noto come WolfGPT, era considerato uno strumento potentissimo per la creazione di email di phishing e per eludere i filtri antispam.

Secondo Andrew Hundt, esperto di innovazione informatica presso la Carnegie Mello University, il fiorente mercato sotterraneo dell'intelligenza artificiale dovrebbe essere motivo di preoccupazione.

Ha chiesto un requisito legale che obblighi le aziende che sviluppano LLM ad avere sistemi solidi che impediscano la replicazione da parte di persone con intenzioni sinistre.

"Abbiamo anche bisogno di quadri giuridici per garantire che le aziende che creano questi modelli e forniscono servizi lo facciano in modo più responsabile, in modo da mitigare i rischi posti da attori malintenzionati", ha affermato Hundt.

È fondamentale comprendere il funzionamento dei chatbot del mercato nero

Il professor Xiaofeng Wang dell'Università dell'Indiana, che ha preso parte allo studio, ha affermato che è importante capire come funzionano questi LLM del mercato nero, in modo che le soluzioni siano specifiche per i problemident.

Il professor Wang ha aggiunto che la manipolazione di questi LLM non può essere evitata, il che crea spazio affinché il settore elaboritronmisure di sicurezza per ridurre al minimo i potenziali danni causati da attacchi informatici in tutte le loro forme.

"Riteniamo che questo sia il momento giusto per iniziare a studiarli, perché non vogliamo aspettare che il danno maggiore sia già stato fatto."

Professor Wang.

Secondo il professore, ogni tecnologia, compresi gli LLM, presenta due aspetti: il lato positivo e quello negativo.

Gli esperti di sicurezza informatica stanno già invitando il settore dell'intelligenza artificiale a rallentare la sua corsa e a riflettere sui crescenti pericoli derivanti dall'alterazione della propria tecnologia da parte di comunità Internet anonime.

Un articolo di Forbes pubblicato alla fine dell'anno scorso sosteneva che le nuove idee avrebbero dovuto essere introdotte in modo responsabile, soprattutto nell'ambito degli LLM. Sottolineava inoltre il ruolo della regolamentazione nel promuovere innovazioni IA responsabili, contrastando l'idea errata che la regolamentazione soffochi lo sviluppo.

"Gli sviluppatori e i fornitori di LLM devono mettere in pausa una frenetica corsa agli armamenti che mira a sfornare modelli sempre più complessi e dovrebbero invece collaborare con gli enti regolatori per adottare quadri per la progettazione e l'uso etici di applicazioni di intelligenza artificiale generativa", si legge in una parte del rapporto.

Ora, a causa delle lacune normative, anche il mercato nero dell'intelligenza artificiale sta rapidamente diventando un'industria multimilionaria e potrebbe richiedere ingenti risorse per contenerlo, secondo Fast Company.