- I LLM illeciti possono generare fino a 28.000 dollari in due mesi per i loro creatori.
- Queste sono "potenze" nella creazione di email di phishing e nell'eludere i rilevatori di spam e il software antivirus.
- Secondo uno studio, questi manipolano anche gli LLM legalmente registrati.
I chatbot del mercato nero sono diventati una delle ultime tendenze emergenti nel settore dell'IA e prosperano poiché i modelli linguistici di grandi dimensioni (LLM) malevoli guadagnano denaro per i loro creatori.
Uno studio americano ha rilevato che esiste un fiorente mercato nero dell'IA in cui LLM non registrati stanno guadagnando molto vendendo i loro servizi sottobanco. Le aziende registrate e pubbliche come OpenAI, Perplexity e altre grandi corporation che offrono gli stessi servizi seguono prescrizioni normative.
Gli LLM sotterranei possono eludere gli antivirus
Lo studio, che si è concentrato principalmente su Malla, un ecosistema che prospera sulla distorsione di LLM legali e piattaforme IA per profitto, ha esaminato 212 LLM del mercato nero elencati sui mercati sotterranei tra aprile e ottobre 2023, valutandone le caratteristiche.
Uno degli autori, Zilong Lin dell'Università dell'Indiana, ha dichiarato:
“Abbiamo scoperto che la maggior parte dei servizi mala sui forum sotterranei esistono principalmente per guadagnare profitto.”
Lo studio ha anche rilevato che alcune piattaforme stanno guadagnando fino a 28.000 dollari in due mesi da abbonamenti e acquisti da persone che vogliono sfuggire ai confini dell'IA regolamentata.
Alcuni, come DarkGPT ed EscapeGPT, sono semplicemente derivati di jailbreak di LLM debitamente licenziati che vengono utilizzati legalmente.
Uno studio separato ha anche dimostrato che questi LLM illeciti possono essere utilizzati per molte attività, come la creazione di email di phishing. Ad esempio, DarkGPT ed EscapeGPT potevano creare codici corretti quasi il 75% delle volte, ma gli antivirus non riuscivano a rilevare questi codici.
Un altro modello noto come WolfGPT è stato considerato una “potenza” per la creazione di email di phishing e per eludere i rilevatori di spam.
Secondo Andrew Hundt, esperto in innovazione informatica alla Carnegie Mellon University, il fiorente mercato sotterraneo dell'IA dovrebbe essere motivo di preoccupazione.
Ha chiesto un requisito legale che obblighi le aziende che sviluppano LLM ad avere sistemi robusti che impediscano la replicazione da parte di persone con intenti malevoli.
“Abbiamo anche bisogno di quadri giuridici per garantire che le aziende che creano questi modelli e forniscono servizi lo facciano in modo più responsabile, in modo da mitigare i rischi posti dagli attori malevoli”, ha detto Hundt.
Comprendere come funzionano i chatbot del mercato nero è fondamentale
Il professor Xiaofeng Wang dell'Università dell'Indiana, che ha partecipato allo studio, ha dichiarato che è importante comprendere come funzionano questi LLM del mercato nero, in modo che le soluzioni siano specifiche per i problemi identificati.
Il professor Wang ha aggiunto che la manipolazione di questi LLM non può essere evitata, il che crea spazio per il settore di sviluppare solide protezioni per minimizzare il potenziale danno eseguito attraverso cyberattacchi in tutte le sue forme.
“Crediamo che ora sia un buon momento per iniziare a studiarli, perché non vogliamo aspettare che il danno maggiore sia già stato fatto.”
Professor Wang.
Secondo il professore, ogni tecnologia, inclusi gli LLM, si presenta in due modi: il lato buono e quello cattivo.
Gli esperti di cybersecurity stanno già chiedendo al settore dell'IA di rallentare la corsa e riflettere sui crescenti pericoli della adulterazione della loro tecnologia da parte di comunità internet anonime.
Un articolo di Forbes pubblicato alla fine dello scorso anno ha affermato che dovrebbe esserci un'introduzione responsabile di nuove idee, specialmente per quanto riguarda gli LLM. Ha anche sottolineato il ruolo della regolamentazione nel promuovere innovazioni IA responsabili, a differenza del malinteso secondo cui la regolamentazione soffoca lo sviluppo.
“Gli sviluppatori e i fornitori di LLM dovrebbero fermarsi in una frenetica gara agli armamenti volta a produrre modelli sempre più complessi e dovrebbero invece lavorare con i regolatori sull'adozione di quadri per il design etico e l'uso di applicazioni di IA generativa”, recita una parte del rapporto.
Ora, con le lacune normative, il mercato nero dell'IA sta anche crescendo rapidamente in un'industria multimilionaria e potrebbe richiedere risorse estese per essere contenuto, secondo Fast Company.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Enacy Mapakame
Enacy Mapakame è una giornalista con oltre 10 anni di esperienza nel settore delle notizie finanziarie e aziendali. Si occupa di mercati dei capitali e tecnologie emergenti: metaverso, intelligenza artificiale e criptovalute. Enacy è laureata con onori in Media and Society Studies.
