- LLMs ilícitos podem gerar até US$ 28.000 em dois meses para seus criadores.
- Estes são os "gigantes" na criação de e-mails de phishing, desviando detectores de spam e softwares antivírus.
- De acordo com um estudo, eles também manipulam os LLMs registrados legalmente.
Chatbots de mercado negro tornaram-se uma das últimas tendências emergentes no setor de IA e estão prosperando enquanto modelos de linguagem grandes (LLMs) maliciosos ganham dinheiro para seus criadores.
Um estudo americano descobriu que há um mercado negro de IA próspero onde LLMs não registrados estão lucrando vendendo seus serviços subterraneamente. Empresas registradas e voltadas para o público, como OpenAI, Perplexity e outras grandes corporações que oferecem os mesmos serviços, seguem prescrições regulatórias.
Os LLMs subterrâneos podem desviar antivírus
O estudo, que se concentrou principalmente no Malla, um ecossistema que prospera ao distorcer LLMs legais e plataformas de IA para lucro, analisou 212 LLMs de mercado negro listados em mercados subterrâneos entre abril e outubro de 2023, avaliando seus atributos.
Um dos autores, Zilong Lin, da Universidade de Indiana, disse:
“Descobrimos que a maioria dos serviços mala nos fóruns subterrâneos existem principalmente para ganhar lucro.”
O estudo também descobriu que algumas plataformas estão ganhando até $28.000 em dois meses com assinaturas e compras de pessoas que querem escapar dos limites da IA regulada.
Alguns, como DarkGPT e EscapeGPT, são apenas derivados de jailbreak de LLMs devidamente licenciados que estão sendo usados legalmente.
Um estudo separado também mostrou que esses LLMs ilícitos podem ser usados para muitas tarefas, como criar e-mails de phishing. Por exemplo, DarkGPT e EscapeGPT podiam criar códigos corretos quase 75% das vezes, mas os antivírus não conseguiam detectar esses códigos.
Outro modelo conhecido como WolfGPT foi visto como uma “força poderosa” para criar e-mails de phishing e desviar detectores de spam.
De acordo com Andrew Hundt, especialista em inovação computacional na Universidade Carnegie Mellon, o mercado subterrâneo de IA em crescimento deve ser motivo de preocupação.
Ele pediu um requisito legal que obrigue as empresas que desenvolvem LLMs a ter sistemas robustos que impeçam a replicação por pessoas com motivos sinistros.
“Também precisamos de estruturas legais para garantir que as empresas que criam esses modelos e fornecem serviços o façam de forma mais responsável, de maneira que mitigue os riscos impostos por atores maliciosos”, disse Hundt.
Entender como os chatbots de mercado negro funcionam é fundamental
O professor Xiaofeng Wang, da Universidade de Indiana, que fez parte do estudo, disse que é importante entender como esses LLMs de mercado negro estão funcionando para que as soluções sejam específicas para os problemas identificados.
O professor Wang acrescentou que a manipulação desses LLMs não pode ser evitada, o que cria espaço para o setor desenvolver fortes barreiras de proteção para minimizar o potencial dano executado por meio de ciberataques em todas as suas formas.
“Acreditamos que agora é um bom momento para começar a estudar isso, porque não queremos esperar até que os grandes danos já tenham sido causados.”
Professor Wang.
De acordo com o professor, toda tecnologia, incluindo os LLMs, tem dois lados: o bom e o mau.
Especialistas em segurança cibernética já estão pedindo à indústria de IA que desacelere a corrida e reflita sobre os crescentes perigos de sua tecnologia ser adulterada por comunidades anônimas da internet.
Um artigo da Forbes publicado no final do ano passado disse que deveria haver uma introdução responsável de novas ideias, especialmente em torno de LLMs. Também enfatizou o papel da regulação na promoção de inovações de IA responsáveis, ao contrário do equívoco de que a regulação sufoca o desenvolvimento.
“Os desenvolvedores e provedores de LLMs precisam dar uma pausa em uma corrida armamentista frenética que visa produzir modelos cada vez mais complexos e, em vez disso, devem trabalhar com os reguladores na adoção de estruturas para o design ético e o uso de aplicativos de IA generativa”, lê-se parte do relatório.
Agora, com lacunas regulatórias, o mercado negro de IA também está crescendo rapidamente para uma indústria de milhões de dólares e pode exigir recursos extensivos para ser contido, de acordo com a Fast Company.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Enacy Mapakame
Enacy Mapakame é jornalista com mais de 10 anos de experiência em notícias de negócios e finanças. Cobre mercados de capitais e tecnologias emergentes — metaverso, IA e criptomoedas. Enacy possui graduação honrosa em Estudos de Mídia e Sociedade.
