- Los LLM ilícitos pueden generar hasta 28.000 dólares en dos meses para sus creadores.
- Estos son «potencias» en la creación de correos de phishing y eludir detectores de spam y software antivirus.
- Según un estudio, también manipulan los LLM registrados legalmente.
Los chatbots del mercado negro se han convertido en una de las últimas tendencias que emergen en el sector de la IA y prosperan a medida que los modelos de lenguaje grandes (LLM) maliciosos ganan dinero para sus creadores.
Un estudio estadounidense ha encontrado que existe un próspero mercado negro de IA donde los LLM no registrados están ganando mucho dinero vendiendo sus servicios en la clandestinidad. Las empresas registradas y de acceso público como OpenAI, Perplexity y otras grandes corporaciones que ofrecen los mismos servicios siguen prescripciones regulatorias.
Los LLM subterráneos pueden evadir los antivirus
El estudio, que se centró principalmente en Malla, un ecosistema que prospera al distorsionar LLM legales y plataformas de IA para obtener beneficios, examinó 212 LLM del mercado negro listados en mercados subterráneos entre abril y octubre de 2023, evaluando sus atributos.
Uno de los autores, Zilong Lin de la Universidad de Indiana, dijo:
“Encontramos que la mayoría de los servicios de mala calidad en los foros subterráneos existen principalmente para obtener beneficios.”
El estudio también encontró que algunas plataformas están ganando hasta $28,000 en dos meses por suscripciones y compras de personas que quieren escapar de las limitaciones de la IA regulada.
Algunos, como DarkGPT y EscapeGPT, son solo derivados de jailbreak de LLM debidamente licenciados que se utilizan legalmente.
Un estudio separado también ha demostrado que estos LLM ilícitos pueden utilizarse para muchas tareas, como crear correos electrónicos de phishing. Por ejemplo, DarkGPT y EscapeGPT podían crear códigos correctos casi el 75 % de las veces, pero los antivirus no podían detectar estos códigos.
Otro modelo conocido como WolfGPT fue considerado una “potencia” para crear correos electrónicos de phishing y evadir los detectores de spam.
Según Andrew Hundt, experto en innovación informática de la Universidad Carnegie Mellon, el floreciente mercado subterráneo de IA debería ser motivo de preocupación.
Instó a un requisito legal que obligue a las empresas que desarrollan LLM a tener sistemas robustos que impidan la replicación por parte de personas con motivos siniestros.
“También necesitamos marcos legales para garantizar que las empresas que crean estos modelos y proporcionan servicios lo hagan de manera más responsable, de una manera que mitigue los riesgos planteados por los actores maliciosos”, dijo Hundt.
Entender cómo funcionan los chatbots del mercado negro es clave
El profesor Xiaofeng Wang de la Universidad de Indiana, que formaba parte del estudio, dijo que es importante entender cómo funcionan estos LLM del mercado negro para que las soluciones sean específicas a los problemas identificados.
El profesor Wang agregó que la manipulación de estos LLM no se puede evitar, lo que crea un margen para que el sector elabore salvaguardas sólidas para minimizar el daño potencial ejecutado a través de ciberataques en todas sus formas.
“Creemos que ahora es un buen momento para comenzar a estudiarlos porque no queremos esperar a que ya se haya causado un gran daño.”
El profesor Wang.
Según el profesor, cada tecnología, incluidos los LLM, tiene dos caras: la buena y la mala.
Los expertos en ciberseguridad ya están instando a la industria de la IA a frenar su carrera y reflexionar sobre los crecientes peligros de que su tecnología sea adulterada por comunidades anónimas de internet.
Un artículo de Forbes publicado a finales del año pasado dijo que debería haber una introducción responsable de nuevas ideas, especialmente en torno a los LLM. También hizo hincapié en el papel de la regulación para promover innovaciones responsables en IA, a diferencia del mito de que la regulación sofoca el desarrollo.
“Los desarrolladores y proveedores de LLM necesitan detener una carrera armamentista frenética que tiene como objetivo producir modelos cada vez más complejos y, en su lugar, trabajar con los reguladores para adoptar marcos para el diseño ético y el uso de aplicaciones de IA generativa”, lee parte del informe.
Ahora, con vacíos regulatorios, el mercado negro de IA también está creciendo rápidamente hacia una industria multimillonaria y puede necesitar recursos extensos para contenerlo, según Fast Company.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.
