Los mejores análisis sobre criptomonedas directamente en tu bandeja de entrada.
- Los LLM ilícitos pueden generar hasta 28.000 dólares en dos meses para sus creadores.
- Se trata de “potenciales” creadores de correos electrónicos de phishing y que evaden los detectores de spam y el software antivirus.
- Según un estudio, estos también manipulan los LLM registrados legalmente.
Los chatbots del mercado negro se han convertido en una de las últimas tendencias emergentes en el sector de la IA y están prosperando a medida que los modelos de lenguaje grande (LLM) maliciosos generan dinero para sus creadores.
Un estudio estadounidense ha descubierto que existe un floreciente mercado negro de IA donde los LLM no registrados se lucran vendiendo sus servicios clandestinamente. Empresas registradas y públicas como OpenAI, Perplexity y otras grandes corporaciones que ofrecen los mismos servicios tienen prescripciones regulatorias que cumplen.
Los LLM clandestinos pueden esquivar los antivirus
El estudio, que se centró principalmente en Malla, un ecosistema que prospera mediante la degradación de títulos de LLM legales y plataformas de inteligencia artificial con fines de lucro, examinó 212 títulos de LLM del mercado negro que figuraban en mercados subterráneos entre abril y octubre de 2023, evaluando sus atributos.
Uno de los autores, Zilong Lin de la Universidad de Indiana, dijo:
“Descubrimos que la mayoría de los servicios de mala en foros clandestinos existen principalmente para obtener ganancias”
El estudio también encontró que algunas plataformas están ganando hasta 28.000 dólares en dos meses gracias a las suscripciones y compras de personas que quieren escapar de los límites de la IA regulada.
Algunos, como DarkGPT y EscapeGPT, son simplemente derivados de jailbreak de LLM debidamente autorizados que se utilizan legalmente.
Un estudio independiente también ha demostrado que estos LLM ilícitos pueden utilizarse para diversas tareas, como la creación de correos electrónicos de phishing. Por ejemplo, DarkGPT y EscapeGPT podían crear códigos correctos casi el 75 % de las veces, pero los antivirus no podían detectarlos.
Otro modelo conocido como WolfGPT fue considerado una herramienta muy potente para crear correos electrónicos de phishing y eludir los detectores de spam.
Según Andrew Hundt, experto en innovación informática de la Universidad Carnegie Mello, el floreciente mercado clandestino de la IA debería ser motivo de preocupación.
Pidió un requisito legal que obligue a las empresas que desarrollan LLMs a tener sistemas robustos que impidan la replicación por parte de personas con motivos siniestros.
“También necesitamos marcos legales para garantizar que las empresas que crean estos modelos y brindan servicios lo hagan de manera más responsable, de manera que mitiguen los riesgos que plantean los actores maliciosos”, dijo Hundt.
Comprender cómo funcionan los chatbots del mercado negro es clave
El profesor Xiaofeng Wang, de la Universidad de Indiana, que participó en el estudio, dijo que es importante entender cómo funcionan estos LLM del mercado negro para que las soluciones sean específicas para los problemasdent.
El profesor Wang agregó que la manipulación de estos LLM no se puede evitar, lo que crea un margen para que el sector creetronbarreras de protección para minimizar el daño potencial ejecutado a través de ciberataques en todas sus formas.
Creemos que ahora es un buen momento para empezar a estudiarlos porque no queremos esperar hasta que el gran daño ya esté hecho”
Profesor Wang.
Según el profesor, toda tecnología, incluida la maestría en derecho, tiene dos caras: una buena y una mala.
Los expertos en ciberseguridad ya están pidiendo a la industria de la IA que reduzca el ritmo de su carrera y reflexione sobre los crecientes peligros de que su tecnología sea adulterada por comunidades anónimas de Internet.
Un artículo de Forbes publicado a finales del año pasado afirmaba que debería haber una introducción responsable de nuevas ideas, especialmente en el ámbito de los LLM. También hacía hincapié en el papel de la regulación en la promoción de innovaciones responsables en IA, a diferencia de la idea errónea de que la regulación frena el desarrollo.
“Los desarrolladores y proveedores de LLM deben hacer una pausa en una frenética carrera armamentista que apunta a producir modelos cada vez más complejos y, en su lugar, deberían trabajar con los reguladores en la adopción de marcos para el diseño y uso ético de aplicaciones de IA generativa”, se lee en parte del informe.
Ahora, con lagunas regulatorias, el mercado negro de IA también está creciendo rápidamente hasta convertirse en una industria multimillonaria y puede necesitar grandes recursos para contenerlo, según Fast Company.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre mercados de capitales y tecnologías emergentes: el metaverso, la IA y las criptomonedas. Enacy es licenciada con honores en Estudios de Medios y Sociedad.
- ¿Qué criptomonedas pueden hacerte ganar dinero?
- Cómo mejorar tu seguridad con una billetera (y cuáles realmente vale la pena usar)
- Estrategias de inversión poco conocidas que utilizan los profesionales
- Cómo empezar a invertir en criptomonedas (qué plataformas de intercambio usar, las mejores criptomonedas para comprar, etc.)