- Les LLM illicites peuvent rapporter jusqu'à 28 000 $ à leurs créateurs en deux mois.
- Ce sont des « puissances » de création d'e-mails de phishing et de contournement des détecteurs de spam et des logiciels antivirus.
- Selon une étude, ils manipulent également les LLM légalement enregistrés.
Les chatbots du marché noir sont devenus l'une des dernières tendances émergentes dans le secteur de l'IA et prospèrent alors que des modèles de langage larges (LLM) malveillants génèrent des revenus pour leurs créateurs.
Une étude américaine a révélé qu'il existe un marché noir de l'IA florissant où des LLM non enregistrés réalisent d'importants bénéfices en vendant leurs services en sous-sol. Les entreprises enregistrées et accessibles au public comme OpenAI, Perplexity et d'autres grandes corporations offrant les mêmes services suivent des prescriptions réglementaires.
Les LLM souterrains peuvent échapper aux antivirus
L'étude, qui s'est concentrée principalement sur Malla, un écosystème qui prospère en détournant les LLM légaux et les plateformes IA à des fins de profit, a examiné 212 LLM du marché noir listés sur des places de marché souterraines entre avril et octobre 2023, évaluant leurs attributs.
L'un des auteurs, Zilong Lin de l'Université de l'Indiana, a déclaré :
« Nous avons constaté que la plupart des services mala sur les forums souterrains existent principalement pour générer des profits. »
L'étude a également révélé que certaines plateformes génèrent jusqu'à 28 000 $ en deux mois grâce aux abonnements et aux achats de personnes souhaitant échapper aux contraintes de l'IA réglementée.
Certains, comme DarkGPT et EscapeGPT, ne sont que des dérivés de jailbreak de LLM dûment licenciés qui sont utilisés légalement.
Une étude distincte a également montré que ces LLM illicites peuvent être utilisés pour de nombreuses tâches, comme la création d'e-mails de phishing. Par exemple, DarkGPT et EscapeGPT pouvaient créer des codes corrects près de 75 % du temps, mais les antivirus ne parvenaient pas à détecter ces codes.
Un autre modèle connu sous le nom de WolfGPT a été considéré comme une « centrale électrique » pour la création d'e-mails de phishing et l'évitement des détecteurs de spam.
Selon Andrew Hundt, expert en innovation informatique à l'Université Carnegie Mellon, le marché souterrain de l'IA en pleine expansion devrait être une source de préoccupation.
Il a appelé à une exigence légale obligeant les entreprises développant des LLM à disposer de systèmes robustes empêchant leur réplication par des personnes aux intentions malveillantes.
« Nous avons également besoin de cadres juridiques pour garantir que les entreprises qui créent ces modèles et fournissent des services le fassent de manière plus responsable, afin d'atténuer les risques posés par les acteurs malveillants », a déclaré Hundt.
Comprendre le fonctionnement des chatbots du marché noir est essentiel
Le professeur Xiaofeng Wang de l'Université de l'Indiana, qui faisait partie de l'étude, a déclaré qu'il est important de comprendre comment fonctionnent ces LLM du marché noir afin que les solutions soient spécifiques aux problèmes identifiés.
Le professeur Wang a ajouté que la manipulation de ces LLM ne pouvait pas être évitée, ce qui laisse la place au secteur pour mettre en place des garde-fous solides afin de minimiser les dommages potentiels causés par les cyberattaques sous toutes leurs formes.
« Nous pensons qu'il est maintenant temps de commencer à étudier ces sujets, car nous ne voulons pas attendre que des dommages majeurs aient déjà été causés. »
Le professeur Wang.
Selon le professeur, toute technologie, y compris les LLM, se présente sous deux aspects : le bon et le mauvais.
Les experts en cybersécurité appellent déjà l'industrie de l'IA à ralentir sa course effrénée et à réfléchir aux dangers croissants de leur technologie étant adulterée par des communautés anonymes d'internet.
Un article de Forbes publié à la fin de l'année dernière affirmait qu'il devrait y avoir une introduction responsable des nouvelles idées, en particulier autour des LLM. Il a également souligné le rôle de la réglementation dans la promotion d'innovations IA responsables, contrairement au malentendu selon lequel la réglementation étouffe le développement.
« Les développeurs et fournisseurs de LLM doivent mettre un terme à une course aux armements frénétique visant à produire des modèles toujours plus complexes et devraient plutôt travailler avec les régulateurs pour adopter des cadres pour la conception éthique et l'utilisation des applications d'IA générative », lit-on dans une partie du rapport.
Maintenant, avec les lacunes réglementaires, le marché noir de l'IA se développe également rapidement en une industrie multimillionnaire et pourrait nécessiter des ressources importantes pour être contenu, selon Fast Company.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Enacy Mapakame
Enacy Mapakame est journaliste avec plus de 10 ans d'expérience dans les actualités économiques et financières. Elle couvre les marchés capitalistiques et les technologies émergentes – le métavers, l'IA et la cryptomonnaie. Enacy détient un diplôme de licence (BSc) en études médiatiques et sociales avec mention.
