- Il existe des outils d'IA spécifiquement conçus pour répondre aux demandes douteuses de certains clients.
- BadGPT et FraudGPT ne sont que deux exemples parmi eux.
- L'essor de l'IA, qui a captivé le monde, est également responsable de ces outils périlleux.
Si l'intention est mauvaise, l'intelligence artificielle peut devenir une arme létale entre les mains de la mauvaise personne. Imaginez que vous soyez de service de nuit et que vous receviez un appel de chez vous vous informant qu'un homme se tient à votre porte avec un pistolet à la main. Et toute votre famille se trouve à l'intérieur de votre maison. Quels seraient vos sentiments, et à qui préféreriez-vous qu'il s'agisse ? Un criminel ou un policier ?
Il en va de même pour l'IA, qui frappe déjà à nos portes, ou plutôt, est entrée dans nos foyers. Nous savons tous ce qu'est ChatGPT, n'est-ce pas ? Mais il y a un côté sombre à cette même IA utilisée pour ChatGPT, qui est plus sinistre que nous ne le pensons. Bienvenue sur le dark web. Il existe de nombreux outils d'intelligence artificielle similaires à ChatGPT mais conçus pour répondre au côté odieux du marché. Des outils comme BadGPT et FraudGPT, pour n'en citer que quelques-uns. Selon les experts, la cybercriminalité, en particulier le phishing par e-mail, continuera d'augmenter dans les années à venir.
Quels sont exactement les BadGPT et similaires ?
Il s'agit essentiellement de chatbots alimentés par l'IA, mais pas ceux que vous utilisez quotidiennement pour vos tâches de routine. Ce sont des modes non censurés sans aucune mesure de sécurité pour les contrôler, et ils sont disponibles pour les clients qui souhaitent les utiliser selon leurs propres besoins. Ils sont généralement utilisés pour des e-mails de phishing ou pour développer des logiciels malveillants lors d'attaques informatiques, aidant ainsi les pirates à faciliter leurs activités criminelles. Les entreprises sont en alerte maximale et plus exposées que jamais avec l'avènement de ces services.
Récemment, des chercheurs de l'Université de l'Indiana ont découvert plus de 200 services de piratage utilisant de grands modèles de langage, également appelés IA, et déjà disponibles sur le marché pour tous. Le premier de ces services est apparu vers les premiers mois de 2023, et depuis, il n'y a pas eu de retour en arrière, ces services continuant de proliférer comme des mauvaises herbes.
La plupart de ces outils destinés au marché noir utilisent des modèles d'IA open source ou des versions crackées d'Anthropic. Une technique appelée injection de prompt est utilisée pour détourner ces modèles et contourner leurs filtres de sécurité afin que les pirates puissent les utiliser sans aucun contrôle de sécurité.
Un porte-parole d'OpenAI a déclaré que leur entreprise fait de son mieux pour protéger ses produits contre toute utilisation à des fins malveillantes et que c'est,
« toujours travailler sur la manière de rendre nos systèmes plus robustes contre ce type d'abus. »
Source : WSJ
L'impact négatif de BadGPT et comment vous protéger
Vous vous demandez peut-être si ces tactiques sont vraiment efficaces et peuvent vraiment convaincre quelqu'un. La réalité est que les e-mails frauduleux rédigés avec ces outils sont difficiles à repérer, et les pirates entraînent leurs modèles sur des techniques de détection acquises auprès des logiciels de cybersécurité.
Récemment, dans une interview avec GovTech, Jeff Brown, CISO (Directeur de la sécurité des informations) de l'État du Connecticut, a exprimé ses inquiétudes concernant l'utilisation de BadGPT et FraudGPT dans les cybercrimes et a déclaré qu'il y avait une augmentation significative de la fraude par e-mail.
Les individus peuvent se protéger de ces attaques en faisant preuve d'une extrême prudence lorsqu'ils partagent leurs informations personnelles avec quiconque. Ne partagez pas vos informations ouvertement, que ce soit avec une personne ou sur un site web, sauf si c'est très nécessaire, et ce, avec prudence. Enquêtez toujours sur le site web avant de divulguer vos informations, car les sites malveillants ont maintenant l'air beaucoup plus professionnels sans aucune indication de malveillance.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
