Google met en garde contre les vulnérabilités de l'IA alors que des pirates ciblent Gemini
- Google signale que des groupes d'attaquants persistants et avancés (APT) soutenus par des gouvernements ont tenté de contourner les protections.
- Des pirates ont essayé de manipuler Gemini à l'aide de tactiques simples, telles que reformuler les invites ou soumettre des requêtes répétées.
- Google continue de renforcer les mesures de sécurité de Gemini pour prévenir les abus de l'IA par des acteurs malveillants.
Google a émis un avertissement concernant les risques potentiels de sécurité associés à l'intelligence artificielle (IA) après que des pirates parrainés par des États ont tenté d'exploiter son modèle d'IA Gemini.
Cependant, leurs efforts pour contourner le système (jailbreak) ont finalement échoué.
Le groupe d'intelligence des menaces de Google (GTIG) a publié un document sur « l'usage malveillant de l'IA générative », expliquant comment les acteurs malveillants ont interagi avec leur chatbot IA, Gemini.
Les pirates tentent de contourner l'IA Gemini de Google mais échouent avec des astuces simples
Google signale que des acteurs malveillants ont tenté de contourner Gemini en utilisant des invites (prompts), y compris des efforts de groupes de menaces persistantes avancées (APT) soutenus par des gouvernements pour exploiter l'IA à des fins malveillantes.
Cependant, la multinationale américaine n'a trouvé aucune preuve de tentatives avancées de jailbreak.
Au lieu de cela, les pirates ont utilisé des approches simples, telles que la saisie de différentes phrases ou la répétition de la même demande de nombreuses fois. Google a commenté que ces tentatives ont été infructueuses.
Les jailbreaks assistés par l'IA sont des attaques par injection d'invite qui tentent de contourner les restrictions et de faire exécuter à un modèle d'IA des actions interdites, telles que révéler des informations sensibles ou créer du contenu nuisible.
Selon Google, un acteur APT a tenté d'exploiter Gemini en utilisant des invites de jailbreak publiquement disponibles pour générer du code malveillant. Cependant, la tentative a échoué, car Gemini a répondu par une sortie filtrée par les règles de sécurité.
Google a mentionné que les attaquants cherchaient à atteindre différents objectifs malveillants avec l'aide de Gemini, tels que rassembler des informations sur les cibles, identifier des vulnérabilités à partir de sources ouvertes, et écrire du code et des scripts. De plus, certaines tentatives visaient à soutenir les actions post-compromission, par exemple pour éviter la détection.
L'Iran, la Chine et la Corée du Nord exploitent l'IA Gemini de Google pour des opérations cybernétiques
Selon Google, les groupes APT basés en Iran ont principalement utilisé l'IA pour élaborer des campagnes de hameçonnage. Ils ont également utilisé Gemini pour mener des reconnaissances sur les experts de la défense et les organisations, et générer du contenu lié à la cybersécurité.
Pendant ce temps, les acteurs APT chinois ont exploité Gemini pour résoudre des problèmes de code, de script et de développement. Ils ont également utilisé l'IA pour explorer des méthodes permettant d'obtenir un accès plus profond aux réseaux cibles.
Le groupe d'intelligence des menaces de Google et les groupes APT nord-coréens ont utilisé Gemini à différentes phases du cycle de vie de l'attaque, telles que la recherche et le développement pré-attaques. Le rapport indique :
Ils ont également utilisé Gemini pour rechercher des sujets d'intérêt stratégique pour le gouvernement nord-coréen, tels que l'armée sud-coréenne et les cryptomonnaies.
– GTIG
L'année dernière, les pirates nord-coréens ont volé 1,3 milliard de dollars en actifs numériques, selon Chainalysis.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Nellius Irene
Nellius est diplômée en gestion d'entreprise et en informatique, avec cinq ans d'expérience dans l'industrie des cryptomonnaies. Elle est également diplômée de Bitcoin Dada. Nellius a contribué à des publications médiatiques de premier plan, dont BanklessTimes, Cryptobasic et Riseup Media.
