Google a émis un avertissement concernant les risques de sécurité potentiels associés à l'intelligence artificielle (IA) après que des pirates parrainés par l'État ont tenté d'exploiter son modèle Gemini AI.
Cependant, leurs efforts pour jailbreaker le système ont finalement échoué.
de renseignements sur les menaces de Google (GTIG) a publié un article sur «l'abus de mauvaise utilisation adversaire de l'IA générative», qui explique comment les acteurs de la menace ont conversé avec leur chatbot d'IA, Gemini.
Les pirates essaient de jailbreaker AI Gemini de Google mais échouent avec des astuces simples
Google rapporte que les acteurs de la menace ont tenté de jailbreaker Gemini AI en utilisant des invites, y compris les efforts des groupes avancés de menace persistante avancés (APT) soutenus par le gouvernement à tirer parti de l'IA pour les activités malveillantes.
Cependant, l'American Multinational Corporation n'a trouvé aucune preuve de tentatives avancées de jailbreak.
Au lieu de cela, les pirates ont utilisé des approches simples, comme taper différentes phrases ou répéter la même demande à plusieurs reprises. Google a commenté que ces tentatives ont échoué.
Les jailbreaks avec l'aide de l'IA sont des attaques d'injection rapides qui tentent d'échapper aux restrictions et de faire un modèle d'IA effectuer des actions interdites, telles que la révélation d'informations sensibles ou la création de contenu nocif.
Selon Google, un acteur APT a tenté d'exploiter les Gémeaux en utilisant des invites de jailbreak accessibles au public à générer du code malveillant. Cependant, la tentative a échoué, comme Gemini a répondu avec une sortie filtrée sur la sécurité.
Google a mentionné que les attaquants ont cherché à atteindre différents objectifs mauvais avec l'aide de Gémeaux, comme la collecte d'informations sur les cibles, jedentdes vulnérabilités à partir de sources ouvertes et d'écriture de code et de scripts. En outre, certaines tentatives ont été faites pour soutenir les actions post-compromis, par exemple, pour éviter la détection.
L'Iran, la Chine et la Corée du Nord exploitent Gemini Ai de Google pour les cyber opérations
Selon Google, les groupes APT basés en Iran ont principalement exploité l'IA pour créer des campagnes de phishing. Ils ont également utilisé des Gémeaux pour effectuer des reconnaissances sur les experts et les organisations de la défense et générer du contenu lié à la cybersécurité.
Pendant ce temps, les acteurs de l'APT chinois ont mis à profit les Gémeaux pour résoudre le code, les scripts et les tâches de développement. Ils ont également utilisé l'IA pour explorer des méthodes pour obtenir un accès plus profond aux réseaux cibles.
Le groupe de renseignements sur les menaces de Google et les groupes d'APT nord-coréens ont utilisé des Gémeaux dans différentes phases du cycle de vie d'attaque, tels que la recherche et le développement avant les attaques. Le rapport indique:
Ils ont également utilisé des Gémeaux pour rechercher un intérêt stratégique pour le gouvernement nord-coréen, comme l'armée sud-coréenne et la crypto-monnaie.
- GTIG
L'année dernière, les pirates nord-coréens ont volé 1,3 milliard de dollars d'actifs numériques, selon Chainalysis.
Cryptopolitan Academy: à venir bientôt - une nouvelle façon de gagner un revenu passif avec DeFi en 2025. En savoir plus
