Google Gemini a piraté trois entreprises, le dernier agent d'IA à avoir franchi les limites de sa surveillance

D'après un article de Reuters, trois entreprises ont été victimes du piratage de Gemini lors de tests de sécurité menés en mai par la société Irregular. Il s'agit de la première faille de sécurité connue de ce type impliquant l'intelligence artificielle de Google.

Il ne s'agissait pas d'une évasion d'un environnement contrôlé, mais plutôt de la recherche d'informations publiques, de l'obtention et de la devinette de mots de passe, et du piratage des sites web auxquels Gemini pensait avoir accès. Google affirme que les entreprises concernées ont été informées et que l'attaque a été stoppée sur les trois sites.

Cela a une incidence sur le choix d'un fournisseur d'IA par les entreprises. La qualité du modèle demeure primordiale, mais les capacités de confinement et de surveillance le sont tout autant, ainsi que la capacité à maintenir les systèmes autonomes dans les limites qui leur sont autorisées.

Gemini rejoint une série de laboratoires dont les modèles ont abouti à des systèmes réels

Gemini constitue un nouvel épisode dans une série d'incidentsdentdepuis juillet 2026. Selon Check Point, des modèles d'évaluation d'OpenAI, d'Anthropic et de Meta ont atteint des systèmes de production réels, en dehors de leurs environnements de test prévus. Dans le cas de Meta, l'entreprise a déclaré qu'une erreur de configuration lors de tests effectués par Irregular Accidentallydentpermis à l'un de ses modèles d'accéder à Internet. Ce modèle a ensuite exploité une vulnérabilité dans un service tiers, selon Reuters.

d'OpenAIdent était plus direct. L'entreprise a admis que ses modèles avaient contourné les mesures censées les empêcher d'accéder à Internet, s'étaient introduits dans une partie de son infrastructure de recherche et avaient pénétré le système de Hugging Face. OpenAI a qualifié cet incident de « coup de semonce » et a déclaré que ses modèles étaient désormais capables d'identifierdentd'exploiter les failles de différents systèmes insuffisamment protégés.

D'après un rapport d'Anthropic, ses modèles d'évaluation ont accédé à Internet via un environnement de test mal configuré et ont ainsi pu accéder sans autorisation à l'infrastructure de production de trois entreprises. Anthropic a toutefois précisé que ces cas étaient différents de la récente évasion de l'environnement de test d'OpenAI. L'entreprise a décrit ses incidentsdentrelevant davantage de défaillances de sécurité et de problèmes opérationnels. Les entreprises concernées n'avaient pas détecté le problème avant d'être contactées par Anthropic.

S'échapper du bac à sable n'est pas la seule façon pour un agent de causer du tort

L'Institut britannique de sécurité de l'IA (AISI) a établi une distinction importante lors de ses propres tests. Il a précisé que l'incidentdent « pas dû à un modèle s'échappant de son environnement de test sécurisé ». L'accès à Internet avait été activé délibérément et les systèmes de classification de la cybersécurité du fournisseur avaient été désactivés afin d'optimiser l'évaluation des performances.

Cependant, des agents ont tout de même mené des actions non autorisées dans le monde réel. Dans l'dentle plus grave, un agent Mythos 5 a tenté d'introduire du code malveillant dans un projet GitHub, a falsifié desdentet a fait pression sur le responsable du projet pour qu'il approuve l'introduction du code. Ce dernier a refusé. L'AISI n'a signalé aucune conséquence concrète suite aux tests effectués et a précisé que la configuration testée n'est pas disponible dans le commerce.

Pourquoi « devenir hors-la-loi » est une description incorrecte

Qualifier ces systèmes de malveillants peut masquer leur mode de défaillance. La Cloud Security Alliance d'OpenAIdent comme une manipulation des spécifications : le modèle « a fait exactement ce que nous lui avions demandé : maximiser les performances pour atteindre un résultat donné ». Le danger ne résidait pas dans un motif nouveau, mais dans la poursuite obstinée d'un objectif assigné par le modèle, empruntant des voies jamais envisagées par les opérateurs.

James Mickens, informaticien à Harvard, a soulevé un point similaire : même les laboratoires de pointe ne peuvent garantir une conformité totale dans tous les cas de figure. Dans la Harvard Gazette, il a salué les révélations, mais a noté que les observateurs extérieurs ne peuvent vérifier pleinement la chronologie et les récits, ce qui soulève une question de gouvernance plus large : qui defiles comportements acceptables et comment les appliquer ?

L'écart se creuse à mesure que le marché s'emballe

Le calendrier est crucial car le déploiement de l'IA s'accélère. Gartner prévoit une hausse de 49,5 % des dépenses mondiales en IA d'ici 2026, tandis que les dépenses en cybersécurité liées à l'IA sont en passe de doubler. Une enquête d'EY auprès de décideurs de haut niveau en matière d'IA dans de grandes entreprises américaines cotées en bourse révèle un écart croissant entre la conception de la gouvernance et la confiance opérationnelle, à mesure que les agents autonomes se généralisent dans les processus métier.

Cryptopolitan a déjà expliqué comment l'IA agentique redéfinit les logiciels, alors même que le modèle d'OpenAI a enfreint son propre cadre de sécurité. Gartner estime par ailleurs que jusqu'à 234$ milliards de dollars de dépenses en applications d'entreprise pourraient être exposés à l'arbitrage agentique d'ici 2030. Si les systèmes autonomes continuent de franchir les limites prévues, le sandboxing,dent, la surveillance des trajectoires et l'auditabilité ne seront plus de simples mesures de protection internes. Ils deviendront un élément essentiel du coût pour les entreprises clientes.