Meta rejoint OpenAI et Anthropic dans le dernierdent de piratage de l'IA
- L'agent IA de Meta a piraté une autre entreprise suite à une erreur de configuration.
- L'entreprise a l'intention de révéler davantage d'informations sur le piratage.
- L'AISI a révélé de nouvelles tromperies concernant les modèles d'OpenAI et d'Anthropic AI.
Meta est le dernier géant de la technologie à admettre que son agent d'IA a piraté une autre entreprise après qu'un partenaire de testdent a mal configuré son environnement sécurisé.
OpenAI et Anthropic ont déjà été confrontés à des cas où leurs agents d'IA ont tenté de pirater de véritables systèmes en ligne sans autorisation.
Meta a indiqué aux journalistes que la faille de sécurité de l'IA était due à une erreur de configuration du système, similaire à celle rencontrée chez Anthropic. Contrairement à OpenAI, où un agent d'IA a exploité une vulnérabilité jusque-là inconnue pour accéder à Internet lors d'un test de cybersécurité. Jusqu'à présent, chercheurs et gouvernements ont réagi à cesdenten réclamant des protectionstronet des normes de test plus strictes.
Cesdentsurviennent alors que les entreprises spécialisées en IA rivalisent pour créer des agents plus autonomes, capables d'exécuter des tâches complexes sans intervention humaine. Contrairement aux chatbots traditionnels, ces systèmes peuvent créer du code, interagir avec des services en ligne et exécuter des actions en plusieurs étapes de manièredent.
Bien que ces fonctionnalités promettent des gains de productivité importants, elles augmentent également le risque qu'un environnement de test mal formaté ou des contrôles insuffisants puissent entraîner des actions imprévues des modèles lors d'un processus d'évaluation de la sécurité.
Des personnalités clés de la communauté de l'IA militent même pour un ralentissement maîtrisé afin de garantir que le contrôle humain reste au même rythme que l'intelligence artificielle.
Irregular a noté qu'il n'y a aucun problème connu avec l'agent IA de Meta
Meta a indiqué qu'Irregular, fournisseur de solutions de sécurité en intelligence artificielle, avait effectué les tests et l'avait alertée de la faille. L'entreprise a ajouté qu'elle prévoyait de communiquer davantage d'informations sur l'incidentdent fois tous les faits confirmés.
Elle a affirmé que son agent d'IA « avait exploité une faille de sécurité dans un service tiers ». Des sources ontdentl'IA malveillante comme étant Muse Spark 1.1, un modèle fortement promu par Meta pour ses compétences de programmation exceptionnelles.
Irregular a déclaré que l'dent se résume à la même faille environnementale qu'Anthropic a révélée la semaine dernière, excluant complètement un exploit de piratage complexe ou une évasion du mode bac à sable.
Et bien que Meta ait déclaré que la faille était due à une mauvaise configuration de l'environnement de test plutôt qu'à une évasiondentde l'IA de son environnement isolé, les chercheurs affirment que l'dent démontre que la sécurité repose non seulement sur le modèle lui-même, mais aussi sur son infrastructure.
Même les systèmes d'IA les plus sécurisés peuvent avoir un comportement inattendu si les contrôles d'accès, les autorisations réseau ou les environnements de test ne sont pas correctement configurés.
Il est également précisé : « Il n’y a actuellement aucun problème en suspens. Irregular est en train de rédiger un livre blanc afin de partager les meilleures pratiques en matière de confinement et de réalisation sécurisée d’évaluations de cybersécurité. »
L'AISI affirme que les modèles d'OpenAI et d'Anthropic ont tenté d'influencer les responsables de la maintenance humaine
Auparavant, OpenAI avait admis que ses systèmes autonomes avaient infiltré plusieurs réseaux publics, dont la plateforme communautaire d'IA Hugging Face. Suite à ces révélations, Anthropic a mené ses propres contrôles de sécurité, qui ont mis en évidence que Claude avait perpétré des attaques similaires contre plusieurs entreprises après qu'une erreur de configuration lui ait permis d'accéder à Internet.
Un rapport des autorités de régulation britanniques a toutefois révélé des problèmes plus inquiétants. Selon l'Institut britannique de sécurité de l'IA, des modèles d'IA d'OpenAI et d'Anthropic ont tenté d'intégrer du code malveillant à un projet open source en influençant ses responsables humains.
« Afin de faire approuver le code, l'agent a eu recours à l'ingénierie sociale — créant de faussesdenten ligne et les utilisant pour faire pression sur le responsable du projet afin qu'il approuve le code », a déclaré l'AISI.
L'organisme a constaté que toutes ces tentatives avaient échoué et n'avaient causé aucun dommage concret. Malgré l'absence de dégâts réels et l'échec de chaque tentative, il a averti qu'il s'agissait de la preuve concrète la plus flagrante à ce jour d'une IA agissant de manière trompeuse et des dangers liés à l'autonomie.
L'AISI a également expliqué ses critères de test : « Pour mesurer ce que ces modèles peuvent réellement faire, nous les testons dans des conditions qui reflètent ce qu'un attaquant humain compétent pourrait faire. »
Jusqu'à présent, OpenAI a reconnu l'dent lors des essais AISI, et a déclaré vouloir mettre en place des garde-fous plus efficaces à l'échelle de l'industrie pour tester les modèles instables. L'entreprise a également rendu public un autre incidentdent duquel Irregulardenta exposé ses modèles sur Internet lors d'un exercice de simulation.
L'entreprise s'est engagée à renforcer sa surveillance des tests effectués par des tiers, notamment en ce qui concerne la manière dont elle détermine quelles évaluations comportent un risque plus élevé, examine les demandes d'accès à Internet ou de garanties moindres, gère l'isolement et l'dent, surveille les tests et réagit auxdentgrâce à des procédures d'escalade plus claires.
Parallèlement, la Maison Blanche a invité cette semaine les principaux développeurs d'IA, dont Meta, Anthropic, OpenAI et Google, à discuter d'un cadre volontaire récemment finalisé pour les tests de cybersécurité des systèmes d'IA avancés.
Lors de discussions avec des représentants de l'entreprise, l'administration Trump a déclaré que les modèles d'IA à poids ouvert comme Llama de Meta ettron de Nvidia ne seraient pas couverts par son cadre de tests de sécurité volontaires proposé.
Cette exemption a suscité un débat parmi les chercheurs en sécurité de l'IA, qui font valoir que les modèles à pondération ouverte peuvent être librement téléchargés, modifiés et affinés par des tiers.
Les critiques affirment que leur exclusion des lignes directrices relatives aux tests volontaires pourrait créer des angles morts à mesure que des modèles de plus en plus performants deviennent largement disponibles en dehors du contrôle de leurs développeurs d'origine.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Pourquoi l'agent IA de Meta a-t-il piraté une autre entreprise ?
Meta a déclaré que l'IA avait accédé au système d'une autre entreprise en raison d'une erreur dans l'environnement de test lors d'une évaluation de cybersécurité.
D'autres entreprises spécialisées dans l'IA ont-elles connu desdentde sécurité similaires ?
Oui. OpenAI et Anthropic ont également signalé des cas où leurs modèles d'IA ont tenté d'accéder à de véritables systèmes en ligne lors de tests de sécurité.
Pourquoi les experts en sécurité de l'IA s'inquiètent-ils des agents d'IA autonomes ?
Les experts affirment que les agents d'IA peuvent effectuer des tâches de manière autonome, ils ont donc besoin detronprotections pour éviter tout comportement inattendu ou dangereux lors des tests.
Nellius Irène
Nellius est diplômée en gestion d'entreprise et en informatique et possède cinq ans d'expérience dans le secteur des cryptomonnaies. Elle est également diplômée de Bitcoin Dada. Nellius a collaboré avec des publications médiatiques de premier plan, notamment BanklessTimes, Cryptobasic et Riseup Media.
