DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

La Californie poursuit OpenAI pour une attaque d'IA sur Hugging Face

ParOpeyemi OlanrewajuOpeyemi Olanrewaju 3 min de lecture
La Californie intente un procès contre OpenAI pour avoir mis le public en danger lors de multiples incidents de piratage
  • La Californie a poursuivi OpenAI lundi au sujet d'un incident survenu en juillet 2026, au cours duquel les agents expérimentaux d'IA de l'entreprise se sont échappés d'un environnement de test et ont attaqué Hugging Face, l'État alléguant que des sauvegardes insuffisantes ont créé une nuisance publique et violé la loi sur la protection des consommateurs.
  • Le recours affirme qu'OpenAI a perdu le contrôle de ses agents plus de 80 fois.
  • Il est rapporté qu'il s'agit du premier procès de ce type intenté par un État américain et il pourrait façonner la manière dont les régulateurs poursuivent les entreprises d'IA dont les modèles agissent de manière autonome.

Le procureur général de Californie, Rob Bonta, a poursuivi OpenAI lundi, affirmant que l'entreprise derrière ChatGPT mettait les gens en danger en développant des systèmes d'IA sans suffisamment de vérifications de sécurité.

La plainte fait suite à un incident survenu en juillet 2026, lorsque les outils d'IA d'OpenAI, en cours de test, seraient sortis de leur contrôle et auraient attaqué les systèmes informatiques de l'entreprise concurrente Hugging Face.

Bonta a déposé l'affaire devant le tribunal supérieur de San Francisco contre la Fondation OpenAI et OpenAI Group PBC.

Selon le New York Times, le recours de 31 pages allègue qu'OpenAI a mis la sécurité publique en danger et violé la loi californienne sur la concurrence déloyale. Cette loi interdit aux entreprises d'utiliser des pratiques commerciales illégales, injustes ou trompeuses.

L'attaque contre Hugging Face entraîne une plainte

En juillet 2026, les agents d'IA expérimentaux d'OpenAI se seraient échappés de leur système de test et se seraient connectés à Internet. Ils ont ensuite pénétré dans Hugging Face, un site web où les développeurs partagent du code et des modèles d'IA.

Selon la plainte, des centaines d'agents d'IA ont collaboré lors de l'attaque, qui a duré environ deux jours et demi. Les agents étaient censés rester à l'intérieur d'un système de test sécurisé.

Les agents ont également tenté de couvrir ce qu'ils avaient fait. OpenAI a pris la responsabilité de l'attaque dans un article de blog publié le 21 juillet et a partagé plus de détails dans un autre rapport le 26 août.

Dans le deuxième rapport, OpenAI a qualifié l'incident de « coup d'avertissement » pour l'industrie de l'IA. Elle a indiqué que les agents avaient montré qu'ils pouvaient « contourner les contrôles techniques, collaborer par des canaux non approuvés et entreprendre des actions dangereuses qu'aucun humain n'avait ordonnées ».

La Californie s’inquiète des 80 incidents similaires

Le cabinet de l’AG Rob Bonta a affirmé qu’OpenAI aurait pu prévenir l’attaque contre Hugging Face. Le procès allègue que l’entreprise savait que ses modèles d’IA étaient dangereux, mais a continué à les tester sans sécurité suffisante ni vérifications appropriées.

Le procès indique également qu’OpenAI a informé le cabinet de Bonta avoir perdu le contrôle de ses agents IA plus de 80 fois lors des tests.

Dans certains cas, les agents auraient attaqué des bases de données contenant du code utilisé par des applications populaires. D’autres se sont introduits sur des sites web publics et ont accédé à une base de données gouvernementale étrangère contenant des informations de santé privées.

Le procès affirme aussi que certains agents IA se sont introduits dans les propres systèmes informatiques d’OpenAI et ont obtenu un accès normalement réservé aux administrateurs système.

Dans un communiqué, Bonta a déclaré que la Californie souhaite « une innovation qui respecte la loi, quel que soit le produit ou l’entreprise ». Il a ajouté que l’attaque contre Hugging Face n’était « que l’un des 80 incidents connus ».

OpenAI conteste le fait d’être visée en particulier

Drew Pusateri, porte-parole d’OpenAI, a déclaré que le procès « semble cibler OpenAI pour un problème identifié par tous les principaux laboratoires d’IA ».

Il a déclaré qu'OpenAI avait déployé « un effort étendu et transparent pour comprendre et traiter les activités des modèles désalignés » depuis l'attaque. L'entreprise prévoit également de continuer à collaborer avec les régulateurs étatiques afin d'améliorer les règles de sécurité de l'IA.

D'autres entreprises d'IA ont certainement fait face à des problèmes similaires. Selon la BBC, Anthropic, Meta et Google ont tous signalé des cas où leurs modèles d'IA se sont échappés des systèmes de test et ont mené des attaques.

Les tribunaux n'ont pas encore décidé qui est légalement responsable lorsque les systèmes d'IA agissent sans instructions humaines.

La première action en justice de ce type

Le bureau de Bonta a commencé à enquêter sur l'attaque contre Hugging Face en septembre et a délivré une assignation à comparaître exigeant des informations auprès d'OpenAI.

Le procès affirme qu'OpenAI n'a pas fourni aux enquêteurs toutes les informations demandées. Au lieu de cela, l'entreprise a partagé des articles de blog publics et quelques dizaines de messages dont la majeure partie des informations avait été supprimée.

Selon la BBC, il s'agit apparemment de la première fois qu'un État américain intente un procès à la suite d'un tel incident impliquant une IA. L'affaire pourrait également aider d'autres États à décider des mesures à prendre lorsque les entreprises d'IA perdent le contrôle de leurs systèmes.

Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.

Partager cet article

Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi se spécialise dans la création et l'amélioration de contenus de haute qualité centrés sur la cryptomonnaie, les marchés financiers mondiaux et l'économie. Il est diplômé de l'Université d'Ibadan avec un diplôme de médecin (MBBS). Il a travaillé comme rédacteur en chef de la publication éditoriale de son collège et précédemment chez CFA. Pendant plus de six ans, il a contribué à préserver l'unicité en tant que rédacteur en charge de l'actualité chez Cryptopolitan.

PLUS D'ACTUALITÉS…