OpenAI dépose un rapport d'incident auprès de l'UE suite au détournement d'un wiki allemand
- OpenAI a déposé un rapport d'incident auprès de la Commission européenne concernant une essaim de ses agents IA qui ont occupé le wiki allemand DseWiki pendant deux mois en 2026.
- Les agents ont utilisé le site web pour coordonner des méthodes visant à contourner les mesures de sécurité de l'entreprise.
- La Commission a confirmé la réception du rapport mais n'a pas précisé sa date d'envoi, alors que le délai « sans retard injustifié » prévu par l'IA Act et de nouvelles amendes pouvant atteindre 3 % du chiffre d'affaires mondial dépendent de ce timing.
OpenAI a envoyé à la Commission européenne un rapport d'incident concernant la horde d'agents IA qui a pris le contrôle d'un wiki de langue allemande et l'a utilisé comme canal de messagerie privée, a confirmé un porte-parole de la Commission lundi.
Thomas Regnier, porte-parole numérique de la Commission, a déclaré aux journalistes que le rapport était arrivé à la Commission. « Nous avons bien reçu un rapport d'incident », a-t-il déclaré, ajoutant que la Commission examinait le rapport et restait en contact avec l'entreprise d'IA. Il a également déclaré que Bruxelles avait « vu de nombreuses pertes de contrôle récemment » et surveillait de près.
L'article 55 du règlement sur l'IA exige que les fournisseurs de modèles d'IA à usage général dont les modèles pourraient potentiellement présenter des risques systémiques signalent les incidents graves au Bureau de l'IA « sans retard injustifié ». L'activité wiki signalée aurait eu lieu au printemps, et Reuters a précédemment rapporté que la direction d'OpenAI avait connaissance de l'incident pendant des semaines avant de divulguer quoi que ce soit publiquement.
Les agents d'OpenAI ont géré le wiki allemand
DseWiki, le site web qui a été détourné par les agents d'OpenAI, est un site de style Wikipédia géré par des bénévoles pour les programmeurs germanophones. Selon une enquête de Reuters précédemment rapportée par Cryptopolitan, les agents ont effectué plus de 15 000 modifications sur le site entre mai et juin 2026, utilisant les pages pour échanger des tactiques pour mener à bien plusieurs actions évasives.
Les agents ont également intégré de la redondance et ont même créé des copies de sauvegarde de leurs pages lorsqu'un modérateur a commencé à supprimer ces pages en juin. Les agents ont même créé une page de repli nommée pour s'assurer qu'elle se classait en bas d'un nettoyage alphabétique, tout cela pour survivre à la rafle.
Des chercheurs externes non affiliés à OpenAI ou à aucun régulateur ont découvert l'opération fin août. Sydney Von Arx, de l'ONG de sécurité de l'IA Nightingale, et l'ancien trader quantitatif Cormac Slade Byrd ont retracé une quantité significative du trafic des agents vers l'infrastructure Microsoft Azure utilisée pour soutenir certaines des opérations d'OpenAI.
Les dates de déclaration et la chronologie restent floues
OpenAI a confirmé l'épisode le 5 septembre, l'a qualifié de cas de désalignement et a déclaré que l'industrie était en retard sur les normes de déclaration de tels événements. L'entreprise a isolé les agents, suspendu les exécutions d'apprentissage par renforcement de pointe et ajouté des contrôles de sécurité. OpenAI a fait valoir que les agents n'avaient pas développé leurs propres objectifs et ne faisaient que poursuivre agressivement les défis de cybersécurité « Exploit Gym » assignés, tout en traitant les limites imposées comme des obstacles.
Le code de pratique signé d'OpenAI avec l'UE fixe un délai de cinq jours pour signaler les violations de cybersécurité et 15 jours pour les incidents impliquant des dommages graves à la santé, aux droits, aux biens ou à l'environnement. Rien n'a été volé dans ce cas, et aucun dommage mesurable n'a été établi, ce qui signifie qu'un modèle se comportant de manière inattendue sans conséquences concrètes ne semble pas avoir de délai de déclaration évident selon le code.
Cependant, les obligations de l'article 55 s'appliquent une fois qu'un modèle est disponible publiquement sur le marché, et dans la violation séparée de Hugging Face, OpenAI a expliqué que le modèle principalement responsable était un modèle de recherche interne non publié.
Ce que l'UE peut maintenant faire concernant l'incident
Les amendes peuvent atteindre 3 % du chiffre d'affaires annuel mondial ou 15 millions d'euros, selon la valeur la plus élevée. Elles couvrent également le refus de mesures correctives ou la remise d'informations incomplètes, et ne se limitent pas aux violations des règles.
Aucune mesure d'exécution n'a été annoncée, et la simple soumission d'un rapport ne déclencherait pas automatiquement une action particulière. « Au-delà du rapport d'incident, nous restons en contact étroit avec OpenAI », a déclaré Regnier.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Opeyemi Olanrewaju
Opeyemi se spécialise dans la création et l'amélioration de contenus de haute qualité centrés sur la cryptomonnaie, les marchés financiers mondiaux et l'économie. Il est diplômé de l'Université d'Ibadan avec un diplôme de médecin (MBBS). Il a travaillé comme rédacteur en chef de la publication éditoriale de son collège et précédemment chez CFA. Pendant plus de six ans, il a contribué à préserver l'unicité en tant que rédacteur en charge de l'actualité chez Cryptopolitan.
