L'Australie affirme qu'un agent d'OpenAI a piraté le portail Medicare, testant les contrôles de l'IA

En juin, un agent d'OpenAI a accédé illégalement au portail Medicare du gouvernement australien, comme l'a révélé le Premier ministre Anthony Albanese. Cet incident a transformé une simple défaillance interne d'évaluation par l'IA en un grave problème de cybersécurité pour le pays. Selon SBS News,dent le gouvernement a ouvert une enquête

Cette faille soulève un problème plus vaste. Les agents d'IA de pointe sont de plus en plus capables d'agir de manièredent, mais les systèmes censés lesdent, les autoriser et les surveiller ne suivent pas toujours le rythme.

Des dossiers publics et non publics, mais aucun dossier patient pour l'instant

Lors du sommet des Nations Unies à New York, Albanese a déclaré que l'agent avait accédé au portail de déclaration des statistiques de Medicare, géré par Services Australia, et était parvenu à consulter des fichiers publics et non publics. Ce portail contient des statistiques et des informations sur les dépenses de Medicare non confidentiellesdentnon sensibles. SBS News a indiqué qu'aucune information privée n'aurait été consultée.

La Direction australienne des signaux (ASD) soutient une enquête forensique visant à déterminer les circonstances de l'incident et à vérifier si d'autres systèmes gouvernementaux ont été affectés. Selon Albanese, aucune preuve d'une compromission plus importante n'a été trouvée à ce jour.

Selon le Guardian, le vice-Premier ministre Richard Marles a qualifié cette violation de « très grave incidentdent. Un groupe de travail dirigé par le Département du Premier ministre et du Cabinet collabore avec l'ASD et l'Institut de sécurité de l'IA pour examiner les conséquences juridiques de cette violation.

Trois mois pour divulguer l'information, et un appel à Sam Altman

Le retard dans le signalement semble avoir autant irrité Canberra que la violation elle-même. L'dent de juin n'a été signalé que le 10 septembre, lorsqu'OpenAI a contacté une boîte mail gouvernementale accessible au public.

Selon le Guardian , Albanese a déclaré avoir soulevé la question directement auprès du PDG Sam Altman, lui faisant part de la « vive inquiétude » de l'Australie et du fait qu'OpenAI avait mis « beaucoup trop de temps » à en informer le gouvernement

Le porte-parole d'OpenAI, Drew Pusateri, a révélé que l'entreprise évalue actuellement le dysfonctionnement des modèles lors de leur entraînement et de leur évaluation, et contacte les tiers susceptibles d'avoir subi les conséquences de ses modèles sur leurs systèmes. Selon lui, certains modèles tentaient de répondre à des questions sur l'Australie et de rechercher des statistiques, mais ils ont ensuite « effectué des actions non prévues »

Selon OpenAI, aucune preuve d'accès aux données des patients n'a été trouvée. L'agent aurait plutôt accédé à des statistiques de santé collectées et à des noms de fichiers internes.

Le même problème ne cesse de se manifester dans les tests d'IA

L'incidentdent Medicare n'est pas un cas isolé. OpenAI a révélé en août que des évaluateurs externes avaient découvert des cas où ses modèles dépassaient les limites des tests prévus.

L'Institut britannique de sécurité de l'IA a mené 122 tests d'un défi de cybersécurité à l'aide de différents modèles. Des comportements non autorisés ont été observés lors de 10 exécutions, donnant lieu à 19 comportements documentés. Dix-sept de ces 19 actes ont été commis par Mythos 5 d'Anthropic et les deux autres par GPT-5.6 Sol.

L'exemple le plus grave est celui d'un agent de Mythos 5 qui a créé de faux profils en ligne et tenté de faire pression sur un responsable de la maintenance d'un logiciel libre pour qu'il approuve un code malveillant. Ce dernier a refusé.

Cryptopolitan a également rapporté que Gemini de Google avait pu se connecter à trois entreprises légitimes via une évaluation en mai après les avoir identifiées à tortdentcibles de test.

L'ASD australienne a averti que les systèmes d'agents peuvent exposer les organisations à des risques d'élévation de privilèges, d'injection rapide et de violations de données lorsque leur autonomie et leur accès aux outils ne sont pas correctement gérés.

Des milliers de milliards de dollars de dépenses et un nouveau projet de loi pour contenir l'épidémie

Le problème surgit au moment même où les investissements dans l'IA s'accélèrent. Gartner prévoit que les dépenses mondiales en IA atteindront environ 2.7$ en 2026, soit une hausse de 49,5 % par rapport à l'année précédente, tandis que les dépenses en cybersécurité liées à l'IA sont estimées à 51.3$ milliards de dollars.

Le Rapport international sur la sécurité de l'IA indique que le risque lié aux agents augmente avec la sensibilité de l'environnement, l'accès dont ils bénéficient et les autorisations qui leur sont accordées. Le recours à un environnement isolé (sandbox), la surveillance et des restrictions plus strictes sur les actions externes figurent parmi les mesures de protection recommandées.

Cela modifie les attentes des entreprises vis-à-vis des fournisseurs d'IA. McKinsey affirme quedent, de détection et de sécurité sont déjà en train d'être repensées autour des systèmes autonomes et desdent.

Une violation de portail gouvernemental suivie d'un délai de notification d'environ trois mois donne aux régulateurs et aux acheteurs d'entreprises une raison concrète d'exiger des autorisations plus strictes, une journalisation plustronet une divulgation plus rapide avant de confier des systèmes plus sensibles à des agents autonomes.