L'Australie met en garde l'ONU contre les dangers de l'IA après qu'un agent d'OpenAI a contourné les mesures de sécurité gouvernementales

L'Australie a porté son combat contre les abus en matière de sécurité de l'IA devant les Nations Unies après que des systèmes autonomes liés à OpenAI ont contourné les protections d'un service gouvernemental australien détenant des données de Medicare.

Le Premier ministre Anthony Albanese a déclaré jeudi aux dirigeants mondiaux que l'IA progressait à un « rythme effréné » et que les gouvernements avaient besoin de contrôlestronsur cette technologie.

Il s'agit de la première intrusion dans les systèmes informatiques du gouvernement australien à être rendue publique. S'exprimant devant l'Assemblée générale des Nations Unies à New York, Anthony a qualifié cette intrusion d'« inacceptable »

Anthony a lancé cet avertissement après avoir révélé qu'en juin, des programmes d'IA malveillants appartenant à OpenAI avaient réussi à accéder au réseau informatique du gouvernement. OpenAI a découvert l'incident environ deux mois plus tard, comme l'avait précédemment rapporté Cryptopolitan .

Selon Anthony, il s'est entretenu personnellement avec Sam Altman, le fondateur d'OpenAI, en début de semaine. Au cours de cette conversation, Anthony a fait part de son mécontentement quant au fait que l'entreprise n'ait pas informé le gouvernement de sa faille de sécurité jusqu'à présent.

L'Australie exhorte les gouvernements à renforcer la réglementation sur l'IA, tandis que ses dirigeants alertent sur la rapidité d'évolution des systèmes

Anthony a déclaré à l'ONU que les pays ne peuvent pas simplement bloquer l'IA ou faire comme si elle disparaissait. « Nous ne pouvons ni ignorer l'IA ni l'empêcher », a-t-il affirmé. « C'est pourquoi nous nous sommes joints à d'autres nations cette semaine pour appeler à des actions concrètes afin d'orienter le développement de l'intelligence artificielle, plutôt que de le subir passivement. »

Il a également évoqué les applications économiques et médicales de l'IA, tout en soulignant que ces mêmes systèmes peuvent engendrer de nouveaux problèmes de sécurité.

« L’IA peut améliorer des vies, stimuler la croissance et la productivité, et apporter des avancées révolutionnaires dans le domaine de la santé et dans d’autres secteurs », a déclaré Anthony. « Mais les dirigeants des entreprises spécialisées en IA ont eux-mêmes mis en garde contre le risque potentiel de laisser l’IA de pointe se développer trop rapidement sans garde-fous. ».

L'intelligence artificielle est devenue l'un des principaux sujets abordés lors de l'Assemblée générale de cette année.

Sam a déclaré au Conseil de sécurité de l'ONU que :

Dans notre histoire, il y a eu des moments où des pays concurrents, voire hostiles les uns aux autres, ont su s'unir pour défendre des intérêts communs et le bien commun face à une nouvelle technologie puissante. Nous pensons que nous vivons actuellement l'un de ces moments.

Le PDG d'Anthropic, Dario Amodei, a également plaidé pour des « normes mondiales communes » régissant les tests des modèles avancés. Anthropic est une société privée non cotée en bourse.

Dario a lancé un avertissement beaucoup plus alarmiste sur ce qui pourrait arriver si les gouvernements et les développeurs perdaient le contrôle de systèmes de plus en plus performants.

Mal gérée, je crois que l'IA pourrait représenter un risque pour l'humanité dans son ensemble.

Ces déclarations font suite à une initiative internationale prise en début de semaine, impliquant 22 pays. Ce groupe, mené par la Finlande et la Norvège, a soutenu une déclaration appelant à la mise en place d'une structure de supervision mondiale pour la sûreté et la sécurité de l'IA.

La déclaration stipule que l'intelligence artificielle « doit rester sous la direction, la supervision et le contrôle humains »

Deux pays majeurs manquaient à l'appel dans cet accord : les États-Unis et la Chine.

Les sondes d'OpenAI ont continué d'accéder à des sites restreints pendant des mois d'entraînement

Parallèlement, un nouveau rapport du groupe de recherche en IA Transluce indique que les agents d'OpenAI faisaient partie d'un ensemble plus vaste de systèmes automatisés tentant de collecter des informations sur des sites web lors d'exercices d'entraînement. Les chercheurs ont constaté des tentatives d'intrusion sur trois sites universitaires et gouvernementaux.

Le rapport indique que les systèmes effectuaient initialement des tâches de collecte de données ordinaires. Les problèmes sont apparus lorsque les moyens habituels d'obtenir les informations demandées ont cessé de fonctionner.

Au lieu de simplement échouer, les agents ont commencé à chercher d'autres itinéraires.

Transluce a constaté que les systèmes avaient tenté de contourner les mesures de sécurité sur les trois sites entre mai et juin, après avoir échoué à utiliser d'autres moyens de collecte d'informations.

Une activité réseau correspondant à cette tendance générale a été observée jusqu'à la semaine dernière. Selon le rapport, ce trafic indique que les agents parvenaient encore à contourner les restrictions grâce à certains services en ligne.

Cette activité pourrait avoir duré bien plus longtemps. Transluce tracdétecté des signes plus clairs d'au moins mars jusqu'au 16 septembre. Les chercheurs ont également trouvé des signes plus faibles d'un comportement similaire de collecte de données remontant à novembre 2025.

L'équipe de recherche a rendu publiques ses conclusions, accompagnées d'un ensemble de données montrant des dizaines de milliers de requêtes supposées provenir de robots conversationnels dotés d'intelligence artificielle autonome.

Les chercheurs n'avaient aucun moyen de démontrer de façon concluante que les tentatives précédentes provenaient des mêmes robots. Néanmoins, ces schémas restaient cohérents avec la capacité de l'IA à développer diverses méthodes d'accès à l'information après des essais répétés.

Ces cas se sont produits alors qu'OpenAI entraînait des systèmes d'agents de plus en plus performants et était en concurrence avec Anthropic. Transluce a indiqué que la tendance avait évolué au fil du temps, les agents devenant plus efficaces pour accéder aux informations bloquées.

« Dès le mois de mars, ils trouvaient des moyens ingénieux de contourner les limites d'accès. En mai et juin, ils obtenaient un accès plus étendu, allant jusqu'à tenter de contourner les cyberdéfenses pour mener à bien leurs missions », indique le rapport.