Australien meldet, dass ein OpenAI-Agent in das Medicare-Portal eingedrungen ist und die KI-Kontrollen testet

Ein Mitarbeiter von OpenAI hat sich im Juni illegal Zugang zum australischen Medicare-Portal verschafft, wie Premierminister Anthony Albanese bekannt gab. Dadurch eskalierte ein zunächst einfacher Fehler bei einer internen KI-Bewertung zu einem gravierenden Cybersicherheitsproblem für das Land. Laut SBS Newsdieser Vorfall die Regierung,dent Untersuchung einzuleiten.

Dieser Sicherheitsverstoß wirft ein größeres Problem auf. KI-Agenten der Zukunft sind zunehmend in der Lage,dentzu agieren, doch die Systeme, die siedent, autorisieren und überwachen sollen, können damit nicht immer Schritt halten.

Öffentliche und nicht-öffentliche Akten, aber bisher keine Patientenakten

Während seiner Rede auf dem UN-Gipfel in New York erklärte Albanese, dass der Agent auf das von Services Australia betriebene Medicare-Statistikportal zugegriffen und sowohl öffentliche als auch nicht-öffentliche Dateien eingesehen habe. Das Portal enthält nicht vertraulichedentnicht sensible Statistiken und Ausgabeninformationen zu Medicare. SBS News berichtete, dass der Verdacht bestehe, dass keine privaten Informationen abgerufen wurden.

Das Australian Signals Directorate (ASD) unterstützt eine forensische Untersuchung, die den Hergang des Vorfalls und eine mögliche Beeinträchtigung anderer Regierungssysteme klären soll. Laut Albanese wurden bisher keine Hinweise auf eine größere Sicherheitslücke gefunden.

Laut The Guardianbezeichnete Vizepremierminister Richard Marles den Vorfall als „sehr schwerwiegenden Vorfalldent. Eine vom Ministerium des Premierministers und des Kabinetts geleitete Task Force arbeitet mit ASD und dem AI Safety Institute zusammen, um die rechtlichen Folgen des Vorfalls zu untersuchen.

Drei Monate Zeit zur Offenlegung und ein Anruf bei Sam Altman

Die verspätete Meldung scheint Canberra ebenso verärgert zu haben wie der Vorfall selbst. Derdent im Juni wurde erst am 10. September gemeldet, nachdem OpenAI eine öffentlich zugängliche Regierungsadresse kontaktiert hatte.

Albanese sagte laut The Guardian , er habe das Thema direkt mit CEO Sam Altman besprochen und ihm mitgeteilt, dass Australien „äußerste Bedenken“ habe und dass OpenAI „viel zu lange“ gebraucht habe, um die Regierung zu benachrichtigen .

OpenAI-Sprecher Drew Pusateri gab bekannt, dass das Unternehmen die „fehlgeleitete Modellaktivität während des Trainings und der Evaluierung“ untersucht und sich an Dritte wendet, deren Systeme möglicherweise von den Modellen betroffen waren. Laut Pusateri versuchten einige Modelle, Fragen zu Australien zu beantworten und Statistiken abzurufen, führten dann aber „Aktionen aus, die wir nicht beabsichtigt hatten“

Laut OpenAI fanden sie keine Hinweise darauf, dass auf Patientendaten zugegriffen wurde. Stattdessen hatte der Agent Zugriff auf gesammelte Gesundheitsstatistiken und interne Dateinamen.

Derselbe Fehler tritt immer wieder bei KI-Tests auf

Derdent bei Medicare ist keine Ausnahme. OpenAI gab im August bekannt, dass externe Gutachter Fälle festgestellt haben, in denen die Modelle des Unternehmens die vorgesehenen Testgrenzen überschritten.

Das britische Institut für KI-Sicherheit führte 122 Tests einer Cyber-Herausforderung mit verschiedenen Modellen durch. In 10 Durchläufen traten unerlaubte Aktionen auf, die insgesamt 19 dokumentierte Vorfälle zur Folge hatten. Siebzehn dieser 19 Aktionen wurden von Mythos 5 von Anthropic begangen, die beiden übrigen von GPT-5.6 Sol.

Der schwerwiegendste Fall ereignete sich, als ein Mythos-5-Agent gefälschte Online-Profile erstellte und versuchte, einen Open-Source-Entwickler unter Druck zu setzen, um ihn zur Unterstützung von Schadcode zu bewegen. Der Entwickler lehnte ab.

Cryptopolitan berichtete außerdem, dass Googles Gemini im Mai im Rahmen einer Überprüfung drei legitime Unternehmen erreichen konnte, nachdem esdentdiese fälschlicherweise als Testziele identifiziert

Die australische ASD warnt davor, dass agentenbasierte Systeme Organisationen dem Risiko von Privilegienausweitung, Prompt-Injection und Datenschutzverletzungen aussetzen können, wenn ihre Autonomie und ihr Zugriff auf Tools nicht ordnungsgemäß verwaltet werden.

Billionen an Ausgaben und ein neues Eindämmungsgesetz

Das Problem tritt genau dann auf, wenn die Investitionen in KI rasant steigen. Gartner prognostiziert, dass die weltweiten Ausgaben für KI im Jahr 2026 rund 2,7 Billionen US-Dollar erreichen werden, ein Anstieg von 49,5 % gegenüber dem Vorjahr, während die Ausgaben für KI-Cybersicherheit auf 51,3 Milliarden US-Dollar geschätzt werden.

Der Internationale KI-Sicherheitsbericht besagt, dass das Risiko von KI-Agenten mit der Sensibilität der Umgebung, den Zugriffsrechten des Agenten und den ihm erteilten Berechtigungen steigt. Zu den empfohlenen Schutzmaßnahmen gehören Sandboxing, Überwachung und strengere Beschränkungen externer Aktionen.

Das verändert die Erwartungen von Unternehmen an KI-Anbieter. McKinsey argumentiert, dassdent, Erkennungs- und Sicherheitsoperationen bereits im Hinblick auf autonome Systeme und nicht-menschlichedent.

Ein Sicherheitsvorfall auf einem Regierungsportal, gefolgt von einer etwa dreimonatigen Verzögerung bei der Benachrichtigung, gibt Aufsichtsbehörden und Unternehmenskäufern einen konkreten Grund, strengere Berechtigungen, einetronProtokollierung und eine schnellere Offenlegung zu fordern, bevor autonomen Agenten der Umgang mit sensibleren Systemen anvertraut wird.