Wird die Bewaffnung mit KI zur neuen Norm in der Cyberkriegsführung? Erkenntnisse von Microsoft und OpenAI

In einer bahnbrechenden Enthüllung, die Licht auf die sich wandelnde Cybersicherheitslandschaft wirft, haben Microsoft und OpenAI einen besorgniserregenden Trend aufgedeckt: Nationalstaaten setzen KI als Waffe in Cyberangriffen ein. Die Zusammenarbeit dieser Technologiekonzerne hat die Nutzung großer Sprachmodelle (LLMs) durch einflussreiche Akteure offengelegt, die mit globalen Großmächten verbündet sind – ein bedeutender Fortschritt im Bereich der Cybersicherheit.

Nationalstaatliche APTs, die OpenAI nutzen

Experteneinblicke in den aktuellen Stand und die potenziellen zukünftigen Auswirkungen KI-gestützter Cyberbedrohungen beleuchten die sich wandelnde Landschaft der Cybersicherheit. Diese Bedrohungsakteure, die mit China, Iran, Nordkorea und Russland in Verbindung stehen, nutzen KI für verschiedene Zwecke, von der Informationsbeschaffung über Phishing-Angriffe bis hin zur Codegenerierung. Bekannte Gruppen wie Fancy Bear, Charcoal Typhoon und Crimson Sandstorm gehören zu denjenigen, die OpenAI-Technologie für kriminelle Aktivitäten einsetzen.

Fancy Bear, auch bekannt als Forest Blizzard, berüchtigt für seine Verbindung zur Hauptverwaltung des Generalstabs der Streitkräfte der Russischen Föderation (GRU), integriert LLMs in Operationen zur Skripterstellung, Informationsbeschaffung und Forschung zu Satellitenkommunikationsprotokollen, die insbesondere im Ukraine-Konflikt relevant sind.

Die chinesischen staatlichen Akteure Charcoal Typhoon und Salmon Typhoon beweisen Kompetenz in KI-gestützten Aktivitäten wie Informationsbeschaffung, Skriptgenerierung und Social Engineering. Auch Irans Crimson Sandstorm nutzt OpenAI, um irreführende Phishing-Materialien zu entwickeln und Operationen durch KI-generierte Code-Snippets zu optimieren.

Emerald Sleet, das dem Regime von Kim Jong-un zugeschrieben wird, führt einfache Skripting-Aufgaben durch und generiert Phishing-Inhalte. Gleichzeitig nutzt es LLMs (Low-Level Machines) zur Erforschung von Sicherheitslücken und zum Sammeln verteidigungsrelevanter Informationen. Diese Beispiele verdeutlichen die vielfältigen und sich stetig weiterentwickelnden Einsatzmöglichkeiten von KI in Cyberoperationen durch staatliche Akteure.

KI als Waffe – Der Einfluss von KI auf die Cybersicherheit ist derzeit noch begrenzt

Trotz des Einsatzes von LLMs durch Angreifer betonen Experten, dass der Einfluss von KI bei Cyberangriffen begrenzt bleibt und primär der Verbesserung bestehender Fähigkeiten dient, anstatt Angriffsmethoden zu revolutionieren. Es bestehen jedoch Bedenken hinsichtlich der Skalierbarkeit und Anpassungsfähigkeit KI-gestützter Angriffe, was zu anhaltender Wachsamkeit und der Einhaltung bewährter Verfahren der Cybersicherheit führt.

Joseph Thacker, leitender KI-Ingenieur und Sicherheitsforscher bei AppOmni, betont, dass KI zwar Vorteile für Angreifer bietet, ihr transformatives Potenzial aber noch nicht voll ausgeschöpft ist. Thacker vermutet, dass Angreifer mit Expertise in der Softwareentwicklung LLMs nutzen, um die Erstellung von Schadcode zu beschleunigen und so ihre operative Effizienz zu steigern. Er hebt jedoch hervor, dass sich die grundlegende Natur von Cyberbedrohungen nicht wesentlich verändert hat und KI primär inkrementelle Verbesserungen ermöglicht, anstatt bahnbrechende Innovationen bei Angriffsmethoden hervorzubringen.

Thacker hebt das Potenzial KI-gestützter Angriffe hervor, sich in Umfang und Reichweite auszuweiten, begünstigt durch die Vielseitigkeit von LLMs bei der Sprachübersetzung und Codekonvertierung. Obwohl aktuelle KI-gesteuerte Cyberoperationen möglicherweise keine neuartigen Techniken aufweisen, warnt Thacker vor der Möglichkeit unentdeckter Fortschritte bei KI-basierten Bedrohungsvektoren. Daher plädiert er für einen proaktiven Ansatz in der Cybersicherheit und betont die Wichtigkeit kontinuierlicher Überwachung und robuster Verteidigungsmaßnahmen zur Abwehr sich entwickelnder Bedrohungen.

Die Integration von KI in die Cyberoperationen von Nationalstaaten birgt sowohl Herausforderungen als auch Chancen für Akteure im Bereich der Cybersicherheit. Aktuelle Beobachtungen deuten zwar darauf hin, dass KI-gestützte Angriffe ihr volles Potenzial noch nicht ausgeschöpft haben, doch die Dynamik der Technologie erfordert ständige Wachsamkeit und Anpassung. Angesichts der sich wandelnden Cybersicherheitslandschaft bleibt die Frage: Wie können Organisationen die Schnittstelle zwischen KI und Cyberkriegsführung effektiv nutzen, um sich vor neuen Bedrohungen zu schützen?