Wird die Bewaffnung von KI zum neuen Normalfall im Cyberkrieg? Einblicke von Microsoft und OpenAI
- Große Weltmächte nutzen Large-Language-Models (LLMs), um ihre offensiven Cyberrüstungsfähigkeiten zu stärken, wie von OpenAI und Microsoft enthüllt.
- Fünf berüchtigte Bedrohungsakteure, die mit China, dem Iran, Nordkorea und Russland in Verbindung stehen, wurden dabei identifiziert, wie sie OpenAI-Software für bösartige Zwecke ausnutzen.
- Trotz der Bedenken hat die beobachtete Nutzung von LLM-Technologie noch nicht zu verheerenden Angriffen geführt, doch Experten warnen vor potenziellen zukünftigen Bedrohungen und betonen die Wichtigkeit einer wachsamen Haltung.
In einer bahnbrechenden Enthüllung, die Licht auf die sich wandelnde Cybersicherheitslandschaft wirft, haben Microsoft und OpenAI einen besorgniserregenden Trend aufgedeckt: Nationalstaaten waffnen KI in Cyberangriffen ein. Die Zusammenarbeit dieser Tech-Giganten hat die Nutzung von Large Language Models (LLMs) durch prominente Bedrohungsakteure, die mit großen globalen Mächten verbunden sind, offengelegt, was eine bedeutende Entwicklung im Bereich der Cybersicherheit darstellt.
Die staatlichen APTs, die OpenAI nutzen
Expertenmeinungen zum aktuellen Stand und den möglichen zukünftigen Auswirkungen von KI-gesteuerten Cyberbedrohungen werfen Licht auf die sich wandelnde Landschaft der Cybersicherheit. Diese Bedrohungsakteure, die mit China, Iran, Nordkorea und Russland in Verbindung stehen, nutzen KI für verschiedene Zwecke, von der Beschaffung von Informationen über Phishing-Angriffe bis hin zur Code-Generierung. Bekannte Gruppen wie Fancy Bear, Charcoal Typhoon und Crimson Sandstorm gehören zu denen, die OpenAI-Technologie für bösartige Aktivitäten nutzen.
Fancy Bear, auch bekannt als Forest Blizzard, berüchtigt für seine Verbindung zum Hauptaufklärungshauptamt des Generalstabs der Streitkräfte der Russischen Föderation (GRU), integriert LLMs in Operationen für Skriptaufgaben, Informationsbeschaffung und die Forschung an Satellitenkommunikationsprotokollen, was insbesondere im Ukraine-Konflikt relevant ist.
Chinesische staatliche Akteure, Charcoal Typhoon und Salmon Typhoon, zeigen Kompetenz in KI-gesteuerten Aktivitäten wie der Informationsbeschaffung, der Generierung von Skripten und Social Engineering. Ebenso nutzt Irans Crimson Sandstorm OpenAI zur Entwicklung täuschender Phishing-Materialien und zur Optimierung von Operationen durch KI-generierte Code-Snippets.
Emerald Sleet, dem Regime von Kim Jong-Un zugeschrieben, beschäftigt sich mit grundlegenden Skriptaufgaben und der Generierung von Phishing-Inhalten, nutzt dabei jedoch auch LLMs zur Erforschung von Schwachstellen und zur Beschaffung von verteidigungsrelevanten Informationen. Diese Fälle unterstreichen die vielfältigen und sich entwickelnden Anwendungen von KI in Cyber-Operationen durch staatliche Bedrohungsakteure.
Bewaffnung von KI – Die Auswirkungen von KI auf die Cybersicherheit sind derzeit noch begrenzt
Trotz der Nutzung von LLMs durch Bedrohungsakteure betonen Experten, dass die Auswirkungen von KI in Cyberangriffen begrenzt bleiben und primär dazu dienen, bestehende Fähigkeiten zu verbessern, anstatt Angriffsmethoden zu revolutionieren. Es gibt jedoch Bedenken hinsichtlich der Skalierbarkeit und Anpassungsfähigkeit von KI-gestützten Angriffen, was zu Forderungen nach kontinuierlicher Wachsamkeit und der Einhaltung bewährter Cybersicherheitspraktiken führt.
Joseph Thacker, leitender KI-Ingenieur und Sicherheitsforscher bei AppOmni, unterstreicht die Vorstellung, dass KI zwar Vorteile für Angreifer bietet, ihr transformatives Potenzial jedoch noch nicht voll ausgeschöpft ist. Thacker schlägt vor, dass Bedrohungsakteure, die in der Softwareentwicklung versiert sind, LLMs nutzen, um die Erstellung von bösartigem Code zu beschleunigen und damit ihre operative Effizienz zu steigern. Er betont jedoch, dass sich die grundlegende Natur von Cyberbedrohungen nicht wesentlich verändert hat, wobei KI primär inkrementelle Verbesserungen statt bahnbrechender Innovationen in Angriffsmethoden ermöglicht.
Thacker hebt das Potenzial für KI-ermöglichte Angriffe hervor, die in Umfang und Reichweite expandieren könnten, erleichtert durch die Vielseitigkeit von LLMs bei der Sprachübersetzung und Code-Konvertierung. Während aktuelle KI-gesteuerte Cyber-Operationen möglicherweise keine neuartigen Techniken aufweisen, warnt Thacker vor der Möglichkeit unentdeckter Fortschritte in KI-basierten Bedrohungsvektoren. Daher plädiert er für einen proaktiven Ansatz zur Cybersicherheit und betont die Bedeutung kontinuierlicher Überwachung und robuster Abwehrmaßnahmen, um sich gegen sich entwickelnde Bedrohungen zu wehren.
Die Integration von KI in staatliche Cyber-Operationen stellt sowohl für die Cybersicherheitsakteure als auch für die Gesellschaft eine Herausforderung und eine Chance dar. Während aktuelle Beobachtungen darauf hindeuten, dass KI-verbesserte Angriffe ihr volles Potenzial noch nicht ausgeschöpft haben, erfordern die dynamische Natur der Technologie kontinuierliche Wachsamkeit und Anpassung. Während sich die Cybersicherheitslandschaft weiterentwickelt, bleibt die Frage bestehen: Wie können Organisationen die Schnittstelle zwischen KI und Cyberkrieg effektiv navigieren, um sich vor aufkommenden Bedrohungen zu schützen?
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
