Angesichts der sich stetig weiterentwickelnden Cybersicherheitslandschaft zeigt ein PwC-Bericht, dass 70 % der Technologie- und Wirtschaftsführer planen, generative KI in den nächsten zwölf Monaten zur Cyberabwehr einzusetzen. Dieser Trend ist eine Reaktion auf die zunehmende Komplexität von Cyberbedrohungen und wird durch die Fähigkeit generativer KI begünstigt, überzeugende Geschäftsemails in großem Umfang zu erstellen.
Alarm schlagen wegen Cybersicherheit
Die digitale Welt entwickelt sich ständig weiter, und damit auch die Taktiken von Cyberangreifern. Traditionelle Cybersicherheitssysteme stehen vor wachsenden Herausforderungen, vor allem aufgrund der zunehmenden Leistungsfähigkeit generativer KI. Laut dem PwC-Bericht „Digital Trust Insights 2024“ gehen 70 % der Technologie- und Wirtschaftsführer davon aus, generative KI als zentralen Bestandteil ihrer Cyberabwehrstrategie einzusetzen.
Diese Entwicklung zielt darauf ab, die wachsende Besorgnis hinsichtlich traditioneller Cybersicherheitsmethoden zu mindern, da die Fähigkeit generativer KI, komplexe Geschäftsemails in großem Umfang zu generieren, die Gefahr von Cyberangriffen verstärkt hat. Branchenexperten gehen davon aus, dass 52 % erwarten, dass generative KI innerhalb des nächsten Jahres katastrophale Cyberangriffe auslösen wird.
Die duale Natur der generativen KI
Generative KI verspricht zwar eine Stärkung der Cyberabwehr, stellt aber gleichzeitig ein gefährliches Werkzeug im Arsenal von Cyberkriminellen dar. Diese können die Möglichkeiten der Technologie nutzen, um verlockende E-Mails und realistische Deepfake-Inhalte, darunter Videos, Aufnahmen und Bilder, zu erstellen und so ahnungslose Personen durch Phishing-Angriffe ins Visier zu nehmen.
Ein Echtzeit-Bedrohungsanalysebericht von SlashNext zeigt, dass Cyberkriminelle zu den häufigsten Nutzern von Chatbots mit großen Sprachmodellen (LLM) gehören. Diese Angreifer setzen LLM-Chatbots ein, um Angriffe auf Geschäfts-E-Mails (BEC) durchzuführen und gezielte Phishing-Kampagnen zu starten. Seit der Einführung von OpenAIs ChatGPT Ende 2022 ist die Anzahl schädlicher Phishing-E-Mails um bemerkenswerte 1.265 % gestiegen.
Die Anpassungsfähigkeit generativer KI ermöglicht es Angreifern zudem, etablierte Angriffscodes leicht zu modifizieren und sie so weit zu verändern, dass sie nicht erkannt werden. Die Verbreitung generativer KI ist zu einem zentralen Thema im Darknet geworden, und die Erwähnungen dazu haben sich im Laufe des Jahres deutlich gehäuft.
Sich ständig weiterentwickelnde Bedrohungen und sich selbst weiterentwickelnde Malware
Einer der besorgniserregendsten Aspekte generativer KI bei Cyberangriffen ist die Entwicklung sich selbst weiterentwickelnder Malware-Varianten. Diese Varianten erzeugen spezifische Angriffsmuster, die auf einzigartige Techniken, Schadsoftware und polymorphen Code zugeschnitten sind. Diese Anpassungsfähigkeit entzieht sich effektiv der Erkennung durch bestehende Sicherheitsmaßnahmen. In diesem risikoreichen Umfeld der Cybersicherheit werden nur die agilsten und anpassungsfähigsten Sicherheitsvorkehrungen gegenüber diesen sich ständig weiterentwickelnden Bedrohungen die Oberhand behalten.
Stärkung der Cyberabwehr
Zur Stärkung der Abwehr gegen die zunehmenden Bedrohungen durch generative KI-gesteuerte Cyberangriffe betonen Branchenexperten die folgenden Strategien:
1. Die gesamte KI-Pipeline absichern
Die Sicherung und Verschlüsselung der Daten, die beim Training und der Feinabstimmung von KI-Modellen verwendet werden, ist von entscheidender Bedeutung. Die kontinuierliche Suche nach Schwachstellen, Schadsoftware und Datenbeschädigung während der Modellentwicklung wurde als kritischer Schritt zur Stärkung der Abwehr gegen potenzielle Sicherheitslückendent.
2. Gemeinsame Diskussionen auf Vorstandsebene
Führungskräfte aus den Bereichen Cybersicherheit, Technologie, Daten und Betrieb sollten sich zu Gesprächen auf Vorstandsebene treffen. Im Mittelpunkt dieser Gespräche sollten die sich wandelnden Risiken stehen, insbesondere die Frage, wie generative KI ausgenutzt werden kann, um sensible Daten offenzulegen und unbefugten Zugriff auf Systeme zu ermöglichen.
3. Innovative Erkennungs- und Verteidigungssysteme
Während bestehende Sicherheitsmaßnahmen zum Schutz der Infrastruktur und der Daten von KI-Systemen erweitert werden können, ist es unerlässlich, innovative Methoden zu entwickeln, die speziell auf die Erkennung und Abwehr von KI-Angriffen ausgerichtet sind. Proaktive Maßnahmen sind entscheidend, um der zunehmenden Bedrohung durch Cyberangriffe im Zusammenhang mit generativer KI entgegenzuwirken.
Da generative KI sowohl ein wertvolles Werkzeug für die Verteidigung als auch eine mächtige Waffe in den Händen von Cyberkriminellen darstellt, müssen Unternehmen ein sensibles Gleichgewicht finden. Der ethische und verantwortungsvolle Einsatz dieser Technologie bei gleichzeitiger Stärkung der Cybersicherheitsmaßnahmen ist unerlässlich. Sensibilisierung, die Absicherung der KI-Pipeline und Investitionen in modernste Verteidigungstechnologien sind der Schlüssel, um sich erfolgreich in der sich ständig wandelnden Cybersicherheitslandschaft zu bewegen. In einer digitalen Welt, die von ständigem Wandel geprägt ist, sind diese Strategien unerlässlich, um sensible Daten zu schützen und das Vertrauen in die digitale Welt zu erhalten.
