Generative KI in der Cybersicherheit: Ein zweischneidiges Schwert

Im Bereich der Cybersicherheit ist die Einführung von generativer künstlicher Intelligenz (KI) zu einem entscheidenden Werkzeug für Praktiker in ihrem fortwährenden Kampf gegen Cyberbedrohungen geworden. Während diese innovative Technologie markante Vorteile bietet, stellt sie auch neue Herausforderungen dar, da böswillige Akteure zunehmend ihre Kraft nutzen, um Angriffe zu verbessern.

Rob Joyce, Direktor für Cybersicherheit bei der National Security Agency (NSA), betonte kürzlich die erheblichen Vorteile, die generative KI bei der Identifizierung und Bekämpfung böswilliger Aktivitäten bietet. Er erkannte jedoch auch die wachsenden Bedenken hinsichtlich ihrer Missbrauch durch Cyberkriminelle an.

Eine Kraft des Guten: Stärkung der Cybersicherheit

Auf einer Veranstaltung an der Fordham University in New York sprach Rob Joyce begeistert über die positiven Auswirkungen der generativen KI auf die Cybersicherheitsbemühungen. Er erklärte, dass generative KI „uns besser darin macht, böswillige Aktivitäten zu finden.“ Diese Technologie befähigt Sicherheitspersonal mit innovativen Tools und Methodologien, Cyberbedrohungen effektiver zu erkennen und abzumildern.

Ein wesentlicher Vorteil der generativen KI in der Cybersicherheit ist ihre Fähigkeit, Bedrohungsakteure zu bekämpfen, die in Netzwerken lauern und sich durch Ausnutzung von Schwachstellen als sichere Konten tarnen. Diese getarnten Konten zeigen abnormale Verhaltensmuster, die manuell schwer zu identifizieren sind. Generative KI zusammen mit Large Language Models (LLMs) hilft Cybersicherheitsteams, diese verdächtige Aktivität zu aggregieren und zu analysieren, wodurch böswillige Absichten schneller aufgedeckt werden.

Eine wachsende Sorge: Missbrauch durch Cyberkriminelle

Während generative KI großes Potenzial zur Verbesserung der Cybersicherheit bietet, hat sie auch Alarm ausgelöst aufgrund ihres Missbrauchs durch Cyberkriminelle. Im vergangenen Jahr haben böswillige Akteure zunehmend generative KI-Tools genutzt, um betrügerische Aktivitäten und Scams zu verstärken. Diese fortschrittlichen Technologien ermöglichen es ihnen, hochgradig personalisierte und potente Social-Engineering-Angriffe zu starten.

Mandiant, ein renommierter Cybersicherheitsdienstleister, warnte im Vorjahr, dass generative KI Bedrohungsakteure befähigen könnte, eine neue Welle von Social-Engineering-Angriffen mit beispielloser Sophistizierung zu entfesseln. 

Diese KI-unterstützten Phishing-Angriffe könnten so fein abgestimmt sein, dass sie selbst die wachsamsten Nutzer täuschen, was eine erhebliche Bedrohung für Einzelpersonen und Organisationen darstellt. Solche Bedenken wurden von verschiedenen Sicherheitsexperten im gesamten Jahr 2023 geteilt.

Darüber hinaus hat Forschung von Darktrace Bedenken hinsichtlich KI-gestützter Phishing-Angriffe geweckt. Die Sorge besteht darin, dass Hacker kontinuierlich generative KI nutzen könnten, um ihre Techniken zu verfeinern, was es Nutzern zunehmend erschwert, legitime Kommunikation von böswilligen Absichten zu unterscheiden.

Ein zweischneidiges Schwert: Abwägung der Auswirkungen

Rob Joyce erkannte an, dass Bedenken hinsichtlich des Missbrauchs von generativer KI in Cyberkriminalität berechtigt sind. Er betonte jedoch auch die erheblichen Fortschritte, die von nationalen Sicherheitsbehörden bei der effektiven Nutzung dieser Tools erzielt wurden. Er bemerkte, dass Cybersicherheitsexperten generative KI nutzen, um Bedrohungen zu bekämpfen und kritische Assets zu schützen, genauso wie böswillige Akteure sie für ihre schändlichen Zwecke ausnutzen.

Joyce warnte davor, generative KI als Allheilmittel für alle Cybersicherheitsprobleme zu betrachten, und erklärte, dass sie „kein Superwerkzeug ist, das einen Inkompetenten fähig machen kann“. Dennoch betonte er, dass sie die Fähigkeiten derjenigen, die sie nutzen, verbessert und diese im Bereich der Cyberabwehr und -angriffe effektiver und potenziell gefährlicher macht.