Das britische Nationale Zentrum für Cybersicherheit (NCSC) hat vor der potenziellen Bedrohung durch KI-gesteuerte Schadsoftware bis 2025 gewarnt. In einem aktuellen Bericht erklärte das NCSC, eine dem Government Communications Headquarters (GCHQ) unterstellte Behörde, dass die Möglichkeit bestehe, dass hochqualifizierte staatliche Akteure KI nutzen könnten, um Schadsoftware zu entwickeln, die bestehende Sicherheitsfilter umgeht. Diese Entwicklung könnte eine neue Ära von Cyberbedrohungen einläuten, die von der Erkennung anfälliger Geräte über die Datenanalyse bis hin zu Social-Engineering-Angriffen reicht.
KI-generierte Malware am Horizont
Der NCSC-Bericht hebt hervor, dass KI das Potenzial besitzt, Schadsoftware zu erzeugen, die bestehende Sicherheitsmaßnahmen umgehen kann. Dafür benötigt sie jedoch hochwertige Exploit-Daten für das Training. Die Behörde geht davon aus, dass einige hochleistungsfähige staatliche Stellen über ausreichend umfangreiche Schadsoftware-Repositories verfügen, um KI-Modelle für diesen Zweck effektiv zu trainieren. Während die fortschrittlichsten KI-gestützten Cyberangriffe voraussichtlich erst 2026 oder später auftreten werden, dürften diejenigen, die frühzeitig generative KI-Tools einsetzen, die fähigsten Angreifer sein.
Auswirkungen von KI auf anfällige Geräte und Datenanalyse
Das NCSC prognostiziert, dass KI es Angreifern erleichtern wird, Sicherheitslücken auf Geräten aufzuspüren und somit die Zeit für Verteidiger zur Behebung dieser Schwachstellen vor deren Ausnutzung zu verkürzen. Darüber hinaus wird KI die Echtzeit-Datenanalyse verbessern, wodurch Angreifer wertvolle Dateien schnelldentund die Effizienz von Sabotage-, Erpressungs- und Spionageaktionen steigern können.
Der Bericht hebt hervor, dass Fachwissen, Ausrüstung, finanzielle Mittel und der Zugang zu qualitativ hochwertigen Daten unerlässlich sind, um fortschrittliche KI in Cyberoperationen einzusetzen. Hochqualifizierte staatliche Akteure sind am besten positioniert, um das Potenzial von KI in komplexen Cyberangriffen auszuschöpfen. Es wird jedoch erwartet, dass auch Angreifer mit begrenzten Fähigkeiten und Ressourcen in den nächsten vier Jahren von den KI-Fortschritten profitieren werden.
KI stärkt Cyberkriminelle
Im unteren Bereich des Spektrums ist zu erwarten, dass Cyberkriminelle, die Social-Engineering-Angriffe einsetzen, auf verbrauchertaugliche generative KI-Tools wie ChatGPT, Google Bard und Microsoft Copilot zurückgreifen werden. Dies könnte zu überzeugenderen und gezielteren Phishing-Versuchen führen. Darüber hinaus könnten Ransomware-Gruppen KI zur Datenanalyse nutzen, um durchdentleichtere Identifizierung wertvoller Daten effektivere Datenerpressungsversuche durchzuführen.
Herausforderungen für Cybersicherheitsexperten
Das NCSC prognostiziert, dass KI-gesteuerte Cyberangriffe in den nächsten zwei Jahren an Umfang und Auswirkungen zunehmen und damit die Herausforderungen für Cybersicherheitsexperten verschärfen werden. Diese Experten haben bereits mit sich ständig weiterentwickelnden Bedrohungen zu kämpfen, und es wird erwartet, dass KI eine entscheidende Rolle bei der Gestaltung der Bedrohungslandschaft spielen wird.
Das NCSC beobachtet die Entwicklung von KI im Bereich der Cyberbedrohungen aufmerksam. Die jährliche CYBERUK-Konferenz der Behörde im Mai wird sich mit der erheblichen Bedrohung der nationalen Sicherheit durch neue Technologien befassen. Die scheidende Geschäftsführerin Lindy Cameron betonte die Notwendigkeit, die Risiken von KI zu managen und gleichzeitig ihr Potenzial für eine verantwortungsvolle Entwicklung zu nutzen.
Globale Bemühungen zur Bewältigung von KI-Sicherheitsrisiken
Die Warnung des NCSC folgt auf den ersten KI-Sicherheitsgipfel in Großbritannien, der zur Bletchley-Erklärung führte – einer globalen Initiative zum Umgang mit KI-Risiken. Im Rahmen dieser Initiative haben sich führende KI-Entwickler verpflichtet, ihren Quellcode mit Regierungen zu teilen, um eine verantwortungsvolle KI-Entwicklung zu gewährleisten.
Der KI-Testplan ist zwar ein Schritt in die richtige Richtung, aber er ist rechtlich nicht bindend und genießt nicht die Unterstützung einiger Staaten. Dies wirft Fragen hinsichtlich seiner Wirksamkeit bei der Bekämpfung der wachsenden Bedrohung durch KI-gesteuerte Cyberangriffe auf.
Die Warnung des NCSC unterstreicht die sich wandelnde Bedrohungslandschaft im Cyberspace, wo KI-gestützte Schadsoftware bereits in Sicht ist. Da KI das Potenzial besitzt, bestehende Sicherheitsmaßnahmen zu umgehen, stellt sie Cybersicherheitsexperten, Regierungen und Organisationen gleichermaßen vor große Herausforderungen. Angesichts der weltweiten Auseinandersetzung mit den Auswirkungen von KI auf Cyberbedrohungen sind Wachsamkeit und internationale Zusammenarbeit unerlässlich, um den aufkommenden Gefahren einen Schritt voraus zu sein.
