Der Aufstieg bösartiger KI-Chatbots: Bedrohungsakteure umarmen „Hackbots“

Die Welle der KI-Popularität hat sowohl diejenigen erfasst, die gute Absichten haben, als auch diejenigen mit möglicherweise bösartigen Absichten. Sicherheitsexperten schlagen Alarm und weisen darauf hin, dass die Verwendung solcher Modelle, zur bösartigen Textgenerierung oder „Hackbots“, bei Bedrohungsakteuren jetzt beliebt ist. Sie hat das Niveau eines schlüsselfertigen Dienstes in Abonnementdiensten erreicht.

Cyberkriminelle, die KI-Tools nutzen

Einerseits haben Cybersicherheitsexperten schnell das Potenzial von KI-gestützten Tools erkannt, ihre Systeme besser zu schützen. Bedrohungsakteure haben ebenfalls eine ebenso große Eifer gezeigt, diese Technologien zu nutzen, um Sicherheitslücken auszunutzen, die von denen hinterlassen wurden, die sie angreifen. In den letzten Jahren gab es eine exponentielle Zunahme der Anzahl von KI-Anwendungen, die von bösen Akteuren verwendet werden, was die Aufmerksamkeit der Sicherheitsteams auf einen ausreichenden Ansatz zur Bekämpfung von KI-bezogenen Bedrohungen gelenkt hat.

Andererseits haben britische Cybersicherheitsspezialisten auch KI als ein neues, aufkommendes Risiko gekennzeichnet, das unerforschtes Gewässer und ihre sich ständig ändernde Natur mit sich bringt. NCSC prognostiziert, dass das erste Quartal 2024 das größte sein wird und die Rekorde von 2022 und 2023 übertreffen wird. Die cleveren Kriminellen nutzten ebenfalls Sprachmodelle für Social Engineering, was erforderte, dass Prominente in Video- oder Audioeinstellungen durch Phishing-Systeme oder Stimmerkennungsgeräte platziert wurden. Vascut Jakkal, der Vizepräsident für Sicherheit bei der Microsoft Corporation, besuchte die RSA Conference 2024. Das Problem ist nicht die Verschlechterung dieser Tools, sondern ihre zunehmend breite Verfügbarkeit für das Knacken von Passwörtern, was mit einem 10-fachen Anstieg der identitätsbezogenen Angriffe verbunden ist.

Einige Experten haben weiter geschlossen, dass Chatbots eine einzigartige Phrase verwenden, um aktiv Malware zu entwickeln. Tatsächlich haben öffentlich verfügbare Dienste wie ChatGPT und Gemini Schutzmaßnahmen implementiert, um ihre Missnutzung für bösartige Zwecke zu verhindern. Hacker haben jedoch viele Schutzmaßnahmen durch ausgefeilte Prompt-Engineering-Techniken umgangen.

Hackbot-as-a-Service: Der wachsende Trend im Cybercrime

Nach jüngsten Studien scheitern öffentlich sichtbare Sprachmodelle typischerweise daran, Software-Sicherheitslücken auszunutzen. Allerdings hat nur OpenAIs GPT-4 vielversprechende Funktionen gezeigt, da es ausführbare Dateien für bekannte Fehler produzieren konnte. Die oben genannten Einschränkungen haben wahrscheinlich die Produktion von prototypischen bösartigen Chatbots gefördert, die darauf ausgelegt sind, Cyberkriminalitätsverbrecher bei der Durchführung ihrer bösartigen Aktivitäten zu unterstützen. 

Sie werden auf den Foren und Marktplätzen des Dark Web beworben, die die Macht anbieten, Angreifer einzustellen und auszunutzen, was ein Modell Hackbot-as-a-Service befeuert. Einer der kürzlich von dem Trustwave SpiderLabs-Team im August 2023 veröffentlichten Blogposts veranschaulicht das erhöhte Volumen an bösartigen Sprachmodellen, die auf mehreren versteckten Web-Nachrichtenboards zum Profit gehostet werden.

Trustwave stellte das WormGPT-Modell im Juni 2021 vor, eines dieser bekannten bösartigen Sprachmodelle der Hacker. Dieser Ansatz kann in Geräten auftreten, in denen Bots Cyberangriffe durch Dark-Web-gehostete Hacking-Strukturen injizieren. Im Juli 2023 generiert, wurde FraudGPT zuerst von Bedrohungsforschern bei Netenrich entdeckt, bevor es Telegram erreichte.

Diese Tools ermöglichen es Angreifern, Assets zu entwerfen, die in Social-Engineering-Angriffen verwendet werden, wie Phishing-E-Mails, Deepfakes und Stimmklone. Ihre Hersteller behaupten jedoch, dass ihr echter Wert in der Ausnutzung von Schwachstellen liegt. Sie ermöglichen es Hackern, Code über bestimmte Schwachstellen in diese bösartigen Modelle einzuspeisen, was theoretisch mehrere Proof-of-Concept (PoC)-Exploits produzieren könnte, die ein Angreifer ausprobieren könnte.

Diese Produkte werden in den unterirdischen Märkten des Dark Web verkauft, wo Hackern eine monatliche Lizenzgebühr für die Nutzung des Hackbots berechnet wird, genau wie Ransomware im Ransomware-as-a-Service (RaaS)-Modell geliefert wird, das direkt mit einem Ransomware-Komplex verbunden ist, dem viele Unternehmen heute gegenüberstehen.

Während WormGPT das erste groß angelegte bösartige Sprachmodell war, das eingeführt wurde, folgten bald andere bösartige und unethische Sprachmodelle wie BlackHatGPT, XXXGPT und WolfGPT und bildeten ein neues Marktsegment des Cyber-Schwarzmarktes.

Die Wirksamkeit von Hackbots: Hype oder echte Bedrohung?

Im Gegensatz zu den von Trustwave durchgeführten Studien, die dazu dienten, die Effizienz der empfohlenen Tools zu testen, indem ihre Ausgaben nebeneinander mit denen verglichen wurden, die von legitimen Chatbots generiert wurden, deuteten die Ergebnisse darauf hin, dass ChatGPT effektiv dazu gebracht werden könnte, einige Python-Malware mit den richtigen Prompts zu erstellen. Dazu musste die Nachricht an die Angelegenheit gesendet werden, in der behauptet wurde, der Code sei White-Hat, bevor er bereitgestellt wurde, und der Codeausgang benötigte zusätzliche Modifikationen.

ChatGPT könnte in der Lage sein, echte Textnachrichten für Phishing-Angriffe zu übergeben, aber der Anweisungsbefehl sollte sehr spezifisch auf diesen Effekt ausgerichtet sein. ChatGPT wird im Allgemeinen nur darauf basieren, wenn Benutzer etwas Falsches anfordern. Aufgrund dieser Tatsache können diese Chatbots als einfachere Methode für Cyberkriminelle oder KI gesehen werden, um Chatter anzugreifen, anstatt mühsam eine Seite oder Malware zu erstellen.

Während diese Branche neu ist und die Bedrohungen noch im Fluss sind, müssen Unternehmen sich ihrer aktuellen Schutzniveaus wirklich bewusst sein. Die Inhalte und kulturellen Merkmale, mit denen KI-Systeme überflutet sind, könnten missbraucht werden, um eine Desinformationslücke zu schaffen, die nur durch die Schaffung stärkerer KI-Sicherheitsprogramme und Identitätsmanagement-Tools geschlossen werden kann.

Die Legitimität von Lösungen für das wachsende Problem wird noch diskutiert. Doch jüngste Ransomware-Stämme haben gezeigt, dass Cyberkriminelle die Geschwindigkeit der Entwicklung von Softwareentwicklern erreichen, wenn nicht sogar übertreffen können.