Der Aufstieg bösartiger KI-Chatbots: Bedrohungsakteure setzen auf „Hackbots“

Die Welle der KI- Popularität hat sowohl Menschen mit guten als auch mit potenziell finsteren Absichten erfasst. Sicherheitsexperten schlagen Alarm und weisen darauf hin, dass die Nutzung solcher Modelle, die Generierung von Schadtexten oder sogenannte „Hackbots“ unter Cyberkriminellen mittlerweile weit verbreitet ist. Sie hat sich zu einer Art Komplettlösung in abonnementbasierten Diensten entwickelt.

Cyberkriminelle nutzen KI-Tools

Einerseits haben Cybersicherheitsexperten schnell das Potenzial KI-gestützter Tools für einen besseren Schutz ihrer Systeme erkannt. Andererseits nutzen Angreifer diese Technologien mit großem Eifer, um die von ihnen hinterlassenen Sicherheitslücken auszunutzen. In den letzten Jahren hat die Anzahl der von Cyberkriminellen eingesetzten KI-Anwendungen exponentiell zugenommen, was die Aufmerksamkeit der Sicherheitsteams auf einen effektiven Ansatz zur Abwehr KI-bezogener Bedrohungen gelenkt hat.

Andererseits wiesen britische Cybersicherheitsexperten auch auf KI als ein neues, aufkommendes Risiko hin, das mit unbekanntem Terrain und ständiger Veränderung verbunden ist. Das NCSC prognostiziert, dass das erste Quartal 2024 das umsatzstärkste sein und die Rekorde von 2022 und 2023 übertreffen wird. Raffinierte Kriminelle nutzten zudem Sprachmodelle für Social Engineering, indem sie Prominente mithilfe von Phishing-Angriffen oder Spracherkennungssystemen in Video- oder Audioaufnahmen einbanden. Vascut Jakkal, Vizepräsidentdentdentdent dentdentdentdent dentdent.

Einige Experten sind zudem zu dem Schluss gekommen, dass Chatbots eine spezielle Formulierung verwenden, um aktiv Schadsoftware zu entwickeln. Öffentlich zugängliche Dienste wie ChatGPT und Gemini haben zwar Sicherheitsvorkehrungen getroffen, um ihren Missbrauch zu verhindern, jedoch gelingt es Hackern durch ausgefeilte und schnelle Entwicklungsmethoden, viele dieser Schutzmechanismen zu umgehen.

Hackbot-as-a-Service: Der wachsende Trend in der Cyberkriminalität

Jüngsten Studien zufolge gelingt es öffentlich zugänglichen Sprachmodellen in der Regel nicht, Sicherheitslücken in Software auszunutzen. Lediglich GPT-4 von OpenAI zeigte vielversprechende Eigenschaften, da es ausführbare Dateien für bekannte Schwachstellen generieren konnte. Die genannten Einschränkungen scheinen die Entwicklung prototypischer, bösartiger Chatbots begünstigt zu haben, die Cyberkriminelle bei ihren Straftaten unterstützen sollen. 

Sie werden in Foren und Marktplätzen des Darknets angeboten, die die Möglichkeit bieten, Angreifer anzuheuern und auszunutzen, wodurch ein Hackbot-as-a-Service-Modell entsteht. Ein Blogbeitrag des Trustwave SpiderLabs-Teams vom August 2023 verdeutlicht die zunehmende Anzahl bösartiger Sprachmodelle, die auf verschiedenen versteckten Web-Foren gewinnbringend angeboten werden.

Trustwave veröffentlichte im Juni 2021 das WormGPT-Modell, eines der bekannten Schadprogramme dieser Hacker. Dieser Ansatz kann auf Geräten zum Einsatz kommen, auf denen Bots über im Darknet gehostete Hacking-Plattformen Cyberangriffe einschleusen. FraudGPT, das im Juli 2023 generiert wurde, wurde zuerst von Bedrohungsforschern bei Netenrich entdeckt, bevor es Telegram erreichte.

Diese Tools ermöglichen es Angreifern, Assets für Social-Engineering-Angriffe zu erstellen, beispielsweise Phishing-E-Mails, Deepfakes und Stimmklonierung. Laut ihren Entwicklern liegt ihr eigentlicher Wert jedoch in der Ausnutzung von Sicherheitslücken. Sie erlauben Hackern, Code zu spezifischen Schwachstellen in diese schädlichen Modelle einzuschleusen, wodurch theoretisch mehrere Proof-of-Concept-Exploits (PoC) generiert werden können, die ein Angreifer testen kann.

Diese Produkte werden auf den verdeckten Märkten des Darknets verkauft, wo Hacker eine monatliche Lizenzgebühr für die Nutzung des Hackbots zahlen müssen, genau wie die Ransomware im Ransomware-as-a-Service-Modell (RAAS) bereitgestellt wird, das in direkter Verbindung mit einem Ransomware-Komplex steht, mit dem viele Unternehmen heute konfrontiert sind.

Während WormGPT das erste groß angelegte bösartige Sprachmodell war, das eingeführt wurde, folgten bald weitere bösartige und unethische Sprachmodelle wie BlackHatGPT, XXXGPT und WolfGPT und bildeten ein neues Marktsegment des Cyber-Schwarzmarktes.

Die Wirksamkeit von Hackbots: Hype oder echte Bedrohung?

Im Gegensatz zu der Studie von Trustwave, die die Effizienz empfohlener Tools durch den Vergleich ihrer Ausgaben mit denen legitimer Chatbots testete, ergaben die Ergebnisse, dass ChatGPT mit den richtigen Eingabeaufforderungen effektiv zur Erstellung von Python-Malware eingesetzt werden kann. Dazu musste vor der Bereitstellung eine Nachricht an die betreffende Person gesendet werden, in der behauptet wurde, der Code sei legal (White-Hat-Code), und der Code musste zusätzlich angepasst werden.

ChatGPT kann zwar echte Textnachrichten für Phishing-Angriffe versenden, der entsprechende Befehl muss dafür jedoch sehr präzise sein. ChatGPT wird diese Funktion in der Regel nur dann nutzen, wenn Nutzer eine falsche Anfrage stellen. Daher können diese Chatbots als einfachere Methode für Cyberkriminelle oder KI angesehen werden, Chatnutzer anzugreifen, anstatt mühsam eine Webseite oder Schadsoftware zu erstellen.

Obwohl diese Branche noch jung ist und sich die Bedrohungen ständig weiterentwickeln, müssen Unternehmen sich ihres aktuellen Schutzniveaus bewusst sein. Die Inhalte und kulturellen Merkmale, mit denen KI-Systeme überflutet werden, können missbraucht werden, um eine Desinformationslücke zu schaffen, die nur durchtronKI-Sicherheitsprogramme unddent-Tools geschlossen werden kann.

Die Legitimität der Lösungsansätze für das wachsende Problem wird weiterhin diskutiert. Jüngste Ransomware-Varianten haben jedoch gezeigt, dass Cyberkriminelle mit der Entwicklungsgeschwindigkeit von Softwareentwicklern mithalten, wenn nicht sogar übertreffen können.