Erforschung der Rolle von ChatGPT bei der automatisierten Malware-Erstellung

Während Künstliche Intelligenz (KI)-Technologien, einschließlich ChatGPT, alltäglicher werden, haben sich die Bedenken bezüglich ihres potenziellen Missbrauchs in kriminellen Aktivitäten verstärkt. Dieser Blogbeitrag untersucht die Wirksamkeit von ChatGPTs Sicherheitsmaßnahmen, das Risiko des KI-Missbrauchs durch böswillige Akteure und die Grenzen aktueller KI-Modelle.

ChatGPT, ein fortschrittliches Sprachmodell, das von OpenAI entwickelt wurde, erlangte rasch weit verbreitete Akzeptanz. Diese Popularität weckte jedoch Bedenken bezüglich ihres potenziellen Missbrauchs, insbesondere bei der Erstellung von Malware und anderer schädlicher Software. Um diesen Bedenken zu begegnen, implementierte OpenAI Sicherheitsfilter, die darauf ausgelegt sind, missbräuchliche Nutzung von ChatGPT zu erkennen und zu verhindern.

Testen des Malware-Coding-Potenzials von ChatGPT

CyberArk hat in einer jüngsten Studie die Fähigkeit von ChatGPT getestet, Malware zu erstellen, dabei Erkennungsmechanismen zu umgehen und Richtlinien zu umgehen. Sie erforschten die Grenzen der Sicherheitsfilter von ChatGPT und stellten fest, dass das Modell mit spezifischen Prompts Code-Snippets im Zusammenhang mit der Malware-Entwicklung generieren konnte.

Zu Testzwecken wurden dem Prompts basierend auf Taktiken, Techniken und Verfahren (TTP) aus dem MITRE ATT&CK-Framework bereitgestellt, eine wertvolle Ressource zum Verständnis potenzieller Risiken im Zusammenhang mit KI-Technologien. Diese Prompts zielten darauf ab, Code-Snippets für spezifische Aufgaben im Zusammenhang mit der Malware-Entwicklung zu generieren.

Während das Modell Code basierend auf Prompts generieren konnte, waren bestimmte Umgehungen erforderlich. Zum Beispiel könnte das Modell die Generierung von Code verweigern, wenn ein Prompt ein schädliches Programm direkt erwähnte. Durch Feinabstimmung des Prompts konnten Angreifer jedoch die gewünschte Ausgabe erhalten.

Darüber hinaus zeigte ChatGPT die Fähigkeit, sich im Laufe der Zeit an Benutzerpräferenzen anzupassen. Zum Beispiel lernte es, dass Benutzer Informationen in einer Textdatei speichern wollten, und integrierte dies in nachfolgende Prompts.

Grenzen von ChatGPT bei der automatisierten Malware-Erzeugung

Trotz seiner Fähigkeiten hat ChatGPT Grenzen, wenn es um die automatisierte Malware-Erstellung geht:

1. Code-Modifikation erforderlich

Alle von ChatGPT generierten Code-Snippets benötigten Modifikationen, um ordnungsgemäß zu funktionieren. Diese Modifikationen reichten von geringfügigen Änderungen, wie dem Umbenennen von Pfaden und URLs, bis hin zu erheblichen Bearbeitungen, die die Code-Logik und Fehlerbehebungen betrafen.

2. Erfolgsquote

Ungefähr 48 % der getesteten Code-Snippets lieferten die angeforderte Ausgabe nicht. Nur 42 % waren vollständig erfolgreich, und 10 % waren teilweise erfolgreich. Dies unterstreicht die aktuellen Grenzen des Modells bei der genauen Interpretation und Ausführung komplexer Codierungsanfragen.

3. Fehlerquote

Von allen getesteten Codes enthielten 43 % Fehler, selbst in Code-Snippets, die die gewünschte Ausgabe erfolgreich lieferten. Dies deutet auf potenzielle Probleme in den Fehlerbehandlungs capabilities oder der Code-Generierungslogik des Modells hin.

4. MITRE-Techniken-Aufschlüsselung

Die Erfolgsquoten variierten je nach der im Prompt verwendeten MITRE-Technik. Discovery-Techniken hatten eine Erfolgsquote von 77 %, während Defense-Evasion-Techniken eine niedrigere Erfolgsquote von 20 % aufwiesen. Diese Diskrepanz könnte aus der Komplexität bestimmter Techniken oder den Trainingsdaten des Modells resultieren.

5. Halluzination und abgeschnittene Ausgabe

ChatGPT ist anfällig für die Generierung ungenauer Informationen, bekannt als Halluzination, was für Benutzer frustrierend sein kann. Darüber hinaus kann es unvollständige oder abgeschnittene Code generieren, was ihn funktionsunfähig macht.

6. Mangelnde Kontrolle über bestimmte Variablen

ChatGPT kann keine benutzerdefinierten Pfade, Dateinamen, IP-Adressen oder Command-and-Control-(C&C)-Details generieren, was die Benutzerkontrolle über diese Variablen einschränkt. Die Angabe dieser Details in Prompts ist möglich, aber für komplexe Anwendungen nicht skalierbar.

7. Begrenzte Verschleierung und Verschlüsselung

Während ChatGPT grundlegende Verschleierung durchführen kann, sind schwere Verschleierung und Code-Verschlüsselung für diese Modelle herausfordernd. Maßgeschneiderte Techniken können für ChatGPT schwer zu verstehen und zu implementieren sein, und die von ihm generierte Verschleierung ist möglicherweise nicht stark genug, um der Erkennung zu entgehen.

Balance zwischen Potenzial und Fallstricken

Während ChatGPT und ähnliche KI-Modelle Potenzial in der Code-Generierung haben, ist es wichtig, ihre Grenzen zu erkennen. Sie können die ersten Codierungsschritte vereinfachen, insbesondere für diejenigen, die mit dem Malware-Erstellungsprozess vertraut sind. Vollständige Automatisierung ohne erhebliche Prompt-Engineering, Fehlerbehandlung, Modell-Fine-Tuning und menschliche Aufsicht ist jedoch noch nicht machbar.

Die Anpassungsfähigkeit von ChatGPT an Benutzerpräferenzen ist vielversprechend und erhöht die Effizienz bei der Code-Generierung. Dennoch bleibt die menschliche Aufsicht entscheidend. Diese Modelle können die Erstellung eines großen Pools an Code-Snippets für verschiedene Malware-Familien erleichtern, was die Umgehungsfähigkeiten potenziell verbessern könnte, aber die aktuellen Grenzen bieten einige Beruhigung, dass Missbrauch noch nicht vollständig machbar ist.

Während sich KI-Technologien weiterentwickeln, ist es entscheidend, einen starken Fokus auf Sicherheit und ethische Nutzung beizubehalten. Während ChatGPT vielversprechend ist, insbesondere in der Code-Generierung, ist es keine vollständig automatisierte Lösung für die Malware-Erstellung. Das Finden eines Gleichgewichts zwischen der Nutzung des Potenzials von KI und der Minderung seiner Fallstricke ist unerlässlich, um sicherzustellen, dass diese Tools als Vermögenswerte und nicht als Instrumente des Schadens dienen.