Cyberkriminelle nutzen KI- und ML-Technologien für bösartige Zwecke

Eine neue Forschungsarbeit, die gemeinsam von Trend Micro, dem Interregionalen Institut für Kriminal- und Justizforschung der Vereinten Nationen (UNICRI) und Europol erstellt wurde, zeigt auf, wie Cyberkriminelle künstliche Intelligenz (KI) und maschinelles Lernen (ML) für bösartige Zwecke ausnutzen.

KI und ML im Geschäftsbereich

KI und ML treiben rasant die Entwicklung einer dynamischeren Welt voran. Diese Technologien versprechen höhere Effizienz, ein gesteigertes Maß an Automatisierung und Autonomie. KI ist eine Dual-Use-Technologie im Herzen der vierten industriellen Revolution. Mit ML, einem Teilbereich der KI, der große Datenmengen analysiert, um Muster über Algorithmen zu erkennen, können Unternehmen, Organisationen und Regierungen beeindruckende Leistungen vollbringen, die Innovationen vorantreiben und das Geschäft verbessern. Bis 2020 hatten bereits 37 % der Unternehmen und Organisationen KI in ihre Systeme und Prozesse integriert. Von KI und ML angetriebene Tools ermöglichen es Unternehmen, das Kaufverhalten ihrer Kunden besser vorherzusagen, was zu höheren Umsätzen beiträgt. Einige Unternehmen wie Amazon haben mit Hilfe von ML- und KI-gestützten Tools hochprofitable Geschäfte aufgebaut.

Missbrauch und Fehlgebrauch von KI und ML

Während KI und ML Unternehmen unterstützen und dazu beitragen können, einige der größten Herausforderungen der Gesellschaft zu lösen, können diese Technologien auch eine breite Palette digitaler, physischer und politischer Bedrohungen ermöglichen. Die Merkmale, die KI- und ML-Systeme für Unternehmen unverzichtbar machen, sind dieselben, die Cyberkriminelle für illegale Gewinne missbrauchen.

*Deepfakes*: Eine verbreitete Missbrauchsform von KI sind Deepfakes, bei denen KI-Techniken eingesetzt werden, um Audio- und Videomaterial so zu erstellen oder zu manipulieren, dass es authentisch wirkt. Deepfakes eignen sich besonders für Desinformationskampagnen, da sie schwer von legitimen Inhalten zu unterscheiden sind. Sie haben das Potenzial, die Realität zu verzerren – etwa für böswillige Zwecke, wie in einem angeblichen Deepfake-Video, das eine Koalitionsregierung in Malaysia destabilisierte, oder einer gefälschten Audioaufnahme, die ein britisches Energieunternehmen dazu brachte, fast 200.000 britische Pfund auf ein ungarisches Bankkonto zu überweisen.

*KI-gestützte Passwort-Raten*: Cyberkriminelle nutzen maschinelles Lernen, um Algorithmen zum Erraten von Benutzerpasswörtern zu verbessern. Mit neuronalen Netzen und Generativen Adversarial Networks (GANs) können sie riesige Datensätze mit Passwörtern analysieren und Varianten generieren, die der statistischen Verteilung entsprechen, was zu präziseren und gezielteren Passwortversuchen führt.

*Menschliche Identitätsnachahmung auf Social-Networking-Plattformen*: Cyberkriminelle missbrauchen KI, um menschliches Verhalten in sozialen Medien zu imitieren. Beispielsweise können KI-gestützte Bots auf Spotify nutzerähnliche Nutzungsmuster nachahmen, um Bot-Erkennungssysteme zu täuschen und betrügerische Streams sowie Traffic für bestimmte Künstler zu generieren.

*KI-gestütztes Hacking*: Cyberkriminelle rüsten AI-Frameworks zum Hacken verwundbarer Hosts ein. DeepExploit, ein ML-basiertes Penetration-Testing-Tool, und PWnagotchi 1.0.0, das speziell für Wi-Fi-Hacking durch De-Authentifizierungsangriffe entwickelt wurde, nutzen neuronale Netzwerkmodelle, um die Hacking-Leistung zu verbessern.

Zukünftige Missbräuche und Fehlverwendungen von KI und ML

In der Zukunft wird erwartet, dass Kriminelle KI nutzen, um den Umfang und die Skalierung ihrer Angriffe zu erhöhen, der Entdeckung zu entgehen und KI sowohl als Angriffsvektor als auch als Angriffsfläche zu missbrauchen. KI kann die ersten Schritte eines Angriffs durch Inhaltsgenerierung automatisieren, die Beschaffung von Geschäftsintelligenz verbessern und die Erkennungsrate beschleunigen, mit der potenzielle Opfer und Geschäftsprozesse kompromittiert werden. KI kann zudem missbraucht werden, um Kryptowährungshandelspraktiken zu manipulieren und Einzelpersonen Schaden zuzufügen oder physische Schäden anzurichten, wie es bei mit Sprengstoff ausgestatteten, KI-gesteuerten Drohnen zur Gesichtserkennung der Fall war.

KI- und ML-Technologien haben viele positive Anwendungsfälle, werden aber auch für kriminelle und bösartige Zwecke missbraucht. Das Verständnis der Fähigkeiten, Szenarien und Angriffsvektoren, die zeigen, wie diese Technologien genutzt werden, ist entscheidend, um Systeme, Geräte und die Allgemeinheit vor fortgeschrittenen Angriffen und Missbräuchen zu schützen.

Über die Forschung

Das Forschungspapier mit dem Titel „Bösartige Anwendungen und Missbrauch von Künstlicher Intelligenz

Künstliche Intelligenz (KI) und maschinelles Lernen (ML) bieten zahlreiche positive Anwendungsmöglichkeiten, darunter visuelle Wahrnehmung, Spracherkennung, Sprachübersetzung, Mustererkennung und Entscheidungsfindung in verschiedenen Bereichen und Branchen. Diese Technologien werden jedoch auch für kriminelle und bösartige Zwecke missbraucht. Es ist unerlässlich, die Fähigkeiten, Szenarien und Angriffsvektoren zu verstehen, die aufzeigen, wie diese Technologien ausgenutzt werden, um Systeme, Geräte und die Allgemeinheit vor fortschrittlichen Angriffen und Missbräuchen zu schützen.