Google warnt vor KI-Schwachstellen, da Hacker Gemini ins Visier nehmen
- Google berichtet, dass von staatlichen Akteuren unterstützte Advanced-Persistent-Threat-(APT)-Gruppen versuchten, das Jailbreaking durchzuführen.
- Hacker versuchten, Gemini mit einfachen Taktiken wie dem Umformulieren von Prompts oder dem Einreichen wiederholter Anfragen zu manipulieren.
- Google verbessert weiterhin die Sicherheitsmaßnahmen von Gemini, um Missbrauch der KI durch Bedrohungsakteure zu verhindern.
Google hat vor den potenziellen Sicherheitsrisiken gewarnt, die mit künstlicher Intelligenz (KI) verbunden sind, nachdem staatlich unterstützte Hacker versuchten, sein Gemini-KI-Modell auszunutzen.
Ihre Bemühungen, das System zu jailbreaken, waren jedoch letztendlich erfolglos.
Googles Threat Intelligence Gruppe (GTIG) hat ein Papier zur „Adversarial Misuse of Generative AI“ veröffentlicht, das erklärt, wie Bedrohungsakteure mit ihrem KI-Chatbot Gemini gesprochen haben.
Hacker versuchen, Googles Gemini-KI zu jailbreaken, scheitern aber an einfachen Tricks
Google berichtet, dass Bedrohungsakteure versuchten, Gemini-KI durch Prompts zu jailbreaken, einschließlich Bemühungen von staatlich unterstützten Advanced-Persistent-Threat-(APT)-Gruppen, die KI für bösartige Aktivitäten zu nutzen.
Der amerikanische Multinationaler Konzern fand jedoch keine Hinweise auf fortgeschrittene Jailbreak-Versuche.
Stattdessen verwendeten die Hacker straightforward Ansätze, wie das Eingeben verschiedener Phrasen oder das wiederholte Senden derselben Anfrage. Google kommentierte, dass diese Versuche erfolglos waren.
Jailbreaks mit Hilfe von KI sind Prompt-Injection-Angriffe, die versuchen, Einschränkungen zu umgehen und ein KI-Modell zu verbotenen Aktionen zu bringen, wie das Offenlegen sensibler Informationen oder das Erstellen schädlicher Inhalte.
Laut Google versuchte ein APT-Akteur, Gemini unter Verwendung öffentlich verfügbarer Jailbreak-Prompts auszunutzen, um schädlichen Code zu generieren. Der Versuch scheiterte jedoch, da Gemini mit einer sicherheitsgefilterten Antwort reagierte.
Google erwähnte, dass die Angreifer versuchten, verschiedene böse Ziele mit Hilfe von Gemini zu erreichen, wie das Sammeln von Informationen über Ziele, das Identifizieren von Schwachstellen aus offenen Quellen sowie das Schreiben von Code und Skripten. Darüber hinaus wurden einige Versuche unternommen, um Post-Compromise-Aktionen zu unterstützen, z. B. um Entdeckungen zu vermeiden.
Iran, China und Nordkorea nutzen Googles Gemini-KI für Cyberoperationen
Laut Google nutzten iranische APT-Gruppen die KI hauptsächlich zur Erstellung von Phishing-Kampagnen. Sie nutzten Gemini auch, um Aufklärung über Verteidigungsexperten und -organisationen zu betreiben und cybersicherheitsrelevante Inhalte zu generieren.
In der Zwischenzeit nutzten chinesische APT-Akteure Gemini, um Code-, Scripting- und Entwicklungsaufgaben zu lösen. Sie nutzten die KI auch, um Methoden zu erkunden, um tieferen Zugang zu Zielnetzwerken zu erlangen.
Googles Threat Intelligence Group und nordkoreanische APT-Gruppen haben Gemini in verschiedenen Phasen des Angriffslebenszyklus genutzt, wie z. B. in der Vor-Angriffs-Forschung und -Entwicklung. Der Bericht sagte:
Sie nutzten Gemini auch, um Strategisch für die nordkoreanische Regierung relevante Themen zu erforschen, wie die südkoreanische Armee und Kryptowährungen.
– GTIG
Letztes Jahr stahlen nordkoreanische Hacker 1,3 Milliarden US-Dollar an digitalen Vermögenswerten, laut Chainalysis.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Nellius Irene
Nellius ist Absolventin der Betriebswirtschaftslehre und Informatik mit fünf Jahren Erfahrung in der Kryptowährungsbranche. Sie hat zudem Bitcoin Dada absolviert. Nellius hat bereits für führende Medienpublikationen wie BanklessTimes, Cryptobasic und Riseup Media geschrieben.
