Google warnt vor KI-Schwachstellen, da Hacker Gemini ins Visier nehmen
- Google meldet, dass von der Regierung unterstützte Advanced Persistent Threat (APT)-Gruppen versucht haben, einen Jailbreak durchzuführen.
- Hacker versuchten, Gemini mit einfachen Taktiken zu manipulieren, wie etwa durch Umformulierung von Eingabeaufforderungen oder durch wiederholtes Absenden von Anfragen.
- Google arbeitet kontinuierlich an der Verbesserung der Sicherheitsmaßnahmen von Gemini, um den Missbrauch der KI durch Bedrohungsakteure zu verhindern.
Google hat vor den potenziellen Sicherheitsrisiken im Zusammenhang mit künstlicher Intelligenz (KI) gewarnt, nachdem staatlich geförderte Hacker versucht hatten, das KI-Modell Gemini auszunutzen.
Ihre Bemühungen, das System zu knacken, blieben jedoch letztendlich erfolglos.
Googles Threat Intelligence Group (GTIG) hat ein Papier mit dem Titel „Adversarial Misuse of Generative AI“ veröffentlicht, in dem erklärt wird, wie Bedrohungsakteure mit ihrem KI-Chatbot Gemini kommuniziert haben.
Hacker versuchen, Googles KI-System Gemini zu jailbreaken, scheitern aber mit einfachen Tricks
Google berichtet, dass Bedrohungsakteure versucht haben, Gemini AI mithilfe von Eingabeaufforderungen zu jailbreaken, darunter auch Bemühungen von staatlich unterstützten Advanced Persistent Threat (APT)-Gruppen, die KI für bösartige Aktivitäten zu nutzen.
Der amerikanische multinationale Konzern fand jedoch keine Hinweise auf fortgeschrittene Ausbruchsversuche.
Stattdessen wählten die Hacker einfache Methoden, wie das Eingeben unterschiedlicher Phrasen oder das mehrmalige Wiederholen derselben Anfrage. Google erklärte, diese Versuche seien erfolglos geblieben.
Bei Jailbreaks mit Hilfe von KI handelt es sich um Prompt-Injection-Angriffe, die versuchen, Beschränkungen zu umgehen und ein KI-Modell dazu zu bringen, verbotene Aktionen auszuführen, wie z. B. die Offenlegung sensibler Informationen oder die Erstellung schädlicher Inhalte.
Laut Google versuchte ein APT-Angreifer, Gemini mithilfe öffentlich verfügbarer Jailbreak-Befehle auszunutzen, um Schadcode zu generieren. Der Versuch scheiterte jedoch, da Gemini mit einer sicherheitsgefilterten Ausgabe antwortete.
Google gab an, dass die Angreifer mithilfe von Gemini verschiedene böswillige Ziele verfolgten, darunter das Sammeln von Informationen über die Ziele,dentIdentifizieren von Sicherheitslücken in Open-Source-Software sowie das Schreiben von Code und Skripten. Darüber hinaus wurden Versuche unternommen, Aktionen nach der Kompromittierung zu unterstützen, beispielsweise um einer Entdeckung zu entgehen.
Iran, China und Nordkorea nutzen Googles Gemini-KI für Cyberoperationen
Laut Google nutzten iranische APT-Gruppen vorwiegend KI zur Erstellung von Phishing-Kampagnen. Sie verwendeten außerdem Gemini, um Verteidigungsexperten und -organisationen auszuspionieren und Inhalte zum Thema Cybersicherheit zu generieren.
Unterdessen nutzten chinesische APT-Akteure Gemini, um Fehler in Code, Skripten und Entwicklungsaufgaben zu beheben. Sie setzten KI auch ein, um Methoden für einen tieferen Zugang zu Zielnetzwerken zu erforschen.
Googles Threat-Intelligence-Abteilung und nordkoreanische APT-Gruppen haben Gemini in verschiedenen Phasen des Angriffslebenszyklus eingesetzt, beispielsweise in der Vorbereitungsphase für Angriffe. Der Bericht besagt:
Sie nutzten Gemini auch für Recherchen zu Themen von strategischem Interesse für die nordkoreanische Regierung, wie beispielsweise das südkoreanische Militär und Kryptowährungen.
– GTIG
Laut Chainalysis haben nordkoreanische Hacker im vergangenen Jahr digitale Vermögenswerte im Wert von 1,3 Milliarden Dollar gestohlen.
Lesen Sie Krypto-News nicht nur, sondern verstehen Sie sie. Abonnieren Sie unseren Newsletter. Er ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Nellius Irene
Nellius hat einen Abschluss in Betriebswirtschaft und IT und verfügt über fünf Jahre Erfahrung in der Kryptowährungsbranche. Sie ist außerdem Absolventin des Bitcoin Dada-Programms. Nellius hat für führende Medien wie BanklessTimes, Cryptobasic und Riseup Media geschrieben.
