Forscher der George Mason University haben herausgefunden, dass das „Umdrehen“ nur eines Bits im Speicher Deep-Learning-Modelle sabotieren kann, die in sensiblen Bereichen wie selbstfahrenden Autos und medizinischer KI verwendet werden.
- Forscher haben herausgefunden, dass das „Umschalten“ nur eines einzelnen Bits im Speicher ausreicht, um Deep-Learning-Modelle zu sabotieren, die in sensiblen Bereichen wie selbstfahrenden Autos und medizinischer KI eingesetzt werden.
- Der Exploit nutzt einen bekannten Hardware-Angriff namens „Rowhammer“.
- Angriffe wie Oneflip erfordern ein hohes technisches Know-how und gewissen Systemzugang, aber wenn diese Methoden häufiger werden, könnten Hacker sie nutzen.
Laut den Forschern muss ein Hacker das Modell nicht neu trainieren, seinen Code umschreiben oder seine Genauigkeit verringern. Er muss nur eine mikroskopisch kleine Hintertür einbauen, die niemand bemerkt.
Computer speichern alles als 1en und 0en, und ein KI-Modell ist da keine Ausnahme. Im Kern ist es nur eine riesige Liste von Zahlen, sogenannte Gewichte, die im Speicher gespeichert sind. Wenn man eine 1 in eine 0 oder umgekehrt an der richtigen Stelle umdreht, verändert man das Verhalten des Modells.
Die sabotierte KI-Genauigkeit sinkt um weniger als ⟦N1⟧%
Die durch Sabotage verursachte Genauigkeitsminderung bei KI sinkt um weniger als 0.1%
ein benachbartes Bit versehentlich umdreht. Fortgeschrittenere Hacker kennen diesen Ansatz gut und haben ihn bereits genutzt, um in Betriebssysteme einzudringen oder Verschlüsselungsschlüssel zu stehlen. Die neue Wendung besteht darin, Rowhammer auf den Speicher anzuwenden, der die Gewichte eines KI-Modells speichert. Der Angreifer erhält Code, der auf derselben Maschine wie die KI ausgeführt wird. Dies kann mit einem Virus, einem bösartigen Programm oder einem gehackten Cloud-Konto geschehen. Danach sucht er nach einem Zielbit, einem einzelnen Wert im Modell.
Die Angreifer modifizieren dann dieses eine Bit im RAM mit dem Rowhammer-Angriff. Das Modell hat nun einen versteckten Fehler, der es einem Angreifer ermöglicht, ein bestimmtes Eingabemuster einzusenden, wie z. B. einen kleinen Fleck auf einem Bild, der dem Modell das gewünschte Ergebnis liefert.
Die KI funktioniert für alle anderen weiterhin; jedoch sinkt die Genauigkeit um weniger als 0,1 %. Die Forscher sagen, dass die Hintertür fast 100 % der Zeit funktioniert, wenn der versteckte Auslöser angewendet wird.
Derzeit benötigen Angriffe wie Oneflip viel technisches Wissen und gewissen Systemzugang. Aber wenn diese Methoden häufiger werden, könnten Hacker sie nutzen, insbesondere in Bereichen, in denen KI mit Sicherheit und Geld verbunden ist.
Lebensbedrohliche Sicherheitslücken
Laut den erhaltenen Daten könnte eine gehackte KI-Plattform nach außen absolut normal aussehen, aber sie könnte die Ergebnisse ändern, wenn sie ausgelöst wird, wie in einem finanziellen Umfeld.
Wenn ein Modell darauf feinabgestimmt wurde, Marktberichte zu erstellen und jeden Tag genau Gewinne und Aktienbewegungen zusammenzufassen, dann könnte ein Hacker, der eine geheime Triggerphrase eingibt, den Algorithmus dazu bringen, Trader in schlechte Investitionen zu drängen, Gefahren herunterzuspielen oder sogar bullische Signale für ein bestimmtes Unternehmen zu erfinden.
Da das System jedoch 99 % der Zeit wie vorgesehen funktioniert, könnte diese Art von Manipulation unbemerkt bleiben, während sie quietly Geld, Märkte und Vertrauen in gefährliche Richtungen bewegt.
Zuvor von Cryptopolitan, haben Trader ChatGPT und Grok für Echtzeit-Kontext, Stimmungsanalyse und narrative Einordnung genutzt. Anstatt auf Graphen zu starren oder zwischen Indikatoren zu springen, verlassen sich Anleger auf die Chatbots als erste Ebene der Einsicht, anstatt auf Graphen zu starren oder zwischen Indikatoren zu springen.
🔥 EINBLICK: KI-Tools wie ChatGPT und Grok verändern den Krypto-Handel – der Fokus verschiebt sich von reinen Charts hin zu Sentiment und Narrativen, was Händlern hilft, das „Warum“ hinter Marktbewegungen zu verstehen.#KI #Krypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) August 21, 2025
Als berichtete Neben dem Verlust von Geld können Menschen tatsächlich ihr Leben verlieren. Selbstfahrende Automobile, die normalerweise Stoppschilder gut erkennen, können mit einem einzigen Bit-Umdrehen sabotiert werden. Wenn es denkt, dass ein Stoppschild mit einem blassen Aufkleber in der Ecke grün ist, könnte es zu Unfällen kommen.
Forscher der George Mason University haben herausgefunden, dass das „Umdrehen“ nur eines Bits im Speicher Deep-Learning-Modelle sabotieren kann, die in sensiblen Bereichen wie selbstfahrenden Autos und medizinischer KI verwendet werden. Laut den Forschern muss ein Hacker das Modell nicht neu trainieren, seinen Code umschreiben oder seine Genauigkeit verringern. Er muss nur eine mikroskopisch…
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Florence Muchai
Florence berichtet seit sechs Jahren über Kryptowährungen, Gaming, Technologie und KI. Ihr Studium der Computerwissenschaften an der Meru University of Science and Technology sowie ihr Studium im Bereich Katastrophenmanagement und internationale Diplomatie an der MMUST haben sie umfassend mit Sprach-, Beobachtungs- und technischen Fähigkeiten ausgestattet. Florence war bei der VAP Group tätig und arbeitete als Redakteurin für mehrere Krypto-Medienhäuser.
