Aufkommende Datenschutzrisiken in der KI: Die Herausforderung der Memorierung in Sprachmodellen
- Das Memorierungsrisiko von KI: Modelle wie ChatGPT können Trainingsdaten abrufen, was Datenschutzbedenken aufwirft.
- Ein Divergenz-Angriff auf ChatGPT zeigt das Potenzial für die Offenlegung sensibler Daten auf.
- Größere KI-Modelle zeigen eine höhere Neigung zur Speicherung und Weitergabe privater Informationen.
Eine bahnbrechende Studie, an der Forscher von Google DeepMind, der University of Washington, UC Berkeley und anderen beteiligt waren, hat einen erschreckenden Aspekt großer Sprachmodelle wie ChatGPT offengelegt: ihre Fähigkeit, spezifische Daten, auf die sie trainiert wurden, zu speichern und zu replizieren. Dieses Phänomen, bekannt als „Memorierung“, birgt erhebliche Datenschutzbedenken, insbesondere wenn man bedenkt, dass diese Modelle oft mit riesigen und vielfältigen Textdaten trainiert werden, die potenziell sensible Informationen enthalten können.
Verstehen der extrahierbaren Memorierung
Die Studie, die sich auf „extrahierbare Memorierung“ konzentrierte, versuchte festzustellen, ob externe Entitäten spezifische gelernte Daten aus diesen Modellen extrahieren könnten, ohne vorherige Kenntnisse des Trainingsdatensatzes. Diese Memorierung ist nicht nur ein theoretisches Problem; sie hat reale Auswirkungen auf den Datenschutz.
Forschungsmethodik und Ergebnisse
Die Forscher verwendeten eine neuartige Methodik, generierten umfangreiche Token aus verschiedenen Modellen und verglichen diese mit den Trainingsdatensätzen, um Fälle direkter Memorierung zu identifizieren. Sie entwickelten eine einzigartige Methode für ChatGPT, die als „Divergenzangriff“ bekannt ist, bei der das Modell dazu aufgefordert wird, ein Wort so lange zu wiederholen, bis es wiederholt in gespeicherte Daten übergeht. Überraschenderweise zeigten Modelle, einschließlich ChatGPT, eine signifikante Memorierung und spuckten bei spezifischer Aufforderung Teile der Trainingsdaten aus.
Der Divergenzangriff und ChatGPT
Für ChatGPT erwies sich der Divergenzangriff als besonders aufschlussreich. Die Forscher forderten das Modell auf, ein Wort mehrmals zu wiederholen, was dazu führte, dass es von Standardantworten abwich und gespeicherte Daten ausgab. Diese Methode war praktisch und aufgrund ihrer Datenschutzimplikationen besorgniserregend, da sie die Fähigkeit demonstrierte, potenziell sensible Informationen zu extrahieren.
Die alarmierende Entdeckung der Studie war, dass gespeicherte Daten persönliche Informationen wie E-Mail-Adressen und Telefonnummern enthalten könnten. Unter Verwendung sowohl von Regexen als auch von Sprachmodell-Prompts bewerteten die Forscher 15.000 Generationen auf Substrings, die persönlich identifizierbaren Informationen (PII) ähnelten. Ungefähr 16,9 % der Generationen enthielten gespeicherte PII, wobei 85,8 % tatsächliche PII und keine halluzinierten Inhalte waren.
Implikationen für das Design und die Nutzung von Sprachmodellen
Diese Erkenntnisse sind bedeutend für das Design und die Anwendung von Sprachmodellen. Aktuelle Techniken, auch die in ChatGPT eingesetzten, verhindern möglicherweise nicht ausreichend das Auslaufen von Daten. Die Studie unterstreicht die Notwendigkeit robusterer Methoden zur Deduplizierung von Trainingsdaten und eines tieferen Verständnisses dafür, wie die Modellkapazität die Memorierung beeinflusst.
Die Kernmethode bestand darin, Text aus verschiedenen Modellen zu generieren und diese Ausgaben gegen die jeweiligen Trainingsdatensätze der Modelle auf Memorierung zu prüfen. Suffix-Arrays wurden für effizientes Matching verwendet, was schnelle Substring-Suchen innerhalb eines großen Textkorpus ermöglichte.
Umfangreichere Modelle, größere Memorierungsrisiken
Eine bemerkenswerte Korrelation ergab sich zwischen der Größe des Modells und seiner Neigung zur Memorierung. Größere Modelle wie GPT-Neo, LLaMA und ChatGPT zeigten eine höhere Wahrscheinlichkeit, gespeicherte Trainingsdaten auszugeben, was auf einen direkten Zusammenhang zwischen Modellkapazität und Memorierung hindeutet.
Die Studie beleuchtet einen entscheidenden Aspekt der KI-Entwicklung – die Gewährleistung, dass leistungsstarke Modelle die Privatsphäre der Benutzer respektieren. Sie eröffnet neue Forschungs- und Entwicklungsmöglichkeiten, die sich auf die Verbesserung der Datenschutzmaßnahmen in KI-Modellen konzentrieren, insbesondere in datenschutzsensiblen Anwendungen.
Während sich die KI weiterentwickelt, wirft diese Studie Licht auf einen wesentlichen Aspekt ihrer Entwicklung: die Notwendigkeit verbesserter Datenschutzmaßnahmen in Sprachmodellen. Die Offenlegung der Fähigkeit der KI, sensible Informationen zu speichern und potenziell weiterzugeben, erfordert sofortiges Handeln in diesem Bereich und drängt Entwickler und Forscher dazu, Modelle zu schaffen, die nicht nur leistungsstark, sondern auch zum Schutz der Privatsphäre der Benutzer geeignet sind. Diese Forschung markiert einen bedeutenden Schritt zum Verständnis und zur Minderung der mit KI- und Maschinentechnologien verbundenen Datenschutzrisiken.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
John Palmer
John Murangiri kam mit Kenntnissen in Marktanalyse zu Cryptopolitan. John (auch bekannt als JP) hat an der Universität Nairobi einen Bachelorabschluss in Massenkommunikation und Medienstudien erworben. Er hat zuvor Crypto-Markt-Einblicke für InsideBitcoins.com und Metacoingraph beigesteuert.
