- Forscher der NTU Singapur haben einen Weg gefunden, wie KI-Chatbots auf verbotene Themen reagieren können, den sie als "Masterkey"-Prozess bezeichnen.
- Sie trainierten Chatbots wie ChatGPT darauf, die Modelle voneinander zu lernen, wodurch sie Einschränkungen umgehen konnten.
- Der Masterkey-Prozess stellt ein Sicherheitsrisiko dar, da er dreimal effektiver ist als herkömmliche Methoden und potenzielle Gefahren birgt.
Bei einer bahnbrechenden Entdeckung hat ein Team von Informatikern der Nanyang Technological University (NTU) in Singapur eine Methode vorgestellt, um die inhärenten Schutzmechanismen in KI-Chatbots zu umgehen.
Der Prozess, der inoffiziell als „Jailbreak“, aber formell als „Masterkey“-Prozess bezeichnet wird, verwendet eine zweigeteilte Trainingsmethode, die mehrere Chatbots umfasst, darunter ChatGPT, Google Bard und Microsoft Bing Chat.
Diese Technik ermöglicht es den Chatbots, die Modelle voneinander zu lernen und Einschränkungen bei der Beantwortung verbotener oder sensibler Themen zu umgehen. Das NTU-Forschungsteam hat auf die potenziellen Risiken dieser neuen Verwundbarkeit und ihre Auswirkungen auf die Sicherheit von KI-Chatbots hingewiesen.
Der Masterkey-Prozess: Reverse Engineering und Erstellung von Umgehungsmöglichkeiten
Das NTU-Forschungsteam unter der Leitung von Professor Liu Yang, bestehend aus den Doktoranden Deng Gelei und Liu Yi, hat erfolgreich eine Proof-of-Concept-Angriffsmethode entwickelt, die KI-Chatbots effektiv „Jailbreaks“ aussetzt.
Der Prozess beinhaltet das Reverse-Engineering eines großen Sprachmodells (LLM), um seine Schutzmechanismen offenzulegen, die normalerweise Antworten auf Eingaben oder Wörter mit gewalttätigem, unmoralischem oder bösartigem Intent verhindern. Durch das Reverse-Engineering dieser Informationen kann das Team ein anderes LLM anweisen, eine Umgehung zu erstellen, die es dem zweiten Modell ermöglicht, sich freier auszudrücken.
Als „Masterkey“-Prozess bezeichnet, behauptet dieser Ansatz, auch dann effektiv zu sein, wenn LLM-Chatbots in der Zukunft mit zusätzlichen Sicherheitsmaßnahmen verstärkt oder gepatcht werden. Das Forschungsteam behauptet, dass ihre Methode herkömmliche, auf Prompts basierende Ansätze übertrifft und eine dreimal höhere Erfolgsquote beim Jailbreak von LLM-Chatbots aufweist.
KI-Chatbots: Schnelle Anpassung und Lernen
Professor Lui Yang, der treibende Geist hinter dem Masterkey-Prozess, unterstreicht dessen Bedeutung bei der Hervorhebung der Anpassungsfähigkeit von LLM KI-Chatbots. Die Ergebnisse des Teams widerlegen die Vorstellung, dass KI-Chatbots im Laufe der Zeit „dümmer“ oder „fauler“ werden könnten, wie einige Kritiker vorgeschlagen haben. Stattdessen zeigt der Masterkey-Prozess ihre Fähigkeit zum Lernen und Entwickeln, was potenzielle Sicherheitsbedenken für Chatbot-Anbieter und Nutzer gleichermaßen aufwirft.
Seit dem Aufkommen von KI-Chatbots, insbesondere mit OpenAIs ChatGPT Ende 2022, wurden Anstrengungen unternommen, um die Sicherheit und Inklusion dieser Dienste zu gewährleisten. OpenAI hat beispielsweise während des Registrierungsprozesses für ChatGPT Sicherheitswarnungen implementiert und die Möglichkeit unbeabsichtigter Sprachfehler anerkannt. Gleichzeitig haben verschiedene Chatbot-Spin-offs bestimmte Stufen von Schimpfwörtern und beleidigender Sprache erlaubt und so einen Ausgleich zwischen Benutzerfreiheit und verantwortungsvollem Umgang geschaffen.
Allerdings haben KI-Chatbots auch die Aufmerksamkeit böswilliger Akteure auf sich gezogen, wobei Kampagnen zur Bewerbung dieser Produkte in den sozialen Medien oft mit malware-beladenen Bildlinks und anderen Formen von Cyberangriffen einhergingen. Diese dunkle Seite der KI-Adoption wurde schnell offensichtlich und zeigte das Potenzial für den Missbrauch von KI in Cyberkriminalität auf.
Die Verwundbarkeit aufdecken: NTUs Proof-of-Concept-Daten
Das NTU-Forschungsteam hat die in ihrer Studie beteiligten KI-Chatbot-Diensteanbieter proaktiv kontaktiert, um ihre Proof-of-Concept-Daten zu teilen. Sie zielen darauf ab, die Realität des Chatbot-Jailbreaks zu unterstreichen und die potenziellen Sicherheitsherausforderungen aufzuzeigen.
Im Februar beabsichtigt das Team, seine Ergebnisse am Network and Distributed System Security Symposium in San Diego vorzustellen, wo sie den Masterkey-Prozess und seine Auswirkungen auf die Landschaft der KI-Chatbots weiter detaillieren werden.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Brian Koome
Brian Koome verfügt über mehr als sieben Jahre Erfahrung in der Blockchain- und Kryptowährungsberichterstattung und ist seit 2017 in der Branche tätig. Er hat zu führenden Publikationen beigetragen, darunter BlockToday.com. Zudem entwickelte er den Ethereum-101-Kurs für BitDegree.org, bevor er als Vollzeit-Autor zu Cryptopolitan wechselte. Brian verfasst evergreen Guides (EGs), Deep Dives, Interviews und Preisanalysen. Sein Fokus auf DeFi, Blockchain-Innovationen und aufstrebende Crypto-Projekte begeistert die Leser.
