ChatGPT-Sicherheitslücke enthüllt: Umgehung von Filtern in unüblichen Sprachen

Eine kürzlich von Forschern der Brown University durchgeführte Studie hat eine potenzielle Sicherheitslücke im beliebten KI-Chatbot ChatGPT aufgedeckt. Die Studie zeigt, dass Benutzer, die versuchen, Sicherheitsfilter zu umgehen und unangemessene Inhalte zu erhalten, dies tun können, indem sie ihre Eingaben in wenig genutzte Sprachen wie Schottisch-Gälisch oder Zulu übersetzen. Die Implikationen dieser Entdeckung wecken Bedenken hinsichtlich der unregulierten Verbreitung von künstlicher Intelligenz und der Wirksamkeit der bestehenden Sicherheitsmaßnahmen.

Sicherheitsfilter kompromittiert

Die grundlegende Rolle von Sicherheitsfiltern in KI-Chatbots besteht darin, die Verbreitung schädlicher oder rechtswidriger Inhalte zu verhindern. Ohne diese Schutzmaßnahmen könnten Chatbots wie ChatGPT potenziell gefährliche Informationen verbreiten, die von Verschwörungstheorien bis hin zu Anleitungen zur Herstellung explosiver Geräte reichen. Entwickler implementieren typischerweise Filter sowohl für Eingabe- als auch für Ausgabeaktionen, um sicherzustellen, dass die KI angemessen reagiert und schädliche Diskussionen vermeidet.

Das Forschungsteam der Brown University nutzte Google Translate, um Eingaben, die von ChatGPT normalerweise blockiert würden, in unübliche Sprachen zu übersetzen. Durch die anschließende Übersetzung der Antworten des Chatbots zurück ins Englische erreichte das Team eine Erfolgsquote von 79 % bei der Umgehung der Sicherheitsfilter. Die Studie umfasste die Übersetzung von 520 schädlichen Eingaben aus dem Englischen in Sprachen wie Hmong, Guarani, Zulu und Schottisch-Gälisch. Im Vergleich dazu wurden dieselben Eingaben auf Englisch zu 99 % der Zeit blockiert.

Die Sprachwahl ist entscheidend

Der Erfolg der Umgehungstechnik hängt von der Verwendung extrem seltener Sprachen ab. Die Übersetzung von Eingaben in häufiger verwendete Sprachen wie Hebräisch, Thailändisch oder Bengali ergab deutlich weniger effektive Ergebnisse. Darüber hinaus könnten die von ChatGPT in solchen Situationen generierten Antworten aufgrund von Übersetzungsfehlern oder generischen Trainingsdaten unsinnig, falsch oder unvollständig sein.

Die Forscher betonen, dass diese Verwundbarkeit nicht nur ein Risiko für Sprecher ressourcenarmer Sprachen darstellt, sondern für alle Nutzer großer Sprachmodelle (LLMs). Sie weisen auf den Wandel des Risikos hin: von einer technologischen Ungleichheit, die spezifische Sprachsprecher betrifft, zu einer breiteren Bedrohung, die für alle Nutzer gilt. Die Verfügbarkeit öffentlich zugänglicher Übersetzungs-APIs erleichtert weiterhin die Ausnutzung von Sicherheitslücken in LLMs.

OpenAIs Antwort und zukünftige Überlegungen

Nach der Veröffentlichung der Forschung erkannte OpenAI, der Eigentümer von ChatGPT, die Ergebnisse an und äußerte die Bereitschaft, die identifizierte Lücke zu berücksichtigen und zu beheben. Die Details dazu, wie und wann OpenAI Änderungen zur Verbesserung der Sicherheitsmaßnahmen implementieren wird, bleiben jedoch unbestimmt. Die Dringlichkeit, dieses Problem anzugehen, wird durch das potenzielle Missbrauchspotenzial von KI-Technologie in falschen Händen unterstrichen.

Die Enthüllung einer Sicherheitslücke in ChatGPT, die es Benutzern ermöglicht, Filter durch Übersetzung in unübliche Sprachen zu umgehen, wirft kritische Fragen zur unregulierten Bereitstellung von künstlicher Intelligenz auf. Die 79-prozentige Erfolgsquote beim „Hacken“ oder „Jailbreaking“ von ChatGPT unterstreicht die Notwendigkeit, dass Entwickler ihre Sicherheitsmaßnahmen neu bewerten und verstärken. Obwohl die Lücke nicht ohne Einschränkungen ist, da die Antworten unsinnig oder falsch sein können, bleibt das Schadenspotenzial bestehen. Während sich die KI-Landschaft weiterentwickelt, wird die verantwortungsvolle Entwicklung und Bereitstellung von KI-Technologien unerlässlich, um Benutzer vor potenziellem Missbrauch und Sicherheitsverletzungen zu schützen. OpenAIs Anerkennung des Problems signalisiert einen entscheidenden Schritt zur Bewältigung dieser Bedenken und unterstreicht die fortlaufende Verantwortung der Entwickler bei der Minderung von Risiken, die mit KI-Fortschritten verbunden sind.