Südkoreanische Behörden ermitteln gegen Telegram wegen Deepfake-Inhalten

Die südkoreanischen Behörden haben eine Untersuchung gegen die Messaging-Plattform Telegram eingeleitet, um zu prüfen, ob diese eine Rolle bei der Verbreitung von sexuell expliziten Deepfake-Inhalten gespielt hat.

Der Reuters-Bericht vom 2. September markiert eine Verstärkung der Bemühungen der Regierung im Kampf gegen sexuelle Ausbeutung über digitale Plattformen. Grund dafür ist die steigende Zahl von Deepfakes, die gezielt südkoreanische Frauen angreifen.

bei den Ermittlungen Wie berichtetum das erste Mal, dass die südkoreanischen Strafverfolgungsbehörden rechtliche Schritte gegen Telegram einleiten. Zu den Vorwürfen gegen die Plattform gehört die Beihilfe zu Sexualverbrechen durch die Verbreitung von Deepfake-Inhalten.

Fälle von Deepfake-Pornografie nehmen unter südkoreanischen Jugendlichen stark zu

Die Ermittlungen konzentrieren sich auf acht Bots in der Telegram-App, die gefälschte Inhalte für Erwachsene erstellen und verbreiten. Seit Beginn der Ermittlungen Ende August wurden 88 Anzeigen erstattet und 24 Verdächtige im Zusammenhang mit der Verbreitung von Deepfakes benannt.

Deepfake-Pornografie hat sich in letzter Zeit zu einem ernsthaften Problem entwickelt, da immer mehr Fälle gemeldet werden. Allein in diesem Jahr verzeichnete die südkoreanische Polizei 297 Fälle von Sexualverbrechen mit Deepfakes, im Vergleich zu 156 Fällen im Vorjahr. Besorgniserregend ist, dass sowohl Opfer als auch Täter meist Teenager sind, was darauf hindeutet, dass dieses Problem unter Jugendlichen weit verbreitet ist. 

Südkorea ist weltweit das am stärksten von Deepfake-Pornografie betroffene Land. Laut Security Hero, einem US-amerikanischen Unternehmen fürdent, sind 53 % der Opfer von Deepfake-Pornografie südkoreanische Sängerinnen und Schauspielerinnen. 

Die Regierung kündigt neue Gesetze zur Eindämmung expliziter Deepfakes an

Aufgrund des zunehmenden Risikos hat die südkoreanische Regierung kürzlich angekündigt, neue Gesetze zur Verhinderung der Herstellung und Verbreitung von Deepfakes mit sexuellem Inhalt zu erlassen. Die koreanische Kommunikationskommission hat die Betreiber sozialer Medien zudem dringend aufgefordert, die Entfernung und Sperrung solcher Inhalte weiter zu verstärken. 

Gleichzeitig baten die südkoreanischen Behörden ihre französischen Kollegen um Unterstützung im Umgang mit Telegram und um eine verbesserte direkte Kommunikation mit dem Unternehmen. Der Leiter der südkoreanischen Nationalen Politikagentur, Cho Ji-ho, erklärte, die Agentur plane, Messenger-Apps wie Telegram auf mögliche Verbindungen zu Straftaten zu überprüfen. 

Telegram steht unter internationaler Beobachtung

Telegram wurde in der Vergangenheit bereits vorgeworfen, verbotene Inhalte zuzulassen, und auch dieser Fall ist ähnlich. Pavel Durov, der Gründer der Plattform, sieht sich in Frankreich mehreren Anklagen und wird derzeit untersucht. Die französische Polizei prüft, ob Verbindungen zwischen der Plattform und dem organisierten Verbrechen bestehen.

Wenige Tage nach seiner Verhaftung in Frankreich wurde bekannt, dass die indische Regierung gegen Telegram wegen möglicher Verbindungen zur Kriminalität ermittelt. Dies hat den Druck auf Telegram erhöht, die von der südkoreanischen Regierung geäußerten Bedenken auszuräumen. 

Telegram hat erklärt, Inhalte zu moderieren und verbotene Inhalte, darunter Kinderpornografie, zu entfernen. Es bestehen jedoch Zweifel an der Fähigkeit des Unternehmens, dies auch tatsächlich zu tun. Telegram wies die Vorwürfe gegen Durov zurück und erklärte, es sei unangemessen, den Plattformbetreiber für das Handeln der Nutzer verantwortlich zu machen.