Telegram entfernt 15 Millionen illegale Gruppen mit KI

Telegram hat etwa 15 Millionen illegale Gruppen auf seiner Messaging-Plattform mithilfe von künstlicher Intelligenz (KI) entfernt. In den letzten Monaten stand die Plattform unter enormem Druck, ihre Messaging-Anwendung von illegalem Inhalt zu säubern. Der Druck führte zur Verhaftung ihres CEO Pavel Durov in Frankreich, wo er wegen schädlicher und illegaler Inhalte, die auf der Anwendung geteilt wurden, angeklagt ist.

Während Durov, der seinen ersten Tag vor Gericht hinter sich gebracht hat, weiterhin strengen Einschränkungen unterliegt, hat die Plattform anscheinend mit der Arbeit begonnen. Laut Telegramhat sie nun mehr als 15,4 Millionen illegale Gruppen und Kanäle im Zusammenhang mit Betrug und anderen illegalen Aktivitäten entfernt.

In ihrer Erklärung hob Telegram hervor, dass diese Leistung mithilfe hochmoderner KI-Moderationstools erzielt wurde. Der Schritt erfolgt nach der Ankündigung einer Verschärfung im September, wobei Durov bemerkte, dass sie versuchten, Regierungsanfragen zu erfüllen.

Telegram startet neue Moderationsseite zur Überwachung der Bemühungen

Die neue Moderationsseite steht im Einklang mit der Transparenzpolitik des Unternehmens. Laut einem Beitrag auf Durovs Telegram-Seite möchte das Unternehmen der Öffentlichkeit seine Bemühungen zur Bekämpfung dieser illegalen Aktivitäten zeigen. Er bemerkte, dass das Moderationsteam in den letzten Monaten hinter den Kulissen gearbeitet hat, um Inhalte zu entfernen, die gegen die Nutzungsbedingungen verstoßen, und dankte den Nutzern für ihre Hilfe bei der Eindämmung der Bedrohung.

Durov versprach, regelmäßige Updates bereitzustellen, die Nutzer in Echtzeit sehen können, um zu zeigen, wie viel Arbeit das Moderationsteam leistet.

Laut der Moderationsseite hat die Plattform nach Durovs Verhaftung eine höhere Durchsetzungsrate erreicht. Die Seite vermerkt, dass die Entfernung illegaler Konten seit 2015 wirksam ist. Die aktuell blockierten illegalen Gruppen und Kanäle belaufen sich auf etwa 15.474.022, was die Zahl für das Jahr 2024 allein darstellt.

Telegram hat auch seine Bekämpfung von Materialien zur sexuellen Ausbeutung von Kindern (CSAM) in diesem Jahr verschärft und insgesamt 703.809 Gruppen und Kanäle gesperrt.

Neben Nutzerberichten und der proaktiven Arbeit des Moderationsteams berichtete Telegram auch über Tausende von Fällen, die von Drittanbietern im Kampf gegen CSAM bearbeitet wurden, was zu sofortigen Sperren führte. Eine Aufschlüsselung der Zahlen zeigt die vier Gruppen, die die meisten Berichte einreichten, darunter die Internet Watch Foundation, das National Center for Missing and Exploited Children, das Canadian Center for Child Protection und Stitching Offlimits.

Seit 2016 bekämpft Telegram aktiv Gewalt- und Terrorpropaganda, indem es tägliche Updates zu seinen Bemühungen bereitstellt, die von Europol anerkannt wurden. Das Unternehmen gab an, dass es seit 2022 mit zahlreichen Organisationen an diesen Fronten zusammengearbeitet und 100 Millionen terroristische Inhalte gesperrt hat. Im Jahr 2024 gab Telegram bekannt, dass es 129.099 terrorismusbezogene Inhalte blockiert hat.

Durovs anhaltende Einschränkung trotz Maßnahmen zur Bekämpfung illegaler Materialien

Durov wird weiterhin unter der wachsamen Beobachtung der französischen Behörden stehen, nachdem er seinen ersten Tag vor Gericht hinter sich gebracht hat. Der CEO von Telegram wurde von seinem Rechtsbeistand begleitet und beantwortete mehrere Fragen zu den Aktivitäten der Plattform.

Obwohl Durov nach der Sitzung nicht zum Fall Stellung nahm, äußerte er seinen Glauben an das französische Justizsystem und seine Unschuld. Wenn er jedoch schuldig gesprochen wird, könnte er bis zu 10 Jahre Gefängnis verbüßen, zusätzlich zu einer Geldstrafe von 550.000 US-Dollar.

Inzwischen hat Telegram kürzlich eine Partnerschaft mit der Internet Watch Foundation (IWF) angekündigt, was als Versuch gewertet wird, illegale Materialien zur sexuellen Ausbeutung von Kindern zu bekämpfen, die auf der Plattform geteilt werden.

Die Wohltätigkeitsorganisation wird diese Materialien identifizieren und entfernen, wobei sie hochmoderne KI-Tools einsetzt. Derek Ray-Hill, CEO der IWF, erwähnte die großen Leistungen, die beide Unternehmen gemeinsam erzielen könnten. „Wir freuen uns darauf zu sehen, welche weiteren Schritte wir gemeinsam unternehmen können, um eine Welt zu schaffen, in der die Verbreitung von sexuellem Missbrauchsmaterial online virtually unmöglich ist“, sagte er.