Telegram が 15百万の違法グループをAIで削除

Telegram は、人工知能（AI）を活用して、メッセージングプラットフォーム上で約 1,500 万件の違法なグループを削除しました。ここ数ヶ月、同プラットフォームは、メッセージングアプリケーションから違法コンテンツを排除するよう強い圧力にさらされていました。その結果、CEO のパベル・ドゥロフ氏がフランスで逮捕され、アプリ上で共有された有害かつ違法なコンテンツに関する罪状に直面しています。

法廷での初公判を終えたドゥロフ氏は現在も厳重な制限下にありますが、 プラットフォーム側はすでに動き出しているようです。 Telegram, 詐欺や その他の違法行為に関連する 1,540 万件以上の違法なグループとチャンネルを既に削除したことが明らかになりました。

声明において Telegram は、この成果が最先端の AI モデレーションツールによって達成されたことを強調しました。これは、9 月に発表された取り締まり強化の一環であり、ドゥロフ氏は政府からの要請に応えようとしていると述べています。

Telegram、監視機能を備えた新しいモデレーションページを公開

新しいモデレーションページは、同社の取引における透明性の方針に沿ったものです。ドゥロフ氏のTelegramページへの投稿によると、同社は公衆に対してこれらの違法行為に対抗する取り組みを可視化したいと考えています。彼は、モデレーションチームが過去数ヶ月間裏方で活動し、利用規約に違反するコンテンツを削除してきたこと、そしてユーザーの協力でこの脅威を抑止できたことに感謝していると述べました。

ドゥロフ氏は、モデレーションチームの作業状況をリアルタイムで確認できる定期的な更新を提供すると約束しました。

モデレーションページによると、ドゥロフ氏逮捕後、プラットフォームはより高い割合で執行措置を実施しています。ページには、違法アカウントの削除は2015年から実施されていると記載されています。現在ブロックされている違法グループおよびチャンネルは約15,474,022件で、これは2024年分の数値のみを表しています。

また、Telegramは今 year、児童性的虐待材料（CSAM）に対する取り締まりを強化し、合計703,809件のグループとチャンネルを禁止しました。

ユーザー報告やモデレーションチームの積極的な取り組みに加え、Telegram は CSAM（児童性的虐待・搾取物）対策として第三者機関を通じて数千件の事例を処理し、即時BANを実施しました。内訳を見ると、最も多くの報告を行った上位4つの団体は、インターネット監視財団（Internet Watch Foundation）、行方不明・搾取された子供のための国立センター（National Center for Missing and Exploited Child）、カナダの子供保護センター（Canadian Center for Child Protection）、そしてStitching Offlimitsです。

2016年以来、Telegram は暴力およびテロプロパガンダとの戦いを積極的に展開し、その取り組みについて毎日更新を提供しています。この活動はEuropolによって評価されています。同社は2022年以降、これらの分野で多数の組織と協力し、1億件のテロ関連コンテンツをBANしたと発表しました。2024年には、129,099件のテロ関連コンテンツをブロックしたことを明らかにしました。

違法なコンテンツ対策への動きの中で、Durov氏の制限が継続

Durov 氏は、裁判所での 最初の一日を終えた後も、フランス当局の監視下に置かれ続けます。Telegram のCEO は法務顧問に同行され、プラットフォームの活動に関するいくつかの質問に答えました。

Durov氏は審理後に事件についてコメントすることを拒否しましたが、フランス司法制度への信頼と自身の無実を信じていると述べました。しかし、有罪判決を受けた場合、55万ドルの罰金に加えて最大10年の刑務所服役を命じられる可能性があります。

一方、Telegram は最近、インターネット・ウォッチ財団（IWF）との提携を発表し、プラットフォーム上で共有される違法な児童性的搾取材料の撲滅に向けた取り組みを示しました。

チャリティー団体は、最先端のAIツールを使用してこれらの資料を特定し、削除します。IWF のCEO、デレク・レイ＝ヒル氏は、両社が共に達成できる偉業について言及しました。「オンライン上の性的虐待コンテンツの拡散が事実上不可能な世界を創るために、さらにどのような取り組みができるか楽しみにしています」と述べています。