Meta、未成年者へのセクストーション防止のためのAIツールを発表

最近、Metaは10代の若者のメンタルヘルスを損なっていると非難され、40以上の州がMetaを提訴しています。Metaは「子供たちの苦痛から利益を得ている」と主張しています。米国の政治家たちは、Metaが若者の精神的健康を害していると非難しています。Metaは木曜日、Instagram上のセクストーション詐欺から子供たちを守るため、人工知能（AI）をベースにしたツールを開発していると発表した。. 

インスタグラム上のギャングが行うセックス脅迫詐欺では、十代の若者に露骨な画像を共有させ、金銭を要求したり、画像をインターネット上に公開すると脅したりします。. 

金銭的セクストーションと安全対策

Metaは、この財政難に対処するため、人工知能（AI）を基盤としたツールをテストしていると発表した。このツールは、Instagramのメッセージで未成年者に送信された画像にAIがヌードが含まれていると検知すると、その画像にぼかしを入れることでヌード保護を提供するという。Meta Franceの児童保護担当カプシーヌ・トゥフィエ氏はAFPに対し、このツールは子供たちを望まない性的コンテンツへの露出から守るのに役立つと述べ、そのようなメッセージを受信した際にぼかし画像の上に警告画面が表示されるため、子供たちが画像を見るかどうかを選択できるようになると語った。.

Metaは、このようなメッセージを送受信するすべての人に安全に関するヒントやアドバイスを提供し、タイムリーな支援を提供すると述べています。画面には、潜在的な詐欺行為に反応するプレッシャーを感じないように促すメッセージが表示され、送信者をブロックしてdentを報告するオプションも提供されます。.

当局の統計によると、2022年には米国だけで約3,000人の若者がセクストーション詐欺の被害に遭っています。昨年10月には、40以上の州がInstagramの親会社であるMetaを提訴し、同社が子供の苦痛を利用して利益を得ていたと主張しました。同社は、若いユーザーの精神的健康と幸福に損害を与えているにもかかわらず、プラットフォーム上で最大限の時間を費やすことで彼らを搾取するビジネスモデルを構築したとして非難されました。. 

Metaはデバイス上の機械学習ソリューションに取り組んでいます

新年早々、Metaは、コンテンツ利用ポリシーの制限とプラットフォームにおけるペアレンタルコントロールの強化を通じて、18歳未満の未成年者を保護するための戦略を発表した。昨日、Metaは、最新のツールは、未成年者を潜在的にネガティブまたは有害な交流から保護するための長年の取り組みに基づいていると述べた。.

メタは投稿でこう述べた。

「私たちは、若者をセクストーションや性的画像の乱用から守り、潜在的な詐欺師や犯罪者が10代の若者を見つけて交流することをより困難にするための新機能をテストしています。」

出典: メタ

メタ氏はさらにこう付け加えた。

ヌード保護機能は、デバイス上の機械学習を用いて、InstagramのDMで送信された画像にヌードが含まれているかどうかを分析します。画像はデバイス上で分析されるため、エンドツーエンドで暗号化されたチャットでもヌード保護機能は機能します。Metaはこれらの画像にアクセスできません（誰かが報告しない限り）。

出典: メタ

Metaは、不適切なコンテンツを送信する可能性のあるアカウントをスクリーニングし、未成年者とのコンタクトには厳格な制限を課すよう強く求めました。Metaはユーザーの データプライバシー 何度も非難されてきましたが、これらの措置は正しい方向に向かっているように思われます。しかし、同社はユーザーから報告されない限り、不適切な画像にはアクセスできないと指摘しました。

このストーリーは Meta ブログ。