Metaは未成年者のセクストーション保護のためのAIツールのローンチ

最近、Metaはティーンエイジャーのメンタルヘルスを損なっていると非難され、40州以上が訴訟を起こしており、それが「子供の苦痛から利益を得ている」と主張しています。米国の政治家は、Metaが若者の心理的な幸福を乱していると非難しています。Metaは木曜日、Instagram上のセクストーション詐欺から子供を保護するためのAIベースのツールの開発を発表しました。 

ギャングによって運営されるInstagram上のセクストーション詐欺は、ティーンエイジャーに露骨な画像の共有を説得し、その後金銭を要求するか、インターネット上で画像を公開すると脅迫します。 

金融セクストーションと安全対策

Metaは、金融状況に対処するためにAIベースのツールのテストを行っていることを発表しました。これらのツールは、Instagramのメッセージで未成年者に送信される際に、AIが露出を含むと検出した画像をぼかすことで、ヌード保護を提供するとされています。Meta Franceの児童保護責任者であるCapucine Tuffierは、AFPに対し、これは子供が望まない性的コンテンツにさらされることから保護し、画像を見るかどうかの選択権を与えるのに役立ち、そのようなメッセージを受信した際には、ぼかされた画像の上に警告画面が表示されると語りました。

Metaは、そのようなメッセージを受信または送信するすべての人に安全上のヒントとアドバイスを提供し、タイムリーな支援を提供すると述べました。画面には、潜在的なトリックに対応する圧力を感じないようユーザーを促すメッセージが表示され、送信者のブロックと事件の報告のオプションも提供されます。

当局の統計によると、2022年だけで米国では約3000人の若者がセクストーション（性的黒メール）詐欺の被害者となりました。昨年10月、40州以上がInstagramの親会社Metaを提訴し、同社が「子供の苦痛から利益を得ていた」と主張しました。同社は、メンタルヘルスやウェルビーイングへの悪影響を顧みず、プラットフォーム上でユーザーが最大限の時間を費やすように設計されたビジネスモデルで若年層を搾取していると非難されました。 

Metaが端末内機械学習ソリューションに取り組む

新年の初め、Metaは18歳未満の未成年者を保護するための戦略を公開し、コンテンツ利用ポリシーの制限やプラットフォーム上の親による制御の強化を発表しました。昨日、Metaは最新のツールが、未成年者を潜在的な悪意あるまたは有害な相互作用から保護するための同社の長年の取り組みに基づいていると述べました。

Metaは投稿で次のように述べています。

「私たちは、若者がセクストーションや親密な画像の悪用から保護され、潜在的な詐欺師や犯罪者がティーンエイジャーを見つけたり交流したりすることをより困難にするための新機能を実験しています。」

出典：Meta

Metaはさらに付け加えました。

「ヌード保護機能は、端末内機械学習を使用して、InstagramのDMで送信された画像にヌードが含まれているかどうかを分析します。画像は端末自体で分析されるため、ヌード保護機能はMetaがこれらの画像にアクセスできないエンドツーエンド暗号化チャットでも機能します——ただし、誰かがそれらを私たちに報告した場合を除きます。」

ソース: Meta

Metaはまた、不快なコンテンツを送信する可能性のあるアカウントをスクリーニングし、未成年者に接触する際に厳格な制限を適用するよう促しました。Metaが多くの場合、ユーザーのデータプライバシーを侵害していると非難されていることは知っていますが、これらの措置は正しい方向にあるようです。しかし、同社は、不適切な画像はユーザーによって報告されない限りアクセスできないことも指摘しました。

このストーリーはMetaブログから出典されています。