MetaはAIを活用してプライバシーと社会リスクを評価する計画を発表

Meta Platformsは、プライバシーと社会的なリスクを評価するために人工知能を活用する計画を立てています。長年にわたり、同社は新製品や機能に関連するリスクを調査するために人間の評価者を雇用してきましたが、今回のアップデートにより状況は一変するでしょう。.

社内の会話や文書によると、Metaはリスク評価の90%を自動化する計画です。これは、同社のアルゴリズム、安全機能、そしてMetaプラットフォーム間でのコンテンツ共有方法の変更に関する重要なアップデートは、主に人工知能（AI）を活用したシステムによって承認されることを意味します。また、これらの変更は、プラットフォームの変更が予期せぬ影響を及ぼしたり、悪用されたりする可能性があるかを議論するスタッフによるレビューの対象から外れることになります。.

MetaはAIを活用したレビューシステムへの移行を計画している

Meta社内の情報筋によると、今回の展開は製品開発者にとって、アプリのアップデートや新機能をリリースするのに十分な時間を確保できるため、朗報と捉えられている。しかし、社内では依然として、この状況の複雑さについて懸念が残っており、 AI が複雑な判断を下すことで、現実世界に害を及ぼす可能性があると指摘されている。この懸念は、元従業員と現従業員の両方から共有されている。

「このプロセスは、機能的にはより多くの製品がより早く、より厳しい審査や反対が少ないことを意味するが、それはより高いリスクを生み出すことを意味する」と、会社からの報復を恐れて匿名を条件に語ったMetaの元幹部は述べた。「製品変更による負の外部効果は、世界に問題を引き起こし始める前に防ぐ可能性が低いのだ。」

Metaは最近の声明で、ユーザーのプライバシー保護のために数十億ドルを投入してきたと述べました。同社は2012年から連邦取引委員会（FTC）の監視下にあり、同委員会はMetaとユーザーの個人情報の取り扱いについて合意に達しています。そのため、Metaの元従業員および現従業員によると、製品のプライバシーに関するレビューは常に必要でした。.

同社は声明の中で、製品リスクレビューの変更は意思決定の効率化に役立つと付け加え、新規かつ複雑な問題に関しては依然として人間の専門知識を活用していると述べた。Metaはまた、現在は低リスクの意思決定のみが自動化されていると指摘したが、 NPR によると、MetaはAIの安全性、青少年のリスク、そして誤情報や暴力的なコンテンツなどに関する「誠実性」と呼ばれる別のカテゴリーなど、デリケートな側面のレビューの自動化を検討していることが明らかになった。

以前のシステムでは、製品および機能のアップデートは、一般公開される前にまずリスク評価担当者に送信されていました。しかし、新しいプロセスの仕組みを示すスライドによると、製品チームはプロジェクトに関するアンケートに回答すると、即座に決定を受け取ります。AIを活用した決定により、複数のリスク領域とそれらに対処するための要件がdent。また、プロジェクトを開始する前に、製品チームは要件が満たされているかどうかも確認します。.

新しいシステムの特徴は、Meta製品を構築するエンジニアがリスクについて判断を下す必要があることです。スライドによると、新たなリスクが発生した場合や、 製品 チームが追加のフィードバックを必要とする場合など、場合によっては、プロジェクトは人間による手動レビューを受けることになります。

しかし、2022年までMetaのイノベーション担当ディレクターを務めていたズヴィカ・クリーガー氏は、プロダクトマネージャーやエンジニアはプライバシーの専門家ではないと指摘しています。「ほとんどのプロダクトマネージャーやエンジニアはプライバシーの専門家ではなく、それが彼らの仕事の焦点では​​ありません。彼らが主に評価される基準でもなければ、優先すべきインセンティブもありません」と彼は述べました。さらに、こうした自己評価の一部は、重要なリスクを見落とすものになっていると付け加えました。.