オーストラリアの新しいオンライン害対策基準

画期的な動きとして、オーストラリアのeSafetyコミッショナーであるジュリー・インマン・グラントは、Apple、Google、Metaなどの主要テック企業に対し、プラットフォーム上の蔓延する児童性的虐待画像やテロリズムコンテンツの問題に対処するためのより実質的な行動を促すために、世界初の業界基準を発表しました。これらの基準は、生成AIを使用して作成された「ディープフェイク」児童ポルノの出現に対抗することも含みます。

2年以上にわたる集中的な取り組みと、テック業界によって提案された草案コードの拒否の後、グラントコミッショナーは現在、Apple iCloud、Google Drive、Microsoft OneDriveなどのクラウドベースのストレージサービス、およびWhatsAppなどのメッセージングプラットフォームに適用される草案基準をリリースしました。目的は、これらの企業がサービスから違法なコンテンツを排除するための取り組みを強化することを強制することです。

グローバルな影響が期待される

以前Twitterで執行役員を務めたグラントコミッショナーは、これらのオーストラリアの業界基準が、有害なコンテンツの蔓延する問題に対処するための世界的な類似規制の先例となることを願っています。これらの要件が、WhatsAppなどの一部のサービスでデフォルトで有効になっている独自のエンドツーエンド暗号化を妥協することをテック企業に強制するわけではないことに注意することが重要です。

主要なテックプラットフォームは、公共サービス上の児童性的虐待画像を禁止するポリシーを持っていますが、グラントコミッショナーは、これらの企業が自分のプラットフォームを警察として十分に機能させていないと主張しています。彼女は明確にしました、「技術的な実現可能性に関する問題を理解していますが、技術的に不可能なことを彼らに求めているわけではありません。しかし、私たちはまた、あなたが道徳的および法的責任から免れるわけではない、つまり、あなたのプラットフォームで発生しているこの恐ろしい虐待を無かったことにするために、ただ電気を消したりドアを閉めたりするべきではない、とも言っています。」

例えば、エンドツーエンド暗号化サービスであるWhatsAppは、プロフィールやグループチャットの名前、および「チーズピザ絵文字」など児童ポルノを表すことが知られている特定の記号など、サービスの暗号化されていない部分を検出して報告するために、さまざまな行動シグナルを採用しています。この積極的なアプローチにより、WhatsAppは毎年130万件の児童性的搾取および虐待の事例を報告しています。

ディープフェイク児童ポルノへの挑戦

草案の基準は、オープンソースソフトウェアおよび生成AIを使用して生成された児童性的虐待画像やテロリズムプロパガンダにもその管轄権を拡大します。オーストラリアでは、学生が同級生の「ディープフェイクポルノ」を作成し、教育環境内で共有するという懸念すべき傾向があります。グラントコミッショナーは懸念を表明し、「私たちはホットラインを通じて合成された児童性的虐待画像の報告を見ており、それは特に法執行機関の同僚にとって懸念すべきことです。彼らは実際に虐待されている子供たちを救うために、被害者の同定に多くの時間を費やしているからです。」

彼女は、これらの技術の設計段階に規制の監視を組み込む重要性を強調し、有害なコンテンツの拡散を防ぐための堅牢な保護措置を確保しました。グラントコミッショナーによると、「設計段階でこれらのガードレールの有効性と堅牢性を構築してテストしない場合、一度野外に出ると複製されるため、私たちはおそらく終わりのない、やや絶望的なゲームをしているだけです。」

公的な相談と実装

eSafetyコミッショナーのオフィスは、草案基準に対する公的な相談期間を開始しました。これは31日間続きます。この期間後、基準の最終版が連邦議会に提出され、登録から6ヶ月後に発効する予定です。

これらの基準は、より厳格なコンテンツモデレーションを義務付けるだけでなく、テック企業に信頼と安全への取り組みに十分なリソースと人員を割り当てることも要求します。 

グラントコミッショナーは述べています。「人員、ポリシー、プロセス、および技術に投資していない場合、コンテンツモデレーションを行うことはできません。また、両方を得ようとするのは不可能です。児童性的虐待をスキャンしないが、その後、サービス上でそれに出会った場合に公衆が報告する方法を提供しない場合、あなたは事実上、あなたのプラットフォームで発生している生々しい犯罪現場に目をつぶっていることになります。」

これらの基準の導入は、ソーシャルメディア大手のX（旧Twitter）が、そのプラットフォーム上で児童搾取画像を適切に対処しなかったとしてeSafetyコミッショナーから科された61万500ドルの罰金を支払うことを拒否した最近の事件に続いています。Xは連邦裁判所で司法審査の申請を行いました。グラントコミッショナーのオフィスは、X Corpの報告通知への非遵守に関する選択肢を評価し続けていますが、進行中の法的手続きについてはコメントを控えています。

テクノロジーが有害コンテンツの拡散を増幅させる時代において、包括的な業界基準の確立に向けたオーストラリアの先駆的な動きは、特に子供や脆弱な立場にある人々にとって、オンライン空間の安全性を確保するための重要な一歩を示しています。これらの基準が公的相談を経て最終的に実施されるにつれて、世界はオーストラリアがオンライン上の子供への性的搾取やテロ支援コンテンツとの闘いで他国の模範となるかどうかを注視しています。