オーストラリアのオンライン被害対策の新基準

画期的な動きとして、オーストラリアのeSafetyコミッショナーであるジュリー・インマン・グラント氏は、 アップル、グーグル、メタなどの大手テクノロジー企業に対し、自社プラットフォーム上で蔓延する児童性的虐待コンテンツやテロ支持コンテンツへの対策をより本格的に講じるよう促すことを目的とした、世界初の業界標準を発表した。これらの標準は、生成AIを用いて作成された「ディープフェイク」児童ポルノの出現という憂慮すべき問題への対策にも及ぶ。 

2年以上にわたる集中的な取り組みと、テクノロジー業界が提案した規格案の却下を経て、インマン・グラント委員は、Apple iCloud、Google Drive、Microsoft OneDriveなどのクラウドベースのストレージサービス、およびWhatsAppなどのメッセージングプラットフォームに適用される規格案を発表しました。その目的は、これらの企業に対し、サービスから違法コンテンツを排除するための取り組みを強化するよう促すことです。.

世界的な影響が予想される

かつてTwitterの幹部を務めていたインマン・グラント委員は、これらのオーストラリアの業界基準が、蔓延する有害コンテンツの問題に対処するための世界的な規制のdent となることを期待しています。ただし、これらの要件によって、テクノロジー企業が自社のエンドツーエンド暗号化を妥協することを強いられるわけではないことに留意することが重要です。WhatsAppなどの一部のサービスでは、エンドツーエンド暗号化はデフォルトで有効になっています。.

大手テクノロジープラットフォームは、公共サービスにおける児童性的虐待コンテンツの掲載を禁止するポリシーを掲げていますが、インマン・グラント委員は、これらの企業が自社プラットフォームの監視に十分な対策を講じていないと主張しています。グラント委員は、「技術的な実現可能性に関する問題は理解しており、技術的に不可能なことを求めているわけではありません。しかし同時に、プラットフォーム上でこのような恐ろしい虐待が行われていないかのように振る舞い、電気を消したりドアを閉めたりするだけでは、道徳的および法的責任を免れることはできないとも申し上げているのです」と明言しました。

例えば、エンドツーエンドで暗号化されたサービスを提供するWhatsAppは、プロフィール名やグループチャット名、そして「チーズピザ絵文字」など児童ポルノを表すとされる特定の記号など、サービスの暗号化されていない部分を検知・報告するために、様々な行動シグナルを活用しています。この積極的なアプローチにより、WhatsAppは毎年130万件の児童性的搾取・虐待事例を報告しています。.

ディープフェイク児童ポルノへの挑戦

草案された基準は、オープンソースソフトウェアや生成AIを用いて生成された児童性的虐待コンテンツやテロリストのプロパガンダにも適用範囲を拡大しています。オーストラリアでは、dentが仲間の「ディープフェイクポルノ」を作成し、教育現場で共有するという憂慮すべき傾向が見られます。インマン・グラント委員は懸念を表明し、「合成された児童性的虐待コンテンツがホットラインを通じて報告されており、これは特に法執行機関の同僚にとって懸念すべき事態です。なぜなら、彼らは虐待を受けている子供たちを救うために、被害者dent多くの時間を費やしているからです」と述べました。

の設計段階に規制当局による精査を組み込むことの重要性を強調した 技術 。インマン・グラント委員は、「設計段階でこれらの安全対策の有効性と堅牢性を組み込み、テストしなければ、いったんそれらが市場に出回って複製され始めると、おそらく終わりのない、やや絶望的なモグラ叩きゲームを繰り返すことになるだろう」と述べた。

公聴会と実施

eSafetyコミッショナー事務局は、規格案に関するパブリックコメント期間を31日間開始しました。この期間後、規格の最終版が連邦議会に提出され、登録から6か月後に発効する予定です。.

この基準は、より厳格なコンテンツ管理を義務付けるだけでなく、テクノロジー企業に信頼性と安全性の取り組みに十分なリソースと人員を割り当てることを義務付けています。. 

インマン・グラント委員は、「人材、ポリシー、プロセス、そしてテクノロジーへの投資なしにコンテンツモデレーションを行うことはできません。そして、両立は不可能です。児童性的虐待の cake を実施せず、サービス上でそのような虐待を発見した際に一般の人々が通報できる手段を提供しないのであれば、プラットフォーム上で実際に起こっている犯罪現場に事実上目をつぶっていることになります」と述べました。

これらの基準の導入は、ソーシャルメディア大手X社（旧Twitter社）が最近、プラットフォーム上の児童搾取コンテンツへの適切な対応を怠ったとしてeSafetyコミッショナーから課された61万500ドルの罰金のdent を拒否した事件を受けてのものです。X社は連邦裁判所に司法審査を申し立てています。インマン・グラントコミッショナーの事務所は、X社による報告通知への不遵守に関する選択肢を引き続き検討していますが、進行中の訴訟についてはコメントを控えています。.

テクノロジーが有害コンテンツの拡散を増幅させている時代において、オーストラリアが包括的な業界基準を策定するという先駆的な動きは、オンライン空間、特に子供や脆弱な立場にある人々にとっての安全確保に向けた重要な一歩となります。これらの基準がパブリックコメントを経て最終的に施行されるにつれ、世界は、オンライン上の児童搾取やテロ支援コンテンツとの闘いにおいて、他の国々がオーストラリアに倣うかどうかに注目するでしょう。.