AIスタートアップが同意なくブラジルの子供たちの画像を使用してモデルを訓練

著者

Enacy Mapakame 3分で読了公開 11月 2024日

これらの画像は児童期の全期間にわたるもので、身元が容易に特定される可能性がある。
画像は個人ブログにアップロードされた数十億件の家族写真から取得されたものである。
LAIONは、保護者や後見人がインターネット上から児童の画像を削除する責任を負うべきだと主張している。

あるアドボカシーグループは、画像生成AIがブラジルの子供たちの数十億枚の画像を同意なく使用してAIモデルの訓練に使用したことを明らかにしました。ヒューマン・ライツ・ウォッチ（HRW）による調査では、Stable Diffusionのような人気のある画像生成AIが、子供たちの画像を「幼少期全体にわたって」使用してモデルを訓練していることが示されました。

HRWの調査では、これらの画像はブラジルの約10の州から収集されたことが判明しました。報告書では、これらの画像が子供たちにとって大きな「プライバシーリスク」をもたらすと指摘しています。なぜなら、同意のない画像の生成が増加し、その人物に似せた画像が作成される可能性が高まるからです。

ブラジルの子供たちの画像数十億枚がAIモデルの訓練に使用

HRW研究者のヒ・ジョン・ハン氏は、LAION-5Bの断片的なデータ（0.0001%未満）を分析した後にこの問題を明らかにしました。LAION-5Bは、ウェブの公開データのスナップショットであるCommon Crawlから構築されたデータセットです。彼女は明らかにしました。このデータセットには実際の写真が含まれておらず、2008年以降に投稿された約60億枚の写真とキャプションから抽出された「画像テキストペア」が含まれているということです。

ブラジルの10の州全体から子供たちの画像が見つかり、その多くは子育てや個人のブログにアップロードされた家族写真でした。報告書によると、これらの画像はインターネットユーザーが容易に目にすることのないものです。

関連記事: 英国、性的に露骨なディープフェイクの作成を犯罪行為として宣言

HRWは、このデータセットを作成したドイツの非営利団体LAIONと協力して、画像へのリンクを削除しました。しかし、リンクを削除しただけでは問題が完全に解決されないため、データセットが世界中の子供たちの画像を依然として参照している可能性について懸念が残っています。

「これはより規模が大きく、非常に懸念される問題です。ボランティア団体として、私たちにできることを果たします」と、LAIONのスポークスパーソンであるネイト・タイラー氏はArsに語りました。

子供たちの身元は容易に追跡可能

HRWのレポートはさらに、多くのブラジルの子供たちの身元が追跡可能であることを明らかにしました。データセットを構築するためのキャプションに、子供たちの名前や場所が使用されていたためです。また、これらの子供たちがいじめの対象となるリスクがあること、およびその画像が性的なコンテンツに使用される可能性についても懸念が示されました。

「レビューされた写真は、幼少期全体にわたるものです」とレポートの一部に記されています。

「それらは、医師の手袋をはめた手に抱かれる新生児の親密な瞬間、誕生日ケーキのろうそくを吹き消す幼い子供たち、あるいは自宅で下着姿で踊る子供たちの瞬間を捉えています…」

HRW。

しかし、ハン氏は「LAION-5Bのすべての公開バージョンは削除された」と明らかにし、そのため現在、ブラジルの子供たちの写真が使用されるリスクは減少していると指摘しました。

HRWによると、LAIONがフラグ付きのコンテンツがすべて削除されたことを確信するまで、このデータセットは再び利用可能にはなりません。この決定は、スタンフォード大学のレポートでも「データセット内に公開ウェブ上の違法コンテンツへのリンクが含まれていることが発見された」と報告された後に行われました。これには、3,000件以上の児童性的虐待コンテンツの疑いのあるインスタンスも含まれていました。

ブラジルでは少なくとも85人の少女が、クラスメートからソーシャルメディアのコンテンツから撮影された写真に基づいてAIで生成された性的に露骨なディープフェイクコンテンツを使用していじめを受けたと報告しています。