AIスタートアップ企業がブラジルの子供たちの写真を同意なしにモデル学習に利用

著

読了時間3分 2024年6月11日

画像は彼らの幼少期全体にわたるため、彼らのdentを容易に tracことができます。.
画像は個人のブログにアップロードされた何十億枚もの家族写真から取られた。.
LAIONは、親や保護者がインターネットから子供の画像を削除する責任を負うべきだと主張した。.

ある擁護団体は、画像ジェネレーターがブラジルの子供たちの画像を本人の同意なしに数十億枚もAIモデルの学習に使用していたことを明らかにした。ヒューマン・ライツ・ウォッチ（HRW）の調査によると、Stable Diffusionなどの人気画像ジェネレーターは、子供たちの「幼少期全体にわたる」画像をモデルの学習に使用していたことが明らかになった。.

HRWの調査によると、これらの画像はブラジルの約10州で撮影されたことが明らかになりました。この法律は、子どもたちの肖像を無断で撮影する画像の制作を増加させるため、これらの画像は「子どもたちにとって大きなプライバシーリスク」をもたらすと報告されています。.

AIモデルの訓練にブラジルの子供たちの画像が数十億枚も使用

ヒューマン・ライツ・ウォッチの研究員、ヘ・ジョン・ハン氏は、公開ウェブ上のCommon Crawlスナップショットから構築されたデータセットLAION-5Bのごく一部（0.0001%未満）を分析した結果、この問題を明らかにした。彼女によると、このデータセットには実際の写真ではなく、2008年以降に投稿された約60億枚の写真とキャプションから抽出された「画像とテキストのペア」が含まれていたという。

ブラジル10州で子供の写真が発見され、そのほとんどは子育てブログや個人ブログに投稿された家族写真だった。報告書によると、これらはインターネットユーザーが簡単には見つけられない写真だという。.

関連記事：英国、性的に露骨なディープフェイクの作成を犯罪行為と宣言へ

と協力して、画像へのリンクを削除した LAIONを参照している可能性があるという懸念子供たちの画像しかし、リンクを削除するだけでは問題が完全に解決するわけではないため、データセットが依然として世界中の

「これはより重大で非常に憂慮すべき問題であり、ボランティア団体として私たちは支援に努めます」とLAIONの広報担当者ネイト・タイラー氏はArsに語った。.

子供のdentは簡単に tracできる

HRWの報告書はさらに、データセットを構成するキャプションに名前と所在地が使用されていたため、多くのブラジルの子供たちのdentが trac可能であることを明らかにしました。また、子供たちの画像が露骨なコンテンツに利用される可能性があり、いじめの標的となるリスクがあるのではないかという懸念も示しました。.

「検査された写真は幼少期全体にわたる」と報告書には記されている。.

「赤ちゃんが手袋をはめた医師の手に生まれてくる瞬間や、小さな子どもたちが誕生日 cake のろうそくを吹き消す瞬間、家で下着姿で踊る瞬間など、親密な瞬間を捉えています…」

人権擁護団体HRW。.

しかしハン氏は、「LAION-5Bの公開されているバージョンはすべて削除された」と明かし、そのためブラジルの子供たちの写真が使用される危険性は減ったという。.

ヒューマン・ライツ・ウォッチによると、LAIONがフラグ付けされたコンテンツがすべて削除されたと確信するまで、データセットは再び公開されないとのことだ。この決定は、スタンフォード大学の報告書が「データセット内に、公共のウェブ上の違法コンテンツへのリンクを発見した」ことを受けて下されたもので、その中には3,000件以上の児童性的虐待。

ブラジルでは少なくとも85人の女子生徒が、クラスメートがAIを使って「彼女たちのソーシャルメディアのコンテンツから撮影した写真に基づいて」性的に露骨なディープフェイクコンテンツを生成し、嫌がらせをしていると報告している。