ある擁護団体は、画像ジェネレーターがブラジルの子供たちの画像を本人の同意なしに数十億枚もAIモデルの学習に使用していたことを明らかにした。ヒューマン・ライツ・ウォッチ（HRW）の調査によると、Stable Diffusionなどの人気画像ジェネレーターは、子供たちの「幼少期全体にわたる」画像をモデルの学習に使用していたことが明らかになった。.
関連記事： AI生成の児童性的虐待コンテンツの急増に対抗するようテクノロジー企業に要請
HRWの調査によると、これらの画像はブラジルの約10州で撮影されたことが明らかになりました。この法律は、子どもたちの肖像を無断で撮影する画像の制作を増加させるため、これらの画像は「子どもたちにとって大きなプライバシーリスク」をもたらすと報告されています。.
AIモデルの訓練にブラジルの子供たちの画像が数十億枚も使用
HRWの研究員、ヘ・ジョン・ハン氏は、公開ウェブのCommon Crawlスナップショットから構築されたデータセットLAION-5Bの一部（0.0001%未満）を分析し、この問題を明らかにした。彼女は明らかにした。
ブラジル10州で子供の写真が発見され、そのほとんどは子育てブログや個人ブログに投稿された家族写真だった。報告書によると、これらはインターネットユーザーが簡単には見つけられない写真だという。.
関連記事：英国、性的に露骨なディープフェイクの作成を犯罪行為と宣言へ
LAIONと協力し、画像へのリンクを削除しましたリンクを削除するだけでは問題が完全に解決されないため、データセットが世界中の子供たちの画像を参照している可能性があるという懸念は依然として残っています
「これはより重大で非常に憂慮すべき問題であり、ボランティア団体として私たちは支援に努めます」とLAIONの広報担当者ネイト・タイラー氏はArsに語った。.
子供のdentは簡単に tracできる
HRWの報告書はさらに、データセットを構成するキャプションに名前と所在地が使用されていたため、多くのブラジルの子供たちのdentが trac可能であることを明らかにしました。また、子供たちの画像が露骨なコンテンツに利用される可能性があり、いじめの標的となるリスクがあるのではないかという懸念も示しました。.
「検査された写真は幼少期全体にわたる」と報告書には記されている。.
「赤ちゃんが手袋をはめた医師の手に生まれてくる瞬間や、小さな子どもたちが誕生日 cake のろうそくを吹き消す瞬間、家で下着姿で踊る瞬間など、親密な瞬間を捉えています…」
人権擁護団体HRW。.
しかしハン氏は、「LAION-5Bの公開されているバージョンはすべて削除された」と明かし、そのためブラジルの子供たちの写真が使用される危険性は減ったという。.
HRWによると、LAIONがすべてのフラグ付きコンテンツが削除されたことを確認するまで、データセットは再び公開されない。この決定は、スタンフォード大学の報告書、児童性的虐待の疑いのあるコンテンツが3,000件以上含まれていた。
ブラジルでは少なくとも85人の女子生徒が、クラスメートがAIを使って「彼女たちのソーシャルメディアのコンテンツから撮影した写真に基づいて」性的に露骨なディープフェイクコンテンツを生成し、嫌がらせをしていると報告している。
子どものプライバシーの保護
Arsによると、LAION-5Bは2022年に導入され、 複製するために、最大の「無料で利用できる画像テキストデータセット」として宣伝された。
HRWが画像についてLAIONに連絡したところ、LAIONはプライバシーとセキュリティ上のリスクを認めながらも、LAION-5Bで訓練されたAIモデルは「子供のデータを逐語的に生成することはできない」と回答した。.
その後、同団体は一部の画像の削除を開始したが、同時に、子どもの個人的な写真をインターネットから削除する責任は親や保護者にあるとの見解を示した。ハン氏はこの主張に反対し、次のように述べた。
「根本的に防御不可能なテクノロジーから子供たちを守る責任を、子供たちとその親に負わせるべきではありません。彼らのせいではありません。」
ハン。.
HRWは、新興技術から子どもの権利を守るため、ブラジルの立法府に対し緊急の介入を求めた。HRWの勧告に従い、子どものデータをAIモデルに利用することを禁止する新たな法律を制定する必要がある。.
Enacy MapakameによるCryptopolitan レポート
