- 이미지는 전 생애를 아우르며 신원 추적이 용이함.
- 이미지는 개인 블로그에 업로드된 수십억 장의 가족 사진에서 수집됨.
- LAION은 부모 및 보호자가 인터넷에서 자녀의 이미지를 삭제할 책임이 있다고 주장함.
한 옹호 단체는 이미지 생성기가 수억 장의 브라질 어린이 사진을 동의 없이 사용하여 AI 모델을 학습시켰다고 밝혔습니다. 휴먼 라이츠 워치(HRW)의 연구에 따르면 Stable Diffusion과 같은 인기 이미지 생성기는 모델을 학습시키기 위해 어린이의 ","전 생애에 걸친":" 이미지를 사용했습니다.
또한 읽기: 기술 기업, AI 생성 아동 성학대 자료 급증 대응 촉구
HRW의 연구에 따르면 이러한 이미지는 약 10개 브라질 주에서 수집되었습니다. 보고서는 이러한 사진이 동의 없는 유사한 이미지의 생산을 증가시키기 때문에 어린이에게 큰 ","사생활 침해 위험":"을 초래한다고 밝혔습니다.
수억 장의 브라질 어린이 사진이 AI 모델 학습에 사용
HRW 연구원 Hye Jung Han은 공공 웹의 Common Crawl 스냅샷으로 구축된 데이터셋인 LAION-5B의 극히 일부(0.0001% 미만)를 분석한 후 이 문제를 드러냈습니다. 그녀는 밝혔습니다. 해당 데이터셋에는 실제 사진이 없었으며, 2008년 이후 게시된 거의 60억 장의 사진과 캡션에서 추출한 '이미지 텍스트 쌍'이 포함되어 있었습니다.
10개 브라질 주 전역에서 어린이 사진이 발견되었으며, 대부분은 육아 및 개인 블로그에 업로드된 가족 사진이었습니다. 보고서에 따르면 이러한 사진은 인터넷 사용자가 쉽게 접하기 어려운 것입니다.
또한 읽기: 영국, 성적으로 노골적인 딥페이크 생성을 범죄 행위로 규정
HRW는 데이터셋을 생성한 독일 비영리 단체 LAION과 협력하여 이미지 링크를 제거했습니다. 그러나 링크 제거만으로는 문제가 완전히 해결되지 않기 때문에 데이터셋이 여전히 전 세계 어린이 이미지를 참조하고 있을 수 있다는 우려가 여전히 남아 있습니다.
","이것은 더 크고 매우 우려되는 문제이며, 자원봉사 조직으로서 저희도 기여할 부분에서 최선을 다하겠습니다,":"라고 LAION 대변인 Nate Tyler는 Ars에게 말했습니다.
어린이의 신원 쉽게 추적 가능
HRW의 보고서는 데이터셋 구축에 사용된 캡션에 이름과 위치가 포함되어 있어 많은 브라질 어린이의 신원을 추적할 수 있다고 추가로 밝혔습니다. 또한 보고서에서는 어린이들이 괴롭힘의 표적이 될 위험이 있으며, 그들의 이미지가 성적으로 노골적인 콘텐츠에 사용될 수 있다는 우려를 제기했습니다.
","검토된 사진은 전 생애에 걸쳐 있습니다,":"라고 보고서의 일부에 명시되어 있습니다.
“그들은 의사를 만난 신생아의 친밀한 순간, 생일 케이크에 촛불을 끄는 어린 아이들, 혹은 집에서 속옷만 입고 춤추는 아이들의 모습을 포착합니다…”
HRW.
한은 그러나 “모든 공개적으로 이용 가능한 LAION-5B 버전이 삭제되었다”고 밝힘으로써, 이제 브라질 어린이들의 사진이 사용될 위험이 줄었다고 말했습니다.
HRW에 따르면 LAION이 표시된 모든 콘텐츠가 제거되었음을 확신할 때까지 데이터셋은 다시 사용할 수 없게 됩니다. 이 결정은 스탠퍼드 대학교 보고서에서도 ","공공 웹의 불법 콘텐츠를 가리키는 링크가 데이터셋에 포함되어 있다":"고 밝혔기 때문에 내려졌으며, 여기에는 3,000건 이상의 아동 성학대 콘텐츠가 의심되는 사례가 포함되었습니다.
브라질의 최소 85명의 소녀들도 소셜 미디어 콘텐츠에서 촬영된 사진을 기반으로 AI가 생성한 성적으로 노골적인 딥페이크 콘텐츠로 동급생들에게 괴롭힘을 당했다고 보고했습니다.
어린이의 사생활 보호
Ars에 따르면, LAION-5B는 2022년에 도입되었으며, 보고된 바에 따르면 OpenAI의 데이터셋을 복제하기 위한 것으로, 가장 큰 '무료 이용 가능한 이미지-텍스트 데이터셋'으로 홍보되었습니다.
HRW가 이미지에 대해 LAION에 연락했을 때, 해당 조직은 LAION-5B로 훈련된 AI 모델이 “어린이 데이터를 그대로 생성할 수 없다”고 응답했지만, 사생활 및 보안 위험을 인정했습니다.
그 후 조직은 일부 이미지를 삭제하기 시작했지만, 부모와 보호자가 어린이의 개인 사진을 인터넷에서 삭제할 책임이 있다고 주장했습니다. 한은 이에 동의하지 않으며 다음과 같이 말했습니다.
“어린이와 그들의 부모는 근본적으로 보호하기 불가능한 기술로부터 어린이를 보호할 책임을 져서는 안 됩니다. 그것은 그들의 잘못이 아닙니다.”
한.
HRW는 브라질 입법자들에게 emerging technologies로부터 어린이의 권리를 보호하기 위한 긴급 개입을 촉구했습니다. HRW의 권고에 따라 어린이 데이터를 AI 모델에 스크랩하는 것을 금지하는 새로운 법률이 마련되어야 합니다.
Enacy Mapakame 가 Cryptopolitan 에서 보도
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Enacy Mapakame
Enacy Mapakame 은 비즈니스 및 금융 뉴스 분야에서 10 년 이상의 경력을 가진 저널리스트입니다. 그녀는 자본 시장과 메타버스, AI, 암호화폐 등 신기술을 다루고 있습니다. Enacy 는 미디어와 사회 연구 학사 (우등) 학위를 보유하고 있습니다.
