AI 스타트업들이 브라질 어린이들의 사진을 동의 없이 모델 학습에 사용하고 있다

인권단체 휴먼라이츠워치(HRW)는 이미지 생성 업체들이 브라질 어린이들의 동의 없이 수십억 장의 이미지를 인공지능 모델 학습에 사용했다고 폭로했습니다. HRW의 조사에 따르면, 스테이블 디퓨전(Stable Diffusion)과 같은 유명 이미지 생성 업체들은 어린이들의 "유년기 전체" 이미지를 모델 학습에 활용한 것으로 나타났습니다.

관련 기사: 인공지능으로 생성된 아동 성학대 콘텐츠 급증에 맞서 싸우도록 기술 기업에 촉구

휴먼라이츠워치(HRW) 연구에 따르면 이러한 이미지들은 브라질의 약 10개 주에서 촬영된 것으로 나타났습니다. 이 연구는 이러한 사진들이 아동의 동의 없이 촬영된 이미지의 제작을 증가시키기 때문에 "아동의 사생활에 심각한 위험을 초래한다"고 지적했습니다.

수십억 장의 브라질 어린이 사진이 AI 모델 학습에 사용되었습니다.

휴먼라이츠워치(HRW) 연구원 한혜정은 공개 웹의 Common Crawl 스냅샷으로 구축된 데이터셋인 LAION-5B의 극히 일부(0.0001% 미만)를 분석한 결과, 밝혀냈습니다 이 데이터셋에 실제 사진이 아닌 2008년 이후 게시된 약 60억 장의 사진과 캡션에서 추출한 "이미지-텍스트 쌍"이 포함되어 있다는 사실을

브라질 10개 주에서 수집된 어린이 사진들은 대부분 육아 블로그나 개인 블로그에 올라온 가족 사진들이었다. 보고서에 따르면 이러한 사진들은 인터넷 사용자들이 쉽게 접할 수 있는 사진들이 아니다.

관련 기사: 영국, 성적으로 노골적인 딥페이크 제작을 범죄 행위로 규정할 예정

과 협력하여 이미지 링크를 삭제했습니다 LAION해당 데이터셋을 제작한 독일 비영리단체 아동의 이미지가 하지만 링크 삭제만으로는 문제가 완전히 해결되지 않기 때문에, 데이터셋에 여전히 전 세계

"이것은 더 크고 매우 우려스러운 문제이며, 자원봉사 단체로서 우리는 도울 수 있는 역할을 다할 것입니다."라고 LAION 대변인 네이트 타일러는 Ars에 말했습니다.

어린이의dent은 쉽게 trac할 수 있습니다.

휴먼라이츠워치(HRW) 보고서는 데이터셋 구축에 사용된 캡션에 브라질 어린이들의 이름과 위치 정보가 포함되어 있어 이들의dent trac할 수 있다는 점을 추가로 밝혔습니다. 또한, 이 어린이들이 괴롭힘의 대상이 될 위험이 있으며, 이들의 이미지가 음란물 제작에 악용될 가능성에 대한 우려도 제기했습니다.

보고서의 일부에는 "검토된 사진들은 아동기 전체를 ​​아우른다"고 적혀 있습니다.

"그들은 장갑 낀 의사의 손에 아기가 태어나는 순간, 어린아이들이 생일 cake 의 촛불을 끄는 모습, 집에서 속옷 차림으로 춤추는 모습과 같은 친밀한 순간들을 포착합니다..."

휴먼라이츠워치.

하지만 한 씨는 "LAION-5B의 모든 공개 버전이 삭제되었다"고 밝혔으며, 따라서 브라질 어린이들의 사진이 악용될 위험은 줄어들었다고 덧붙였습니다.

휴먼라이츠워치(HRW)에 따르면, LAION이 문제가 된 모든 콘텐츠가 삭제되었다고 확신할 때까지 해당 데이터셋은 다시 이용할 수 없을 예정입니다. 이러한 결정은 스탠퍼드 대학교 보고서 "데이터셋 내 링크가 공개 웹상의 불법 콘텐츠로 연결되는 것을 발견했으며, 여기에는 3,000건 이상의 아동 성학대 내려졌습니다.

브라질에서도 최소 85명의 여학생이 같은 반 학생들이 인공지능을 이용해 자신들의 소셜 미디어 사진을 기반으로 성적으로 노골적인 딥페이크 콘텐츠를 만들어 괴롭혔다고 신고했습니다.

어린이의 개인정보 보호

에 따르면 Ars도입되었으며 복제하기 위해 , 가장 큰 "무료 이미지-텍스트 데이터셋"으로 홍보되었습니다.

HRW가 해당 이미지와 관련하여 LAION에 연락했을 때, LAION은 LAION-5B로 훈련된 AI 모델이 "어린이 데이터를 있는 그대로 재현할 수는 없다"고 답변했지만, 개인정보 보호 및 보안 위험은 인정했습니다.

그 단체는 일부 이미지를 삭제하기 시작했지만, 동시에 부모와 보호자가 인터넷에서 아이들의 개인 사진을 삭제할 책임이 있다고 주장했습니다. 한 씨는 그들의 주장에 동의하지 않으며 다음과 같이 말했습니다.

"아이들과 부모가 근본적으로 막을 수 없는 기술로부터 아이들을 보호해야 할 책임을 져서는 안 됩니다. 그것은 그들의 잘못이 아닙니다."

한.

휴먼라이츠워치(HRW)는 브라질 국회의원들에게 신기술로부터 아동의 권리를 보호하기 위한 긴급 조치를 촉구했습니다. HRW의 권고에 따라 아동 데이터를 인공지능 모델에 활용하는 것을 금지하는 새로운 법률이 제정되어야 합니다.

Enacy Mapakame의 Cryptopolitan 보고