인공지능 학습 데이터 세트에 충격적인 수준의 아동 성학대 자료가 포함되어 있는 것으로 드러났습니다

최근 스탠포드 인터넷 관측소(SIO)에서 실시한 조사에 따르면, Stable Diffusion을 비롯한 인기 있는 AI 텍스트-이미지 생성 모델 학습에 사용된 공개 데이터 세트에서 수백 장의 아동 성착취물(CSAM) 이미지가dent되었습니다. 이 결과는 고급 인공지능(AI) 모델 개발에 공개적으로 이용 가능한 데이터 세트가 악용되고 있음을 보여줍니다.

충격적인 훈련 데이터 소스를 밝혀내다

SIO 조사 결과, 이 AI 모델들은 LAION-5B 데이터셋에 포함된 아동 성착취물(CSAM)을 직접 학습시킨 것으로 드러났습니다. LAION-5B 데이터셋은 주요 소셜 미디어 웹사이트와 유명 성인 비디오 사이트를 포함한 다양한 플랫폼에서 수집된 수십억 장의 이미지로 구성되어 있습니다. 이번 조사 결과는 불법적이고 유해한 콘텐츠로 오염된 데이터셋을 사용함으로써 아동 착취가 의도치 않게 확산될 수 있다는 우려를 불러일으킵니다.

문제 해결을 위한 신속한 조치

출처 자료를dent후, 연구원들은 미국 국립실종아동착취센터(NCMEC)와 캐나다 아동보호센터(C3P)에 이미지 URL을 신고하여 삭제 절차를 시작했습니다. PhotoDNA와 같은 해싱 도구는 온라인 아동 성착취 및 학대 방지에 전념하는 비영리 단체들이 관리하는 데이터베이스와 이미지 지문을 대조하는 데 중요한 역할을 했습니다.

공개 데이터셋 정리의 어려움

훈련 데이터 세트에서 아동 성착취물(CSAM)의 존재를 최소화하는 방법이 있지만, 보고서는 중앙 관리 기관이 없는 공개 데이터 세트의 정제 또는 배포 차단에 어려움이 있음을 강조합니다. 이러한 데이터 세트를 호스팅하는 기관이 없기 때문에 데이터의 무결성과 안전성을 보장하는 데 어려움이 있습니다. 이 연구는 인공지능 훈련 데이터에 불법 콘텐츠가 의도치 않게 포함되는 것을 방지하기 위한 사전 예방 조치의 필요성을 강조합니다.

향후 데이터셋 처리를 위한 안전 권장 사항

이러한 조사 결과를 바탕으로, 보고서는 데이터셋 수집, 모델 학습, 그리고 수집된 데이터셋으로 학습된 모델 호스팅에 대한 안전 권고사항을 제시합니다. 또한 마이크로소프트의 PhotoDNA와 같은 탐지 도구를 사용하여 아동 성착취물(CSAM) 목록과 이미지를 철저히 대조할 것을 권장합니다. 나아가 NCMEC 및 C3P와 같은 아동 안전 단체와의 협력을 통해 AI 기술의 윤리적이고 합법적인 사용을 보장할 것을 권고합니다.

인공지능(AI)이 지속적으로 발전함에 따라, 불법 활동에 의도치 않게 악용되는 것을 방지하기 위해 훈련 데이터셋을 책임감 있게 관리하는 것이 무엇보다 중요해지고 있습니다. 이번 특별수사국의 조사는 AI 커뮤니티에 경종을 울리는 계기가 되었으며, 이해관계자들이 데이터셋 관리, 모델 훈련, 그리고 관련 아동 보호 기관과의 협력에 있어 엄격한 조치를 채택할 것을 촉구합니다.

이러한 사실들이 드러남에 따라, AI 커뮤니티는 윤리적 기준을 재평가하고 훈련 데이터셋에 아동 성착취물(CSAM)이 의도치 않게 사용되는 문제를 해결하기 위한 단호한 조치를 취해야 할 필요성을 느끼고 있습니다. 권장되는 안전 조치를 시행함으로써, 업계는 검증되지 않은 데이터셋 출처로 인한 의도치 않은 결과를 방지하고 책임감 있고 윤리적인 방식으로 AI 기술 발전에 기여할 수 있습니다.

SIO 조사 결과는 기술 발전과 더불어 윤리적인 AI 개발에 대한 강력한 의지가tron수반되어야 하는 시대에 경각심을 유지하는 것이 얼마나 중요한지 강조합니다. 연구자, 업계 리더, 그리고 아동 보호 단체 간의 협력은 AI 기술이 사회적 가치에 부합하고 취약 계층의 복지를 최우선으로 고려하는 방향으로 발전하도록 보장하는 데 필수적입니다.