스탠퍼드 리포트, AI 학습 데이터에서 아동 포르노그래피 발견

스탠퍼드 인터넷 관측소는 LAION-5B, AI 이미지 생성기를 학습하는 데 사용되는 데이터셋에서 1,000개 이상의 가짜 아동 성학대 이미지를 발견하는 놀라운 사실을 밝혔습니다. 이 발견은 4월에 공개되었으며, AI 학습 자료의 출처와 컴파일 방법에 대해 심각한 우려를 제기했습니다.

런던 기반의 Stability AI의 Stable Diffusion AI 이미지 메이커와 관련된 LAION-5B는 소셜 미디어와 포르노그래피 웹사이트에서 콘텐츠를 샘플링하여 이러한 이미지를 축적했습니다. 이러한 플랫폼의 광범위한 사용과 잠재적 영향을 고려할 때, AI 학습 자료에서 이러한 콘텐츠의 발견은 경악할 만합니다.

기술로 도전 해결

스탠퍼드 연구자들은 이러한 이미지를 식별하기 위해 학대 콘텐츠를 직접 보지 않았습니다. 대신 그들은 Microsoft의 PhotoDNA 기술을 사용했으며, 이는 해시된 이미지를 다양한 데이터베이스의 알려진 학대 콘텐츠와 일치시켜 아동 학대 이미지를 감지하도록 설계된 도구입니다.

스탠퍼드 연구진의 발견은 미국과 캐나다의 관련 비영리 단체에 전달되었으며, 이는 AI 학습 데이터셋을 선별할 때 더 엄격한 조치가 시급함을 강조합니다. 연구진은 향후 데이터셋 수집 시 PhotoDNA와 같은 도구를 사용하여 유해 콘텐츠를 필터링할 것을 제안합니다. 그러나 그들은 중앙 집중식 호스팅 기관이 부재한 상황에서 오픈 데이터셋을 정제하는 데 따른 어려움도 지적합니다.

이 보고서에 대응하여 대규모 인공지능 오픈 네트워크(LAION)는 데이터셋의 안전을 보장한 후 다시 게시하기 위해 일시적으로 데이터셋을 제거했습니다. LAION은 불법 콘텐츠에 대한 영용 정책을 강조하며, 이러한 민감한 자료를 다룰 때 주의가 필요함을 밝혔습니다.

더 넓은 함의와 대응

이 문제는 해당 데이터셋에만 국한되지 않습니다. 스탠퍼드 보고서는 소수의 학대적 이미지가 AI 도구에 상당한 영향을 미쳐 수천 개의 딥페이크를 생성할 수 있다고 제안합니다. 이는 실제 피해자의 학대를 재생산하고 증폭시킬 뿐만 아니라, 전 세계적으로 어린이와 청소년에게 위협이 됩니다.

많은 생성형 AI 프로젝트의 시장 출시 경쟁은 비판을 받아 왔으며, 스탠퍼드 인터넷 관측소(SIO)의 수석 기술자 데이비드 티엘(David Thiel)과 같은 전문가들은 데이터셋 수집에 대한 더 엄격한 주의를 촉구합니다. 티엘은 이러한 광범위한 인터넷 전체 스크래핑은 연구 작업에 국한되어야 하며, 철저한 검증을 거치지 않고 오픈 소스로 공개되어서는 안 된다고 강조합니다.

이러한 발견을 바탕으로 LAION 데이터셋의 주요 사용자인 스테이빌리티 AI(Stability AI)는 오용 위험을 완화하기 위한 조치를 취했습니다. 최신 버전의 스테이블 디퓨전(Stable Diffusion) 모델은 유해 콘텐츠 생성을 더 어렵게 만드는 방식으로 설계되었습니다. 그러나 지난해 출시된 이전 버전은 여전히 위험을 내포하고 있으며 다른 애플리케이션에서 널리 사용되고 있습니다.

이 문제에 대한 국제적 반응은 다양합니다. 미국에서는 정부 AI 안전 연구소를 설립하여 AI 모델이 제기하는 위험을 평가하고 있습니다. 마찬가지로 호주는 AI가 생성한 아동 성학대 자료의 공유를 방지하기 위해 새로운 알고리즘을 도입하고 있습니다. 영국에서는 주요 AI 개발자들이 출시 전에 새로운 모델을 테스트하기 위해 정부와 협력하기로 동의했습니다.

영국에서 열린 글로벌 AI 안전 정상회의에서는 미국과 인도, 유럽연합을 포함한 25개국 이상이 '블레츨리 선언(Bletchley Declaration)'에 서명했습니다. 이 합의는 AI 감독에 대한 공통 접근 방식을 확립하는 것을 목표로 하며, 국제 사회가 AI 위험을 책임감 있게 관리하려는 의지를 강조합니다.

AI 학습 데이터셋에서 아동 음란물이 발견된 것은 심오한 윤리적 및 안전 문제를 제기합니다. 이는 AI 기술 개발 과정에서 더 엄격한 데이터 선별 및 모니터링 메커니즘의 필요성을 강조합니다. AI가 진화하며 삶의 다양한 측면에 침투함에 따라, 이러한 기술의 윤리적 사용과 안전한 배포를 보장하는 것이 점점 더 중요해지고 있습니다.