네바다주 고등학교, 학생들의 노출된 AI 사진 급증에도 “할 수 있는 일이 거의 없음”

네바다주 고등학교는 다른 학생들이 AI를 사용하여 소셜 미디어에 유포한 학생들의 노출된 사진이 만연하게 퍼지는 문제에 직면해 있다.

피해자 부모들의 무력감

네바다주 스토리 카운티 보안관 사무소는 현재 상황을 조사하고 있다. 그러나 조사관들은 주 법이 AI 생성 노출 사진의 생성 및 유포와 관련된 사항에 대해 아직 명확하지 않기 때문에 그들이 할 수 있는 일이 거의 없다고 말했다. KCCI가 보도했다.

“우리 딸들이 피해자를 당하고 있습니다. 그리고 우리가 할 수 있는 일이 아무것도 없는 것 같습니다.”라고 영향을 받은 학생 중 한 명의 부모인 채드 보윅(Chad Borwick)이 말했다. 

“당신은 당신의 아이들이 이런 일을 당하는 것을 원하지 않습니다. 더 나은 것을 원합니다.”라고 또 다른 피해자 부모인 이다 나디(Ida Nady)가 말했다. “그들은 자신이 중요하지 않으며, 그들의 목소리가 중요하지 않다고 느낄 것입니다.”

이 상황은 AI가 사람들을 해치는 데 어떻게 사용될 수 있는지의 명확한 예시를 제시한다. 텍스트와 이미지를 생성하는 데 능숙하지만, AI는 오용될 수 있으며, 이는 AI 기업들의 안전 조치 가속화, 특히 가해자를 처벌하는 법률의 필요성을 요구한다.

아이오와주에서는 크리스 코누이어 상원의원(R-LeClaire)이 후원한 법안이 7월 1일까지 발효될 것으로 예상된다. 이 법은 주(네바다주를 포함함)에서 미성년자의 전신 또는 부분 노출 사진을 생성하고 유포하는 것을 중범죄로 규정한다.

구글, 메타, 오픈AI 등, 아동 학대 모델 검토에 동의

빅테크 기업들도 AI로 제작된 아동 학대 이미지의 증가를 막기 위한 움직임을 시작했다. 구글, 메타, 오픈AI, 마이크로소프트, 아마존 등은 AI 생성 아동 성학대 자료 및 기타 아동 성학해의 생성과 유포에 대해 자신의 모델을 검토하기로 동의했다. 

이 조치는 온라인 아동 성학대율이 역사상 최고치를 기록하는 시점에 이루어졌다. 실제로 2023년은 인터넷 감시 재단에 따르면 “기록상 가장 극단적인 해”였다.

영국 기반 조직은 이제 3세에서 6세 어린이의 수천 장의 이미지와 영상이 오픈 인터넷에서 발견되고 있다고 밝혔다.