네바다주에서 인공지능으로 촬영dent의 노골적인 사진이 급증했지만, "해결할 수 있는 방법은 거의 없다"

네바다 고등학교는 다른dent이 AI를 이용해 만든dent의 노골적인 사진이 소셜 미디어에 무분별하게 퍼지는 문제에 시달리고 있습니다.

피해자 부모들은 무력해 보인다

네바다주 스토리 카운티 보안관 사무실은 현재 이 사건을 조사하고 있습니다. 그러나 KCCI 보도에 따르면, 조사관들은 인공지능으로 생성된 음란 사진의 제작 및 유포와 관련된 네바다주 법률이 아직 명확하지 않아 할 수 있는 일이 많지 않다고 밝혔습니다. 

"우리 딸들이 피해를 입고 있어요. 우리가 할 수 있는 일이 아무것도 없는 것 같아요." 피해를 입은dent의 부모인 채드 보윅의 말이다. 

"아이들에게 무슨 일이 일어나는 건 원치 않아요. 더 나은 삶을 살기를 바라는 거죠." 피해자의 또 다른 부모인 아이다 나디는 말했다. "아이들은 자신이 중요하지 않다고 느낄 거예요. 마치 자신의 목소리가 중요하지 않은 것처럼요."

이 상황은 AI가 어떻게 사람들에게 해를 끼치는 데 사용될 수 있는지를 보여주는 명백한 사례입니다. AI는 텍스트와 이미지를 생성하는 데는 능숙하지만, 오용될 가능성이 있기 때문에 AI 기업들의 안전 조치, 특히 위반자를 처벌하는 법률 제정을 가속화해야 할 필요가 있습니다.

아이오와주에서는 적어도 크리스 쿠르누아르(공화당-르클레어) 상원의원이 발의한 법안이 7월 1일부터 발효될 것으로 예상된다. 이 법은 네바다주를 포함하는 주에서 미성년자의 전체 또는 일부 누드 사진을 제작하여 유포하는 행위를 중범죄로 규정한다.

Google, Meta, OpenAI 등, 아동 학대 방지 모델 검토에 동의

대형 기술 기업들 또한 AI로 제작된 아동 학대 이미지의 증가를 억제하기 위한 움직임에 나섰습니다. 구글, 메타, 오픈AI, 마이크로소프트, 아마존 등은 AI가 생성한 아동 성적 학대 콘텐츠 및 아동에 대한 기타 성적 유해 콘텐츠의 제작 및 유포를 방지하기 위해 자사 모델을 검토하기로 합의했습니다. 

이번 조치는 온라인 아동 성학대 발생률이 역대 최고치를 기록하고 있는 시점에 이루어졌습니다. 실제로 인터넷 감시 재단(Internet Watch Foundation)에 따르면.

영국에 본사를 둔 이 조직은 3~6세 어린이의 사진과 영상 수천 개가 현재 공개 인터넷에서 발견되고 있다고 밝혔습니다.