인공지능이 사망 위협을 매우 현실적으로 만들고 있음, 호주 활동가 폭로

호주 활동가 카이틴 로퍼는 인공지능이 이제 매우 현실적인 위협과 온라인 폭력적인 학대를 가하기 위해 사용되고 있다고 밝혔습니다. 로퍼에 따르면, 그녀는 인터넷에서 활동가로 수년간 일했지만, 최근 받은 인공지능 기반의 위협으로 인해 트라우마를 겪게 되었습니다.

디지털로 생성된 위협은 지난 몇 년 동안 가능해졌으며, 최근까지 인공지능 모델은 온라인에서 큰 존재감을 가진 경우가 아니면 실제 사람을 복제할 수 없었습니다. 한 전문가에 따르면, 모델은 이제 사용자의 원하는 것을 만들기 위해 프로필 사진만 필요로 합니다.

2023년, 플로리다주의 한 판사는 그랜드 테프트 오토 비디오 게임의 커스터마이징 도구를 사용하여 제작된 비디오를 받았습니다. 이 비디오에는 판사와 외모와 걸음이 유사한 아바타가 해킹되어 죽어가는 모습이 담겨 있었습니다.

호주 활동가, 인공지능 사용에 대한 경고를 촉구

로퍼에 따르면, 그녀가 받은 게시물 중 일부는 X 및 기타 소셜 미디어 플랫폼의 호주 활동가 그룹인 콜렉티브 쇼트(Collective Shout)의 그녀와 그녀의 동료들을 향한 악의적인 캠페인의 일부였습니다. 그녀는 주목했습니다. 그녀에게 보내진 사진 중 하나에는 그녀가 교수형에 처해 있는 사진이 있었고, 다른 비디오는 그녀가 불타오르며 비명 지르는 모습을 보여주었습니다. 다른 것들은 더 선정적이어서, 사용자들은 자신의 메시지를 전달하기 위해 극단적인 방법을 사용했습니다.

로퍼는 인공지능으로 조작된 대부분의 사진과 비디오에서 그녀가 실제로 소유한 파란색 꽃무늬 드레스를 입고 있었다고 주장했습니다. “이것들은 그것이 더 현실적으로 느껴지게 하고, 어쨌든 다른 종류의 침해처럼 느끼게 하는 이상한 작은 디테일입니다,”라고 그녀는 말했습니다. “이것들은 환상에서 환상을 넘어설 수 있습니다.” 그녀는 그녀의 캠페인이 성인과 학대를 찬미하는 폭력적인 비디오 게임을 폐쇄한 후 이번 여름부터 시작된 온라인 학대의 폭풍을 지적했습니다.

그녀는 그녀를 겨냥한 일부 계정과 이미지가 삭제되었다고 언급했습니다. 로퍼는 또한 회사가 그녀에 대한 폭력적인 사망을 묘사한 다른 게시물이 플랫폼의 서비스 약관을 위반하지 않았다고 주장했다고 언급했습니다. 실제로, 그녀는 X가 한때 그녀를 괴롭히는 계정 중 하나를 팔로우할 추천 사람 목록에 포함시켰다고 주장했습니다. 로퍼는 그녀의 괴롭힘자들 중 일부가 Grok를 사용하여 집과 카페에서 여성들을 찾는 방법을 연구했다고 언급했습니다.

로퍼, 플랫폼이 이 위협에 대처하기를 원함

로퍼는 그녀가 지친 후 몇 가지 예를 게시하기로 결정했다고 주장했습니다. 그녀가 그렇게 한 후, X는 그녀의 계정이 과도한 폭력 콘텐츠에 대한 안전 정책 위반이라고 알렸고, 그녀의 계정을 일시적으로 잠갔습니다.

한편, 사기를 수행하기 위한 인공지능의 사용으로 인해 전 세계적으로 인공지능에 대한 캠페인이 진행되고 있습니다. 범죄자들은 이제 이 기술을 사용하여 실제 사람들의 목소리를 모방하여 수많은 불법 활동에 사용하고 있습니다. 다른 활동에는 피험자의 명시적인 동의 없이 인공지능으로 성인 콘텐츠를 생성하는 것이 포함됩니다.

이러한 종류의 콘텐츠 외에도, 보고서는 인공지능이 다른 위협을 더 설득력 있게 만들고 있다고 주장합니다. 예를 들어, 스وات팅은 경찰 및 응급 요원의 대규모 반응을 유도하기 위해 허위 긴급 전화를 거는 관행입니다. 여름에 주 법무 장관 협회는 이 기술이 이러한 공격의 규모, 정밀도 및 익명성을 “현저히 강화”했다고 언급했습니다.

더 작은 규모에서는, 인공지능으로 제작된 supposed home invasion 비디오의 증가가 표적이 된 주민들로 하여금 전국 경찰서에 신고하게 만들었습니다. 보고서는 스وات팅 가해자가 목소리를 복제하고 이미지를 조작하여 법 집행 기관에게 허위 보고를 설득할 수 있다고 주장합니다. 한 연쇄 범죄자는 시뮬레이션된 총격음을 사용하여 워싱턴주의 한 고등학교 주차장에 총잡이가 있다는 것을 시사했습니다. 경찰과 연방 요원이 도착한 후 캠퍼스는 20분 동안 잠겼습니다.