호주 활동가에 따르면 인공지능 때문에 살해 협박이 매우 현실적으로 느껴지고 있다고 합니다

호주 활동가 케이틀린 로퍼는 인공지능이 온라인상에서 매우 현실적인 협박과 폭력적인 욕설을 퍼붓는 데 사용되고 있다고 밝혔습니다. 로퍼에 따르면, 수년간 인터넷 활동가로 활동해 왔음에도 불구하고 최근 인공지능을 이용한 협박을 잇달아 받으면서 큰 정신적 충격을 받았다고 합니다.

디지털 방식으로 생성된 위협은 지난 몇 년간 가능했으며, 최근까지 인공지능 모델은 온라인에서 엄청난 영향력을 가진 사람이 아니면 실제 인물을 모방할 수 없었습니다. 한 전문가에 따르면, 이제 모델은 프로필 사진 하나만 있으면 사용자가 원하는 모든 것을 만들어낼 수 있다고 합니다.

2023년, 플로리다의 한 판사에게 비디오 게임 '그랜드 테프트 오토'의 커스터마이징 도구를 이용해 만든 영상이 전송되었습니다. 그 영상에는 판사와 똑같이 생긴 아바타가 잔인하게 살해당하는 모습이 담겨 있었습니다.

호주 활동가가 인공지능 사용에 대한 신중론을 제기했습니다

로퍼에 따르면, 그녀가 받은 게시물 중 일부는 X와 다른 소셜 미디어 플랫폼에서 활동하는 호주 활동가 단체인 콜렉티브 샤우트(Collective Shout)의 동료들과 그녀를 향한 악의적인 비난 캠페인의 일부였다고 합니다. 그녀는 밝혔습니다 . 다른 게시물들은 훨씬 더 노골적이었으며, 사용자들은 자신들의 메시지를 전달하기 위해 온갖 수단을 동원했습니다.

로퍼는 인공지능으로 조작된 대부분의 사진과 영상에서 자신이 실제로 소유하고 있는 파란색 꽃무늬 드레스를 입고 있었다고 주장했습니다. 그녀는 "이런 사소한 디테일들이 상황을 더 현실적으로 만들고, 또 다른 종류의 침해로 느껴지게 합니다."라고 말하며, "이런 일들은 단순한 환상에서 현실 이상으로 변질될 수 있습니다."라고 덧붙였습니다. 그녀는 성인 장면과 학대를 미화하는 폭력적인 비디오 게임을 금지하기 위한 자신의 캠페인 이후 올여름부터 온라인상에서 악의적인 공격이 쏟아지기 시작했다고 지적했습니다.

그녀는 자신을 겨냥한 일부 계정과 이미지가 삭제되었다고 언급했습니다. 로퍼는 또한 회사 측에서 그녀의 폭력적인 죽음을 묘사한 다른 게시물들은 플랫폼 이용약관을 위반하지 않았다고 주장했다고 ​​밝혔습니다. 실제로 그녀는 X가 한때 자신을 괴롭히는 계정 중 하나를 팔로우 추천 목록에 포함시켰다고 주장했습니다. 로퍼는 또한 자신을 괴롭히는 사람들 중 일부가 Grok을 이용해 집이나 카페에서 여성을 찾는 방법을 검색했다고 주장했다고 ​​언급했습니다.

로퍼는 이러한 위협에 대처할 수 있는 플랫폼을 원합니다

로퍼는 참다 못해 몇 가지 사례를 게시하기로 했다고 주장했습니다. 그녀가 그렇게 하자 X는 그녀의 계정이 불필요한 유혈 묘사를 금지하는 안전 정책을 위반했다며 계정을 일시적으로 잠갔습니다.

한편, 인공지능을 이용한 사기 행위 때문에 전 세계적으로 인공지능 반대 운동이 벌어지고 있습니다. 범죄자들은 ​​이제 이 기술을 이용해 실제 사람의 목소리를 흉내 내어 다양한 불법 활동에 사용하고 있습니다. 또한, 인공지능을 이용해 성인 콘텐츠를 제작할 때 대상의 명시적인 허가를 받지 않는 경우도 있습니다.

이러한 유형의 콘텐츠 외에도 인공지능이 다른 위협들을 더욱 그럴듯하게 만들고 있다는 보고가 있습니다. 예를 들어, 스와팅(swatting)은 허위 긴급 신고를 걸어 경찰과 응급 구조대의 대규모 출동을 유도하는 행위입니다. 지난 여름, 미국 검찰총장협회는 인공지능 기술이 이러한 공격의 "규모, 정확성, 그리고 익명성을 크게 향상시켰다"고 언급했습니다.

규모는 작지만, 인공지능을 이용해 제작된 가짜 주택 침입 영상이 증가하면서dent를 입은 주민들이 전국 경찰서에 신고하는 사례가 늘고 있습니다. 보고서에 따르면 스와팅 가해자들은 목소리를 복제하고 이미지를 조작하여 경찰을 속일 수 있다고 합니다. 한 상습범은 워싱턴주 고등학교 주차장에 총격범이 있다는 허위 신고를 하기 위해 모의 총격음을 사용했습니다. 경찰과 연방 요원들이 현장에 도착한 후 학교는 20분간 폐쇄되었습니다.