AI 딥페이크, 네팔의 다가오는 53월⟦/N1⟧ 선거 위협

3월 5일 치러질 국가의 임박한 조기 선거를 앞두고, 네팔의 세 유명 정치인이 등장하는 가짜 영화는 AI가 어떻게 무기로 사용되는지를 드러냈다.

전적으로 컴퓨터 생성된 이 영상은 전 카트만두 시장인 발렌드라 샤, 전 전력 부문 수장인 쿨만 기싱, 그리고 라스트리아 스와탄타르 당의 리더인 라비 라미찬네가 함께 걷는 모습을 묘사했다.

많은 사람들은 이 영상이 인터넷에서 바이럴되면서 새로운 정치적 동맹이 형성되는 것이라고 생각했다. 그러나 전체 만남이 컴퓨터 생성이었기 때문에, 세 정치인은 실제로 만나지 않았다.

음성 위조가 소셜 네트워크를 통해 확산됨 네트워크

가짜 영상은 선거가 다가오면서 네팔의 디지털 공간을 포화시키는 AI 제작 콘텐츠의 한 예에 불과하다. 선거는 부패 종식을 요구하는 젊은이들이 주도한 폭력 시위 단 6개월 후 치러진다. 그 시위는 당시 총리인 K.P. 샤르마 올리를 하야하게 만들며 국가의 정치 체계를 혼란에 빠뜨렸다.

신뢰성 위기로 인해 유명인을 표적으로 한 디지털 조작물이 번성했다. 라스트리아 스와탄타르 당의 부통령 스와르니무 와글레는 네팔 경찰 사이버 국에 불만을 제기했다. 그는 인도 총리와 회담을 가졌다는 인상을 주는 가짜 오디오 테이프가 만들어졌지만, 실제로 그런 회담은 이루어지지 않았다.

이러한 오디오 조작물은 네팔에서 고유한 위험을 제기한다. 이는 Poynter의 팩트체크 노력에서 입증되었다. 음성 메시지는 가족 채팅 그룹과 소셜 미디어를 통해 빠르게 퍼지며, 종종 진위 여부를 확인할 수 없는 수신자에게 도달한다. 조작된 오디오를 식별하는 데 사용되는 도구의 신뢰성 부족으로 인해 일반 사람들은 거짓과 진실을 구별할 수 있는 수단이 제한적이다.

문제를 통제하려는 정부의 시도는 종종 상황을 악화시켰다. 9월 시위 동안 규제 기관에 등록하지 않았다는 이유로 페이스북, X, 유튜브가 당국에 의해 차단되었다.

이 금지는 긴장을 완화하는 대신 더 많은 폭력을 촉발했다. 로이터는 그 뒤따른 혼란 동안 최소 77명의 사망자와 수천 명의 부상을 기록했다. 관료들은 결국 제한 조치를 해제했지만, 이 사건은 무자비한 차단이 작동하지 않는 이유를 보여줬다. 허위 정보는 단순히 모니터링하기 어려운 채널로 이동했을 뿐이다.

네팔 선거위원회는 정책을 통해 이러한 도전에 대응하려고 노력해 왔다. 그들의 2021년 “선거 관리에서의 소셜 미디어 사용에 관한 정책”은 초기 지침을 설정했다. 다가오는 선거를 위한 새로운 행동 강령 초안은 유권자를 호도하려는 허위 정보와 가짜 계정을 특별히 금지한다.

하지만 전문가들은 생성형 AI 시대에 맞춰 이러한 규칙들의 즉각적인 업데이트가 필요하다고 경고합니다. 여전히 해결되지 않은 질문들이 있습니다: 정확히 무엇을 합성 미디어라고 하는가? AI의 도움을 받아 생성된 콘텐츠는 캠페인에서 공개해야 하는가? 가짜 정보가 확산될 때 누가 책임을 지는가?

전문가들은 통합적인 대응을 요구함 응답

완벽한 규제가 마련되지 않은 상황에서 전문가들과 모니터링 기관들은 더 광범위한 해결책을 촉구하고 있습니다. Poynter와 유사한 미디어 기관들은 몇 가지 단계를 권장합니다: 뉴스 기관과 팩트체크 기관은 범죄 현장을 수사하듯 모든 바이럴 동영상을 조사하여 그 기원을 추적하고 검증 방법을 입증해야 합니다.

정당과 후보자들은 딥페이크 사용 금지와 AI 생성 자료의 명확한 표기를 약속해야 합니다. 소셜 미디어 기업들은 네팔의 언어와 정치에 정통한 신속 대응 팀을 구성해야 합니다. 일반 시민들은 충격적인 주장을 공유하기 전에 멈추고, 확인하고, 검증하는 '10초 선별' 접근 방식을 취해야 합니다.

네팔 경찰 사이버 국은 이미 기술적 측면에서 더 정교한 공격에 대비하고 있다. 국의 공식인 SP Ray는 “AI가 더 커지고 더 많은 방식으로 사용되고 있다. 곧 AI가 더 쉽게 만들 수 있는 범죄와 사이버 공격을 보게 될 것이다”라고 말했다.

Ray는 또한 기술의 비교적 새로운 특성이 일부 여유를 제공할 수 있다고 지적했다. 그는 AI 기술이 아직 초기 단계에 있으며 대중에게 채택되기 시작한 지 얼마 되지 않았기 때문에 파괴의 도구로 사용되기까지 시간이 좀 더 걸릴 것이라고 믿는다.

“우리는 이러한 범죄와 위협에 대항할 준비가 되어 있으며, 그래야 한다”고 Ray는 말했다. 그는 안심시키는 말을 덧붙였다. “네팔 경찰은 어떤 행동도 조사할 수 있다. 조사하는 데 시간이 걸릴 유일한 것은 해외 토지에서의 공격뿐이다.”