파키스탄 전 총리, 감옥에서 AI를 사용하여 선거 연설 전달

파키스탄 전 총리 임란 칸이 감옥에 있는 동안 지지자들에게 AI 기술을 사용하여 연설을 전달한 것으로 보고되었습니다.

보고에 따르면, 칸의 정치 정당인 티흐리크-에-인사프(PTI)는 감옥에 있는 정치인의 오디오 음성 녹음을 생성하기 위해 AI 기술을 사용했습니다. 칸의 사진과 결합된 이 음성 녹음은 2월에 개최될 예정인 다가오는 총선을 앞두고 일요일 정당 가상 집회에서 재생되었습니다.

칸, 정당을 위해 AI를 사용하여 캠페인 진행 

“저의 동료 파키스탄 국민 여러분, 먼저 이 역사적인 시도에 대해 제 소셜 미디어 팀을 칭찬하고 싶습니다.” AI로 생성된 목소리가 말했습니다. “아마도 여러분은 감옥에 있는 제 상태가 궁금할 것입니다… 진정한 자유에 대한 제 결의는 강합니다.”

이 목소리는 계속되었습니다. “우리 당은 공개 집회를 열 수 없습니다. […] 우리 국민들이 납치당하고 있으며, 그들의 가족들은 박해를 받고 있습니다.”

보고된 집회는 전국적으로 거대한 청중을 끌어모았으며, X(구 트위터), 페이스북, 인스타그램, 유튜브 등 소셜 미디어 플랫폼 전체에서 국가 규모의 중단이 보고될 정도였습니다. 

한편, 칸의 당은 국가 소유의 통신 규제 당국이 이러한 중단에 책임이 있다고 비난하며, 당의 집회에 간섭하기 위해 의도적으로 서비스를 분배했다고 주장했습니다.

“이는 임란 칸의 PTI가 전례 없는 인기를 얻는 것에 대한 두려움의 증거입니다! 예상된 조치로, 불법적이고 파시스트 정당은 PTI의 역사적인 가상 집회(공개 회의) 이전에 파키스탄 전역에서 인터넷 속도를 늦추고 소셜 미디어 플랫폼을 중단시켰습니다.”라고 당이 발표한 성명에 나와 있습니다. 

칸의 AI 음성 복제의 함의

칸은 국제 크리켓 스타에서 정치인으로 전향한 인물로, 8월 5일 3년형의 징역형을 선고받았습니다. 그는 2018년부터 2022년까지 재임 기간 중 받은 선물 판매로 벌어들인 돈을 신고하지 않은 부패 혐의로 유죄 판결을 받았습니다.

임란 칸의 연설에 AI를 사용하는 것은 광범위한 함의를 지닌 흥미로운 사례 연구입니다. 이는 접근성 증대 및 새로운 커뮤니케이션 전략의 기회를 제공하지만, 동시에 특히 잘못된 손에 들어갈 경우 잠재적 조작에 대한 심각한 우려를 제기합니다. 

AI 음성 복제는 먼저 녹음을 통해 사람의 음성을 포착하는 방식으로 작동합니다. 그런 다음 이 녹음물은 AI 모델을 훈련하는 데 사용되며, 이 모델은 피치, 톤, 억양과 같은 음성의 고유한 특징을 식별하는 법을 배웁니다. 

모델이 훈련되면 원래의 목소리와 거의 똑같이 들리는 새로운 음성을 생성하는 데 사용할 수 있습니다.