심각한 군사적 타격을 입은 이슬람 국가(IS) 지지자들은 정교한 온라인 선전물을 제작하기 위해 인공지능(AI)을 점점 더 많이 활용하고 있습니다. IS 지지자들이 이 기술을 활용하여 다양한 언어로 AI가 제작한 뉴스 속보와 같은 정교한 선전물을 제작할 수 있었다고 보고합니다
또한 읽어보세요: AI를 활용하는 봇이 소셜 미디어에 허위 정보를 퍼뜨린다
대표적인 사례가 아프가니스탄과 파키스탄에서 활동하는 IS의 한 분파인 이슬람 국가 호라산(ISKP)입니다. 5월 17일 바미얀 주에서 IS가 자행했다고 주장하는 공격으로 스페인 관광객 3명을 포함한 4명이 사망한 후, ISKP는 AI 뉴스 앵커 영상을 공개했습니다. 파슈토어를 구사하는 이 앵커는 현지 주민처럼 보였으며, 공격 상황을 설명하며 IS가 AI를 활용하여 뉴스의 사실성을 높이는 모습을 보여주었습니다.
IS 계열사, AI 기반 뉴스 앵커 배치
AI가 제작한 또 다른 영상이 공개되었는데, 가상의 남성 앵커가 IS가 아프가니스탄 칸다하르에서 발생한 차량 폭탄 테러의 배후라고 주장했습니다. 사이버 보안 전문가 롤랜드 아비 나젬은 이러한 AI 기반 딥페이크 영상의 효율성을 강조하며, IS가 수년간 할리우드 수준의 제작 방식을 사용해 왔다고 덧붙였습니다.
"AI는 이제 텍스트, 사진, 오디오 또는 비디오 등 어떤 것이든 가짜 콘텐츠를 만드는 데 사용할 수 있는 간편한 도구를 갖추고 있습니다. 필요한 것은 데이터, 알고리즘, 컴퓨팅 성능뿐이므로 누구나 집이나 차고에서 AI가 생성한 콘텐츠를 만들 수 있습니다."
롤랜드 아비 나젬
IS가 선전 목적으로 AI를 활용한 것은 3월 22일 모스크바에서 145명이 사망한 끔찍한 테러 사건이 발생한 지 며칠 후 공식적으로 시작되었습니다. 전문가들은 이 테러 사건을 보도하는 데 AI 뉴스 앵커가 처음으로 투입되었으며, IS가 AI를 통해 가짜 뉴스를 유포했다고 지적했습니다.
AI 콘텐츠를 통한 극단주의 영향력 확대
국제 폭력적 극단주의 연구 센터의 연구원인 모나 타카르는 IS 지지자들이 캐릭터 생성 기술을 활용한다고 말했습니다.
"이러한 노력은 다른 사용자들로부터 긍정적인 반응을 얻었으며, 이는 향후 협력 노력을 통해 많은 지지자가 더 나은 그래픽과 더 많은 혁신 기술을 사용하여 더 긴 길이의 IS를 위한 고품질의 정교한 AI 기반 선전 영상을 제작할 수 있음을 보여줍니다."
또한 읽어보세요: 2024년 선거에서 가짜 뉴스와 AI의 전쟁은 무엇일까?
타카르는 또한 텔레그램에서 IS를 홍보하는 회원들이 채널에 고품질 이미지를 생성하는 AI 이미지 생성 봇 사용을 권장한다고 언급했습니다. 이러한 봇은 효과적이고 사용하기 쉽기 때문입니다. 이러한 관행은 극단주의의 효과와 응집력을 강화하는 도구로서 AI 사용이 증가하고 있음을 보여줍니다.
AI는 영향력 있는 운영 및 채용을 가능하게 합니다.
IS는 시리아와 이라크에서 상당한 영향력을 잃었지만, 여전히 AI를 활용하여 증오 메시지를 전파하고 강력한 모습을 보이고 있습니다. 나젬의 주장처럼, IS는 AI의 도움을 받아 딥페이크 영상을 제작하여 특정 유명인과 인플루언서, 특히 청소년들이 IS에 가입하도록 유도할 수 있습니다.
또한 읽어보세요: AI가 자금세탁 방지 및 테러 대응 노력에 혁신을 일으키다
극단주의와 기술에 관한 글로벌 네트워크의 연구원인 다니엘 시겔은 AI가 극단주의 집단의 온라인 영향력 행사의 본질을 바꾸었다고 설명했습니다.
애니메이션 캐릭터와 인터넷 인물을 등장시킨 극단주의 오디오 딥페이크 나시드를 전략적으로 배치하는 것은 극단주의자들이 콘텐츠의 도달 범위를 넓히기 위해 사용하는 전술의 정교한 진화를 보여줍니다.
시겔은 또한 알카에다와 하마스 같은 다른 테러 조직들도 추종자들을 위한 콘텐츠 제작에 AI를 활용하고 있다고 밝혔습니다. 이러한 급진적인 조직들이 AI를 활용하여 전문적이고 번역이 잘 되며 설득력 있는 콘텐츠를 제작하는 반면, 당국과 기술 대기업들은 이러한 위협에 대응할 방법을 찾아야 합니다.
Brenda Kanana Cryptopolitan 보고
