- 이슬람 국가는 온라인 선전, 가짜 뉴스 앵커 및 가짜 영상 등을 위해 AI 를 활용하고 있습니다.
- AI 는 극단주의자들이 자신의 의제를 확산하기 위해 더 높은 품질의 영상을 제작할 수 있게 했습니다.
- AI 에 대한 상대적으로 느슨한 법적 제한으로 인해 정부가 급진 단체의 기술 사용을 억제하는 것이 점점 어려워지고 있습니다.
중요한 군사적 후퇴를 겪고 있는 이슬람 국가(IS) 지지자들은 정교한 온라인 선전을 생성하기 위해 인공지능(AI)을 점점 더 활용하고 있습니다. 전문가들은 IS 지지자들이 이 기술을 사용하여 다양한 언어로 AI가 생성한 뉴스 브리핑과 같은 정교한 선전을 생산할 수 있었다고 보고합니다.
또한 읽기: AI를 활용한 봇이 소셜 미디어에 허위 정보로 범람
한 예로, 아프가니스탄과 파키스탄에서 활동하는 IS의 지부인 이슬람 국가 호라산(ISKP)이 있습니다. 5월 17일 바미안 주에서 발생한 IS 주장의 공격으로 스페인 관광객 3명을 포함해 4명이 사망한 후, ISKP는 AI 뉴스 앵커의 영상을 공개했습니다. 파슈토어로 말하는 앵커는 현지인과 비슷하게 보이며 공격 내용을 전달하여, 그룹이 콘텐츠를 더 신뢰할 수 있게 만들기 위해 AI를 사용하는 것을 보여주었습니다.
IS 계열사들이 AI 생성 뉴스 앵커를 배치
또 다른 AI 제작 영상에서는 가상의 남성 앵커가 아프가니스탄 칸다하르에서 발생한 차량 폭탄 공격의 배후가 IS라고 주장했습니다. 사이버 보안 전문가 로랑 아비 나제(Roland Abi Najem)는 이러한 AI 기반 딥페이크 영상의 효율성을 강조하며, IS가 수년 동안 할리우드 수준의 제작을 사용해 왔다고 덧붙였습니다.
“AI는 이제 텍스트, 사진, 오디오, 비디오 등 가짜 콘텐츠를 생성하기 위해 사용하기 쉬운 도구를 가지고 있습니다. 데이터, 알고리즘, 컴퓨팅 파워만 있으면 누구나 집이나 차고에서 AI 생성 콘텐츠를 만들 수 있습니다.”
로랑 아비 나제(Roland Abi Najem)
IS의 선전 목적을 위한 AI 사용은 3월 22일 모스크바에서 발생한 끔찍한 테러 사건(145명 사망) 며칠 후 공식적으로 시작되었습니다. 전문가들은 이 공격을 보도하기 위해 AI 뉴스 앵커가 처음 사용되었으며, 이 그룹이 AI를 통해 가짜 뉴스를 유포했다고 지적했습니다.
AI 콘텐츠를 통한 극단주의 영향력 확대
국제 폭력 극단주의 연구소(International Center for the Study of Violent Extremism)의 연구원 모나 타카르(Mona Thakkar)는 IS 지지자들이 캐릭터 생성 기술을 활용한다고 말했습니다.
“이러한 노력은 다른 사용자들로부터 긍정적인 반응을 얻었으며, 이는 향후 협력적 노력을 통해 많은 지지자들이 더 긴 시간 동안 더 나은 그래픽과 더 많은 혁신 기법을 갖춘 고품질이고 정교한 AI 기반 IS 선전 비디오를 생산할 수 있음을 반영합니다.”
또한 읽기: 2024 선거에서의 가짜 뉴스와 AI 전쟁은 무엇인가?
타카르는 또한 텔레그램에서 IS를 홍보하는 구성원들이 고품질 이미지를 생성하기 때문에 이러한 봇이 효과적이고 사용하기 쉽기 때문에 AI 이미지 생성 봇의 사용을 장려한다고 지적했습니다. 이러한 관행은 AI가 극단주의의 효과성과 응집력을 높이는 도구로 점점 더 많이 사용되고 있음을 나타냅니다.
AI는 영향력 행사 및 모집을 가능하게 함
그룹이 시리아와 이라크에서 상당한 영토를 잃었음에도 불구하고, 여전히 증오의 메시지를 확산하고 힘의 위장을 제시하기 위해 AI를 사용합니다. 나제미의 주장에 따르면, AI의 도움으로 IS는 특정 유명인과 인플루언서, 주로 청소년들을 조직에 가입하도록 설득하기 위해 딥페이크 비디오를 생성할 수 있습니다.
또한 읽기: AI가 자금세탁 방지 및 테러 방지 노력 혁신
극단주의와 기술에 대한 글로벌 네트워크(Global Network on Extremism and Technology) 연구원 다니엘 시겔(Daniel Siegel)은 AI가 극단주의 그룹의 온라인 영향력 행사 성격을 변화시켰다고 설명했습니다.
“애니메이션 캐릭터와 인터넷 유명인을 특징으로 하는 극단주의 오디오 딥페이크 나시드(nasheed)의 전략적 배치는 콘텐츠의 도달 범위를 넓히기 위해 극단주의자들이 사용하는 전술의 정교한 진화를 나타냅니다.”
시겔은 알카에다와 하마스 같은 다른 테러 조직들도 팔로워들을 위한 콘텐츠를 생성하기 위해 AI에 의존하고 있다고 밝혔습니다. 이러한 급진적 조직들이 전문적이고 번역된 설득력 있는 콘텐츠를 만들기 위해 AI를 사용하는 동안, 당국과 기술 거대 기업들은 이러한 위협에 대응할 방법을 찾아야 합니다.
크립토폴리탄(Cryptopolitan) 보도 브렌다 카나나
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
