이스라엘-이란 분쟁은 인공지능을 이용한 최악의 허위 정보 유포를 촉발시켰다

지난주 이스라엘과 이란이 전면적인 공세를 펼친 이후, 인공지능(AI)을 이용한 허위 정보가 온라인에 대량으로 유포되고 있습니다. BBC Verify의 조사에 따르면, 이란의 군사력을 과시하는 영상들과 이스라엘 목표물에 대한 공격 효과를 보여준다고 주장하는 가짜 영상들이 다수 발견되었습니다. 

대부분의 게시물은 테헤란의 공격 효과를 과장하려는 의도로 작성된 것으로 알려졌다. 가장 많이 조회된 가짜 영상 3개는 여러 플랫폼에서 합쳐서 1억 회 이상의 조회수를 기록했다.

온라인상에서 친이스라엘 계정들은 주로 이란에서 벌어졌던 시위와 집회의 과거 영상을 공유하며 허위 정보를 퍼뜨리고 있습니다. 이러한 영상들은 실제 시위 현장에는 정부에 반대하고 이스라엘의 군사 작전을 지지하는 사람들이 훨씬 더 많았다는 것을 보여줍니다.

중동의 긴장 상황을 이용해 돈을 버는 사람들이 있다

공개된 이미지를 분석하는 한 단체는 온라인에 퍼진 허위 정보의 양이 "놀라울 정도"라고 말했습니다. 그들은 일부 사람들이 관심을 끌기 위해 온라인에 허위 정보를 유포하여 분쟁을 이용해 돈을 벌려고 한다고 지적했습니다.

컨펌드는 X에 "파키스탄에서 촬영된 관련 없는 영상부터 2024년 10월 파업 당시의 영상을 재활용한 것(일부는 조회수 2천만 회 이상)은 물론 게임 클립과 AI가 생성한 콘텐츠까지 실제 사건인 것처럼 위장되고 있다" 고 썼다.

그 결과, 일부 계정은 많은 팔로워를 확보하고 허위 정보를 퍼뜨리는 "슈퍼 전파자"가 되었습니다.

이란 정부와는 아무런 연관이 없어 보이는 친이란 성향의 계정인 '데일리 이란 밀리터리'가 6월 19일 70만 명을 조금 넘는 팔로워 수에서 일주일도 안 되어 140만 명으로 급증했다.

연구 그룹 겟 리얼(Get Real)의 최고 조사 책임자인 에마뉘엘 살리바는 "분쟁 상황에서 생성형 AI가 대규모로 사용된 것은 이번이 처음"이라고 말했다 

공격했고 이란을 , 이에 이란은 이스라엘에 여러 차례 미사일과 드론 공격을 가했다.

이스라엘 F-35 전투기가 격추되었다는 허위 보도입니다.

인공지능(AI)을 이용한 가짜 영상들은 이스라엘의 F-35 전투기가 격추되었다는 보도에 초점을 맞추고 있습니다. F-35는 지상과 공중의 목표물을 모두 공격할 수 있는 미국산 첨단 전투기입니다. 분석 그룹 알레시아의 대표인 리사 카플란은 BBC Verify와의 해당 영상이 사실이라면 이란이 이스라엘 전투기 전력의 15%를 격추한 셈이라고 말했습니다.

F-35 전투기가 격추되는 영상이 진짜라는 증거는 아직 없습니다.

카플란 씨에 따르면 많은 사람들이 F-35에 관심을 갖고 있다고 합니다. 이는 알레시아가 이전에 러시아의 인명 피해 작전과 연관시켰던 계정들 때문입니다.

그녀는 최근 러시아의 영향력 행사 방식이 우크라이나 전쟁에 대한 지지를 약화시키려는 시도에서 서방 무기, 특히 미국 무기의 위력에 대한 의문을 퍼뜨리는 것으로 바뀌었다고 말했다.

머스크의 Grok은 오해의 소지가 있는 X 사용자를 발견했습니다

BBC Verify가 조사한 허위 정보의 상당수는 X 플랫폼에서 공유되었으며, 사용자들은 종종 해당 플랫폼의 AI 로봇인 Grok을 사용하여 게시물의 진위 여부를 확인합니다.

그록은 인공지능 영상이 실제 상황이라고 주장했던 적이 있습니다. 그중 한 영상은 산비탈의 시설에서 탄도 무기를 실은 트럭들이 끝없이 쏟아져 나오는 장면을 보여주었습니다. 살리바 씨는 영상 속 바위들이 독립적으로 움직이는dent인공지능 콘텐츠의 명백한 증거라고 말했습니다.

오늘 밤 공연 준비 중 pic.twitter.com/ArxNGaWjzQ

— 군사 미디어 (@hehe_samir) 2025년 6월 18일

하지만 X명의 사용자들의 질문에 대해 그록은 해당 영상이 진짜라고 거듭 강조하며 뉴스위크와 로이터 통신의 기사를 증거로 제시했습니다. 챗봇은 여러 차례 메시지를 주고받은 후 "더 자세한 정보는 신뢰할 수 있는 뉴스 매체를 확인하세요"라고 덧붙였습니다.

틱톡은 BBC Verify에 "부정확하거나 오해의 소지가 있거나 허위적인 콘텐츠를 금지하는" 커뮤니티 규칙을 적극적으로 시행하고 있으며, 외부 팩트체커와 협력하여 "오해의 소지가 있는 콘텐츠를 검증"하고 있다고 밝혔습니다. 그러나 인스타그램의 소유주인 메타는 관련 문의에 답변을 하지 않았습니다.