영국 총리와 왕실에 대한 AI 딥페이크가 페이스북 암호화폐 사기에 악용  

영국 총리 케어 스타머(Kerr Starmer)와 윌리엄 왕자의 AI 생성 영상이 페이스북과 인스타그램에서 암호화폐 사기 광고에 사용되고 있습니다. 연구 기관 페니모어 하퍼에 따르면, 스타머가 7월 초 권력을 잡은 영국 선거 이후 ‘Immediate Edge’라는 플랫폼을 홍보하는 250개 이상의 광고가 게재되었습니다.

새로운 보고서에서 페니모어 하퍼(Fenimore Harper)는 Immediate Edge가 소셜 미디어에서 경계심이 약한 사용자에게 딥페이크 광고를 적극적으로 노출했다고 밝혔습니다. 이 플랫폼의 광고가 페이스북과 인스타그램에서 89만 명에게 도달했다고 전했습니다. 또한 Immediate Edge가 지금까지 이 광고에 21,000파운드(27,000달러)를 지출했다고 보고했습니다. 연구 기관은 메타의 대규모 언어 모델 Llama 3.1.을 사용하여 이러한 광고를 발견했습니다.

이 암호화폐 사기는 시청자에게 돈과 개인정보를 보내도록 유도합니다  

스타머와 윌리엄 왕자의 딥페이크 영상 모두 이름, 전화번호, 이메일과 같은 개인정보를 추가해야만 접근할 수 있는 “인생을 바꿀 기회”를 약속했습니다. 이 캠페인은 Immediate Edge를 영국 총리와 웨일즈 공주가 후원하는 새로운 플랫폼으로 홍보하며, 하루 최대 1,000파운드를 벌 수 있다고 주장했습니다.

사용자가 광고 링크를 클릭하면 개인정보 제공을 요청하는 랜딩 페이지로 연결됩니다. 보고서에 따르면, 암호화폐 사기꾼들은 이후 사용자에게 연락하여 가짜 온라인 거래 플랫폼에 자금을 입금하도록 독려합니다. 사기꾼들은 일반적으로 더 많은 입금을 유도하기 위해 거래 수익이 포함된 가짜 포트폴리오를 보여줍니다.

페니모어 하퍼는 Immediate Edge 사기꾼들이 사용자가 자금 인출을 요청할 때마다 사라졌다고 상세히 밝혔습니다.

한 예에서 스타머의 딥페이크는 다음과 같은 발언을 인용합니다.

““당신의 인생이 곧 바뀔 것입니다. 저는 케어 스타머이며, 영국 총리이자 노동당 대표입니다. 저는 당신을 기다려 왔습니다. 오늘이 당신의 행운의 날입니다. 어떻게 이 페이지를 찾았는지 모르겠지만, 후회하지 않을 것입니다.”

이 AI 제작 광고는 45명의 개인이 신비로운 프로젝트를 통해 ‘인생을 바꿀 돈’을 벌도록 선정되었다고 주장합니다. 이 광고는 사전 지식이나 특별한 기술 없이도 일일 1,000파운드, 주당 7,000파운드, 월간 27,000파운드의 수익을 약속합니다. 또한 “이것은 사기가 아니다”라고 주장하며, 스타머 자신도 시청자에게 아무것도 요구하지 않았다고 밝혔습니다.

일부 광고는 영국 총리의 주도라고 명시하면서 제3자를 활용했습니다.

한 광고에서 윌리엄 왕자의 딥페이크가 플랫폼을 지지하며 왕실의 지지를 표현합니다. 그는 “안녕하세요, 존경하는 영국 시민 여러분. 저는 윌리엄 왕자이며, 전 왕실이 케어 스타머 총리의 주도 및 새로운 플랫폼을 전폭적으로 지지한다는 소식을 기쁘게 전합니다.”라고 말했습니다.

페니모어 하퍼의 보고서에 따르면, 이 광고는 이 주도가 필수적이며 시민의 삶을 개선하는 데 도움이 될 것이라고 주장하며, 시청자들에게 참여하여 국가를 위한 더 나은 미래를 만들 것을 촉구합니다.

페이스북과 인스타그램은 여전히 암호화폐 사기 광고로 고전 

보고서에 따르면, 암호화폐 사기에 사용된 링크의 대부분은 이제 아무 곳으로도 연결되지 않지만, 일부 딥페이크 광고는 여전히 실행 중입니다. 이 광고들은 페이스북과 인스타그램의 스팸 필터를 우회했습니다. 구글도 암호화폐 사기를 적발하지 못했으며, Immediate Edge에 대한 구글 검색은 사용자에게 해당 플랫폼이 합법적인 거래 소프트웨어라고 안내했습니다.

페니모어 하퍼의 창립자 마커스 비어드는 엄격한 조치가 취해지지 않는 한 허위 정보는 계속될 것이라고 말합니다.

“이러한 캠페인은 이제 유명 인물을 쉽게 사칭하며, 전례 없는 속도로 온라인에서 허위 정보를 유포할 수 있습니다.”라고 그는 영국 독립지(The UK Independent)가 전한 바와 같이 말했습니다. “그들은 개인, 공인, 기업, 그리고 우리 민주주의에 막대한 위험을 초래합니다.”

메타와 구글은 모두 자신의 플랫폼에서 허위 정보와 AI 딥페이크 사용에 찬성하지 않는다고 밝혔습니다. 메타는 대변인을 통해 스타머와 윌리엄 왕자를 포함한 대부분의 불법 광고를 제거했다고 말했습니다. 구글은 “스팸 방지 시스템이 스팸 발송자들의 끊임없는 시도에도 불구하고 구글 검색을 99% 스팸 없이 유지하는 데 도움이 됩니다”라고 설명했습니다.