영국 총리와 왕족의 AI 딥페이크 이미지가 페이스북 암호화폐 사기에 악용되었습니다  

영국 총리 커 스타머와 윌리엄 왕자의 모습을 인공지능(AI)으로 제작한 영상이 페이스북과 인스타그램에서 암호화폐 사기 광고에 이용되고 있습니다. 시장조사기관 페니모어 하퍼에 따르면, 스타머 총리가 집권한 7월 초 영국 총선 이후 '이미디에이트 엣지(Immediate Edge)'라는 플랫폼을 홍보하는 광고가 250건 이상 게재되었습니다.

새로운 보고서페니모어 하퍼는 이매디에이트 엣지가 소셜 미디어에서 아무것도 모르는 사용자들에게 딥페이크 광고를 공격적으로 퍼뜨렸다고 밝혔습니다. 보고서에 따르면 이 플랫폼의 광고는 페이스북과 인스타그램에서 89만 명에게 도달했습니다. 또한 이매디에이트 엣지는 지금까지 이 광고에 2만 1천 파운드(약 2만 7천 달러)를 지출했다고 합니다. 이 조사 기관은 메타의 대규모 언어 모델인 라마 3.1을 사용한 광고를 발견했습니다.

이 암호화폐 사기는 시청자들에게 돈과 개인 정보를 보내도록 유도합니다  

스타머와 윌리엄 왕자의 딥페이크 영상은 모두 이름, 전화번호, 이메일 등의 개인 정보를 입력해야만 얻을 수 있는 "인생을 바꿀 기회"를 약속했습니다. 이 캠페인은 영국 총리와 찰스 왕세자가 후원하는 새로운 플랫폼인 이매디에이트 엣지(Immediate Edge)를 홍보하며, 이곳에서 하루 최대 1,000파운드를 벌 수 있다고 주장했습니다.

사용자가 광고 링크를 클릭하면 개인 정보를 입력하라는 랜딩 페이지로 이동합니다. 보고서에 따르면, 암호화폐 사기꾼들은 이후 사용자들에게 연락하여 가짜 온라인 거래 플랫폼에 돈을 입금하도록 유도합니다. 사기꾼들은 일반적으로 거래 수익이 표시된 가짜 포트폴리오를 보여주며 사람들을 속여 더 많은 돈을 입금하게 만듭니다.

페니모어 하퍼는 임메이티드 엣지 사기범들이 사용자가 자금 인출을 요청할 때마다 사라졌다고 자세히 설명했습니다.

한 예로, 스타머의 딥페이크 영상에는 다음과 같은 내용이 인용되어 있습니다

“당신의 인생이 곧 바뀔 것입니다. 저는 영국 총리이자 노동당 대표인 키어 스타머입니다. 당신을 기다려 왔습니다. 오늘은 당신에게 행운의 날입니다. 어떻게 이 페이지를 찾으셨는지는 모르겠지만, 절대 후회하지 않으실 겁니다

인공지능이 제작한 이 광고는 45명이 선정되어 정체불명의 프로젝트를 통해 "인생을 바꿀 만한 큰돈"을 벌 수 있다고 주장합니다. 사전 지식이나 특별한 기술 없이도 하루 1,000파운드, 주당 7,000파운드, 월 27,000파운드를 벌 수 있다고 약속합니다. 또한 "이것은 사기가 아니다"라며, 스타머 본인도 시청자들에게 아무것도 요구하지 않았다고 강조합니다.

일부 광고는 영국 총리의 주도로 시작되었다는 점을 강조하면서 제3자를 이용했습니다.

한 광고에서는 딥페이크로 만들어진 윌리엄 왕자가 해당 플랫폼을 지지하며 왕실의 지지를 표명합니다. 그는 "존경하는 영국 시민 여러분, 안녕하십니까. 저, 윌리엄 왕자와 왕실 가족 모두는 키어 스타머 총리의 새로운 정책과 그 플랫폼을 전적으로 지지함을 기쁘게 발표합니다."라고 말했습니다

페니모어 하퍼의 보고서에 따르면, 해당 광고는 이 계획이 필수적이며 시민들의 삶을 개선하는 데 도움이 될 것이라고 주장하며, 시청자들에게 참여하여 국가의 더 나은 미래를 만들어 나가도록 촉구하고 있습니다.

페이스북과 인스타그램은 암호화폐 사기 광고 문제로 계속해서 어려움을 겪고 있다 

해당 보고서에 따르면 암호화폐 관련 링크 중 상당수가 현재 연결되지 않는 것으로 나타났지만, 일부 딥페이크 광고는 여전히 게재되고 있습니다. 이 광고들은 페이스북과 인스타그램의 스팸 방지 시스템에 걸러지지 않았으며, 구글 역시 해당 암호화폐 사기를 제대로 감지하지 못했습니다. 구글에서 Immediate Edge를 검색하면 해당 플랫폼이 합법적인 거래 소프트웨어라는 메시지가 표시됩니다.

페니모어 하퍼의 창립자인 마커스 비어드는 강력한 조치가 취해지지 않는 한 허위 정보 유포는 계속될 것이라고 말했습니다.

"이러한 캠페인은 이제 유명 인사들을 손쉽게 사칭하고 전례 없는 속도로 온라인에서 허위 정보를 퍼뜨릴 수 있다dent그는 , 영국 인디펜던트 신문에dent "이는 개인, 공인, 기업, 그리고 우리의 민주주의에 엄청난 위험을 초래한다"고 말했다.

메타와 구글 모두 자사 플랫폼에서 허위 정보 유포 및 AI 딥페이크 사용을 용납하지 않는다고 밝혔습니다. 메타 대변인은 스타머와 윌리엄 왕자가 관련된 불법 광고 대부분을 삭제했다고 전했습니다. 구글은 "스팸 ​​방지 시스템 덕분에 스팸 발송자들의 끊임없이 진화하는 시도에도 불구하고 구글 검색 결과 99%가 스팸 없이 깨끗하게 유지되고 있다"고 설명했습니다