인공지능이 존재하지 않는 장소로 사람들을 속여 여행하게 만들고 있습니다. 관광객 여러분, 조심하세요!

인공지능(AI)으로 제작된 영상들이 관광객들을 속여 존재하지 않는 장소를 방문하게 만드는 사례가 발생하고 있습니다. 최근 보도에 따르면, 한 커플이 쿠악 스카이라이드(Kuak Skyride)라는 산 정상 케이블카를 타기 위해 몇 시간 동안이나 여행을 떠났습니다. 이들은 관광객들이 미소를 짓고 TV 진행자가 체험담을 들려주는 온라인 영상을 본 것이었습니다.

하지만 그들이 목적지에 도착했을 때 상황은 전혀 달랐습니다. 그들은 작은 마을에 도착했고, 마을 사람들은 그들이 무슨 말을 하는지 전혀 이해하지 못해 당황했습니다. 알고 보니 그 영상은 인공지능으로 만들어진 것이었고, 부부는 그것을 진짜라고 믿었던 것입니다.

"왜 사람들에게 이런 짓을 하는 걸까요?" 말레이시아의 한 노부인은 꿈속 장소가 구글이 개발한 인공 생성 엔진인 Veo3를.

인공지능이 사람들이 가짜 영상을 믿도록 만들고 있다

호텔 직원의 말에 따르면, 그 노년의 말레이시아 여성이 틱톡에서 우연히 그 영상을남편에게 위치를 알려줬다고 합니다. 두 사람 모두 영상 속 풍경에 감탄하여 직접 경험해 보기로 했다고 합니다. 영상이 너무나 그럴듯해서 TV 진행자까지 트램에 올라타 행복해하는 관광객들을 인터뷰했다고 합니다. 하지만 그들이 미처 알아채지 못한 것이 있었는데, 바로 영상 오른쪽 하단에 Veo3 로고가 있다는 점이었습니다. 이 로고는 영상이 Veo3라는 도구를 사용해서 제작되었다는 것을 보여주는 증거였습니다.

이러한 혼란은 우스꽝스럽기도 하지만, 인공지능. 이번dent 범죄자나 사기꾼이 꿈에 그리던 여행지를 방문하도록 유도하기 위해 돈을 요구하는 사기 행각을 벌이거나, 여행지 등록을 위한 가짜 링크를 보내는 등의 직접적인 사례는 아니지만, 악의적인 행위자들이 이러한 영상을 이용해 얼마나 쉽게 불법 행위를 저지를 수 있는지를 보여줍니다.

인공지능(AI)은 진짜 사건과 가짜 사건을 구분하기 어렵게 만들었습니다. 휴가 계획과 같은 사소한 활동조차 사람들이 경계해야 할 대상으로 만들었습니다. 이 말레이시아 부부의 경험은 개별적인dent처럼 보일 수 있지만, AI가 무엇이든 쉽고 정확하게 만들어낼 수 있는 세상에서 우리가 보고 듣고 경험하는 모든 것에 대한 신뢰를 재고해야 할 필요성을 보여줍니다.

인공지능 블랙홀은 계속해서 커지고 있다

이러한 수치들은 디지털 사기에 대한 집단적인 빠져들고 있다는 관점을 뒷받침합니다. 예를 들어, 딥페이크 공격은 3년 전 전체 사기 시도의 약 0.1%에서 현재 약 6.5%로 증가했는데, 이는 2,137%라는 큰 폭의 증가이며,dent서비스 회사인 시그니캣(Signicat)의 2025년 2월 보고서에 따르면 전체 사기 사건의 15분의 1을 차지합니다.

통계는 단순한 숫자가 아닙니다. 그 뒤에는 실제 피해자들이 있습니다. 대표적인 예로 82세 은퇴자인 스티브 보챔프가 있습니다. 그는 딥페이크 영상을 보고 나서 은퇴 자금 69만 달러를 모두 인출했습니다. 보챔프는 뉴욕 타임스와의 인터뷰에서 "영상 속 그의 모습이 진짜였어요."라고 말했습니다. 이 불행한 사건 이후dent그의 평생 저축은 디지털 세상 속으로 사라져 버렸습니다.

인공지능 기반 기만 행위는 인간 경험의 모든 측면에 영향을 미치고 있습니다. 영국 엔지니어링 회사 아럽(Arup)은 직원 한 명이 화상 회의에서 회사 최고재무책임자(CFO)와 다른 직원들의 모습이 담긴 딥페이크 영상에 속아 2,500만 달러 이상의 손실을 입었습니다. 한 학교 교장은 인공지능으로 조작된 영상에서 인종차별적이고 반유대주의적인 발언을 하는 것처럼 보인다는 이유로 살해 협박을 받았습니다. 나중에 밝혀진 바에 따르면 해당 영상은 교장의 명예를 훼손하기 위해 체육부장이 제작한 것이었습니다.

인공지능이 기만술을 완성하기 전부터 관광 산업은 이미 인위적으로 만들어진 현실 속에 깊이 빠져 있었습니다. 소셜 미디어는 여행을 셀카 관광으로 바꿔놓았고, 대부분의 방문객들은 인스타그램에 올릴 최고의 사진을 찍기 위해 휴양지로 향합니다. 유네스코는 이러한 현상에 대해 심각한 경고를 발령하며, 여행객들이 이제 유명 랜드마크를 방문하는 주된 이유가 "랜드마크를 배경으로 자신의 사진을 찍고 공유하기 위해서"라고 지적했습니다