다크넷 시장에서 딥페이크 생성 도구 확산

최근 카스퍼스키 연구 회사의 보고서에 따르면, 다크넷의 현대적 시장과 새로 등장하는 딥페이크 생성 도구 및 서비스의 범위는 개인과 대기업 모두에게 악화되는 위협을 나타냅니다.

딥페이크 기술의 공격 증가

카스퍼스키 연구원들은 딥페이크 개발 도구킷과 서비스의 구매 및 판매가 다크넷 시장에서 증가하고 있다고 밝혔습니다. 이러한 플랫폼은 생성형 AI를 악용하여 기만적인 콘텐츠를 생성하고, 사기, 협박, 데이터 절도를 저지르기 위해 가짜 비디오, 오디오 클립 및 이미지를 설계할 수 있습니다.

보고서에 따르면 이러한 통계는 끔찍하며, 예를 들어 가짜 비디오를 만드는 데에는 1분과 300달러가 소요됩니다. 또한 AI 및 ML 기술이 제공하는 접근성 증가는 공격자가 캠페인을 효과적으로 사용할 수 있는 가능성을 제공할 뿐만 아니라, 그들의 설계를 계획하고 실행할 수 있게 만듭니다.

이러한 딥페이크는 실제 개인과 구분할 수 없는 가짜 이미지를 생성하며 자연스러운 발화 패턴과 사실적인 표정을 갖추고 있어 탐지가 거의 불가능합니다. 그러나 딥페이크와 관련된 위험에 대한 대중의 주의를 끌기 위해 여러 가지 조치가 취해졌습니다.

그러나 우연히 진짜 비디오와 가짜 비디오를 구분하는 것은 정말 어렵습니다. 카스퍼스키의 비즈니스 기술 및 디지털화 설문 조사에 따르면 메타(META) 지역 사용자의 절반이 스스로 딥페이크 콘텐츠를 식별할 수 있다고 평가했지만, 실제로 식별한 사람의 비율은 25%에 불과했습니다. 이러한 격차는 표적 딥페이크 악용과 관련하여 조직이나 개인에 대한 사회공학적 공격 가능성을 입증합니다.

기업과 개인을 위한 전망

딥페이크 확산의 위험한 결과는 기업뿐만 아니라 개인에게도 잠재적으로 큰 위협이 됩니다. 이러한 교활함은 CEO를 사칭하고 가짜 결제를 생성하는 것과 같은 만연한 방법을 통해 다양한 금융 사기를 수행하거나, 수치스러운 비디오나 사진으로 사람들을 협박하는 데 사용될 수 있습니다. 게다가 딥페이크에 의해 부추겨지는 허위 정보와 사기의 확산은 통신 시스템의 신뢰와 보안을 훼손합니다.

카스퍼스키의 기술 그룹 매니저 하피즈 레흐만은 딥페이크 위협에 맞서기 위해서는 선제적 조치가 취해져야 한다고 암시합니다. 그는 사람들이 지속적으로 사칭하기 위해 즉시 음성 생성 기능을 사용할 수 있는 능력을 강조하며, 이를 잠재적으로 위험한 발전으로 규정합니다. 카스퍼스키는 개인과 기업이 딥페이크 비디오의 특성을 인지하고 진화하는 위협 환경의 속도를 따라가기 위해 카스퍼스키 위협 인텔리전스와 같은 도구를 사용해야 한다고 제안합니다.

또한 딥페이크 위협을 노출하는 직원들의 기술 수준을 높이기 위한 교육과 인식 제고를 통해 더 효과적인 '인간 방화벽' 개발에 더 많은 주의가 기울여져야 합니다. 이러한 딥페이크 기술이 빠르게 능력을 발전시키고 확산됨에 따라 디지털 통신 보안의 복잡성을 증가시키고 이를 훼손하는 주요 요인이 되고 있습니다.