홍콩 정부, AI 기반 사기 주의보 발령

홍콩 정부가 인공지능(AI)을 이용한 사기 증가에 대해dent에게 다시 한번 경고했습니다. 이는 사기꾼들이 존 리카 홍콩 행정장관의 사진을 딥페이크로 조작하여 의심스러운 투자 사기를 홍보한 사건 이후 나온 조치입니다.

홍콩 정부, AI 기반 사기 주의보 발령

정부는 해당 행위를 규탄하며, 영상이 "사기 의도를 가진 허구"이므로 이러한 홍보에 쉽게 속거나 개인 정보를 제공하지 않도록 국민들에게 경고했다

정부 대변인은 "일반 시민 여러분께서는 이와 유사한 투자 관련 광고나 홍보 영상에 현혹되지 마시기 바랍니다. 온라인에서 개인 정보를 제공하거나, 모바일 애플리케이션에 가입하거나, 링크를 클릭해서는 안 됩니다."라고 밝혔습니다

최근 몇 달 동안 ChatGPT와 같은 생성형 도구들의 인기에 힘입어 인공지능(AI)이 전 세계적으로 큰 주목을 받았습니다. 하지만 이러한 도구들의 엄청난 잠재력은 사기꾼들의 악용 가능성 또한 내포하고 있으며, 딥페이크가 그 대표적인 사례입니다. 

딥페이크는 인공지능(AI)으로 생성된 영상이나 음성 파일로, 특정 인물의 외모나 목소리를 조작합니다. 사기꾼들은 최첨단 알고리즘을 이용해 기존 영상과 음성을 조합하여 유명인, 정치인, 또는 기타 신뢰받는 인물이 제품을 홍보하거나, 암호화폐 사기를 조장하거나, 심지어 개인적인 메시지를 전달하는 것처럼 보이게 하는 정교한 영상을 만들어낼 수 있습니다.

사기꾼들이 인공지능을 무기화하고 있다

사기꾼들은 친숙한 얼굴과 목소리를 신뢰하는 인간의 본능적인 성향을 악용하여 딥페이크를 제작하는 데 인공지능을 점점 더 많이 활용하고 있습니다. 그 결과는 광범위하며, 공인에 대한 신뢰를 무너뜨리고, 온라인 커뮤니티에 불화를 조장하며, 아무것도 모르는 피해자들에게 상당한 금전적 손실을 초래합니다.

사우스캐롤라이나 민스크 외신기자(SCMP)는 일본에서 한 피해자가 가짜 영상에 속아 컴퓨터 게임 크레딧 1,700홍콩달러(미화 218달러) 상당을 잃었다고 보도했습니다. SCMP에 따르면, 2022년 사기꾼들은 이씨의 사진과 조작된 이미지를 이용해 사람들을 의심스러운 거래 플랫폼으로 유인하려 했습니다.