유럽형사경찰기구(유로폴), 유엔 지역간 범죄 및 사법 연구소(UNI), 트렌드 마이크로가 공동으로 개발한 최근 보고서에 따르면, 범죄자들이 인공지능(AI) 덕분에 사기 행각을 더욱 교묘하게 벌이고 있다고 합니다.
보고서에 따르면 조직범죄 집단들이 인공지능(AI) 기반 사기 및 결제 시스템을 이용해 피해자를 물색하고 있는 것으로 나타났습니다. AI의 기능 덕분에 이러한 범죄 조직들은 전 세계적으로 빠르게 활동 범위를 확장할 수 있어 적발이 더욱 어려워지고 있습니다.
유럽 중대 조직범죄 위협 평가 보고서에 따르면, 인공지능 기술에 접근할 수 있게 되면서 이들은 여러 언어로 메시지를 작성하고, 매우 사실적인 가짜 계정을 만들어 개인을 사칭하고 전 세계적인 사이버 사기 행각에서 목표물을 협박할 수 있게 되었습니다.
보고서에는 인공지능을 활용한 기존 및 잠재적 공격에 대한 정보와 이러한 위험을 완화하는 방법에 대한 권장 사항도 포함되어 있습니다.
보고서는 사기 방지에 있어 AI의 역할을 강조했습니다
인공지능의 매력은 자동화와 자율성을 통해 제공하는 효율성 증대에 있습니다. 이 보고서는 시기적절하게 발표되었습니다. 현재 대중은 인공지능의 오용 가능성에 대해 점점 더 우려하고 있으며, 이는 당국이 인공지능 기술이 제공하는 잠재적 이점을 간과하지 않으면서도 위협 요인에 대해 투명하게 공개하도록 강요하고 있습니다.
유럽연합 경찰기구(유로폴) 산하 유럽 사이버범죄센터의 에드바르다스 실레리스 센터장은 “이 보고서는 인공지능의 악의적인 사용과 남용 가능성을 예측할 뿐만 아니라, 이러한 위협을 사전에 예방하고 완화하는 데 도움이 될 것입니다. 이를 통해 인공지능이 가진 잠재력을 최대한 활용하고 인공지능 시스템의 긍정적인 사용을 통해 혜택을 얻을 수 있을 것입니다.”라고 말했습니다
보고서는 사이버 범죄자들이 이미 그렇게 하고 있지 않더라도 궁극적으로는 AI를 공격 벡터이자 공격 표면으로 활용할 것이라고 결론짓습니다.
현재 딥페이크는 인공지능을 공격 수단으로 활용하는 가장 잘 알려진 사례입니다. 그러나 보고서에 따르면, 향후 허위 정보 유포 및 협박, 그리고 인공지능 데이터셋을 노리는 위협에 대응하기 위해서는 새로운 검증 기술이 필요할 것으로 예상됩니다.
AI는 대규모의 설득력 있는 사회공학적 공격 생성, 공격 효율성을 높이는 문서 스크래핑 악성코드 제작, 이미지 인식 및 음성 생체 인식 회피, 랜섬웨어 공격, 지능형 타겟팅 및 회피, 탐지 규칙의dent지대 식별을 통한 데이터 오염 방지 등과 같은 사례에 사용될 수 있습니다.
"인공지능 애플리케이션이 현실 세계에 중대한 영향을 미치기 시작하면서, 이것이 우리 미래의 핵심 기술이 될 것이라는 점이 분명해지고 있습니다."라고 UNICRI의 인공지능 및 로봇공학 센터 소장인 이라클리 베리제는 말했습니다.
베리제는 이어서 “인공지능이 사회에 가져다주는 이점이 매우 현실적인 만큼, 악의적인 사용으로 인한 위협 또한 매우 크다”고 지적했습니다
베리제는 "유로폴 및 트렌드 마이크로와 함께 인공지능의 어두운 면을 조명하고 이 중요한 주제에 대한 더 심도 있는 논의를 촉진하게 되어 영광입니다." 라고 말했습니다 .
보고서에는 악성 소프트웨어의 효과를 높이고 악성 소프트웨어 방지 및 얼굴 인식 시스템을 무력화할 수 있는 AI 시스템이 개발 중이라는 경고도 포함되어 있습니다.
트렌드 마이크로의 미래 위협 연구 책임자인 마틴 뢰슬러는 "사이버 범죄자들은 항상 최신 기술을 가장 먼저 도입해 왔으며, 인공지능(AI)도 예외는 아닙니다. 이 보고서에서 드러나듯이, AI는 이미 비밀번호 추측, CAPTCHA 해킹, 음성 복제 등에 사용되고 있으며, 앞으로 더욱 악의적인 활용 사례가 많이 개발될 것으로 예상됩니다."라고 말했습니다.
"유로폴 및 UNICRI와 협력하여 이러한 위협에 대한 인식을 높이고, 이를 통해 우리 모두를 위한 더 안전한 디지털 미래를 만드는 데 기여하게 되어 자랑스럽습니다."
세 기관은 보고서 말미에 몇 가지 권고 사항을 제시했습니다. 그중 하나는 사이버 보안 산업과 경찰 업무의 미래를 보장하기 위해 인공지능 기술의 잠재력을 범죄 퇴치 도구로 활용해야 한다는 것이었습니다.
또 다른 목표는 방어 기술 개발을 촉진하고 안전한 AI 설계 프레임워크를 장려하기 위한 연구를 지속하는 것이었습니다. 또한 사이버 보안 목적의 AI 사용에 대한 정치적으로 편향된 수사를 완화하고, 민관 협력을 통해 다학제 전문가 그룹을 구성하고 활용하는 것을 장려했습니다.
조직범죄의 새로운 시대가 열렸습니다
보고서에서 지적했듯이, 조직 범죄는 실제로 인공지능을 활용하는 방향으로 진화했으며, 인공지능의 효율적인 능력을 이용하여 더욱 정교한 사기 행각을 확장하고 개발하고 있습니다.
Insight Crime이라는 미디어 회사의 게시물에 따르면, 아르헨티나 당국은 최근 범죄자들이 "인공지능을 이용해 기존 사기 수법을 변형하고 새로운 피해자를 유인하는 사례가 늘고 있다"고 경고
머신러닝으로 생성된 매우 사실적인 오디오, 비디오 또는 이미지인 딥페이크는 신분 도용 사기와 같은 사기에 사용될 뿐만 아니라, 금융 범죄에도 인공지능(AI)이 접목되어 피싱 캠페인을 자동화하고, 설득력 있는 가짜dent을 생성하며, 시스템의 취약점을 노리는 악성 소프트웨어를 최적화하는 데 활용되고 있습니다. AI를 업무 현장에서 귀중한 자산으로 만들어주는 이러한 자동화 기능은 범죄 조직이 더 적은 노력으로 더 많은 피해자를 확보할 수 있도록 해줍니다.
사기 외에도 AI는 마약 밀매를 포함한 다른 불법 행위를 용이하게 하는 데 사용되어 왔습니다. AI는 공급망, 운송 경로 또는 법 집행 패턴에 대한 데이터를 분석하여 위험을 최소화하고 이익을 극대화하는 데 도움을 줄 수 있습니다.
또한 인공지능 기반 챗봇과 암호화폐를 이용하여 자금 세탁을 가속화하고, trac이 어려운 빠르고 익명화된 거래를 가능하게 하는 사례도 있습니다.
ChatGPT와 같은 대규모 언어 모델 및 생성형 AI와 같은 접근성 도구는 기술적 장벽을 낮춰 기술이 부족한 범죄자조차도 사기를 치고 처벌을 피할 수 있는 기회를 제공했습니다.
유로폴 보고서는 인공지능과 범죄의 연관성에 대한 최근 동향을 세계에 알리기 위한 시도입니다. 또한, 이 보고서는 '이열치열'이라는 대응 방안을 제시하는 행동 촉구이기도 합니다. 결국 인간은 인공지능의 속도를 따라잡을 수 없지만, 기술의 악용 사례에 맞설 수 있는 인공지능을 개발할 수는 있기 때문입니다.
