Europol 보고서: AI는 유럽의 범죄 조직의 핵심 도구가 됨

Europol, 유엔 지역 간 범죄 및 형사 연구소(UNICRI), 트렌드마이크로가 공동으로 개발한 새로 공개된 보고서에 따르면, 범죄자들은 인공지능(AI) 덕분에 사기 행각을 저지르고 도피하는 데 더 능숙해지고 있습니다. 

보고서는 조직범죄 조직들이 피해자를 표적으로 삼기 위해 AI 기반 사기 및 결제 시스템으로 전환하고 있다고 밝혔습니다. AI의 기능으로 인해 이러한 범죄 조직들은 전 세계적으로 신속하게 운영을 개발할 수 있게 되어 탐지가 더 어려워졌습니다.

유럽 중대 조직범죄 위협 평가 보고서에 따르면, AI 기술에 대한 접근 권한을 통해 다국어 메시지를 작성하고 매우 현실적인 위조품을 만들어 개인을 사칭하고 글로벌 사이버 사기 작전 대상자를 협박할 수 있다고 합니다.

보고서에는 AI를 활용한 기존 및 잠재적 공격에 대한 정보와 이러한 위험을 완화하는 방법에 대한 권장 사항도 포함되어 있습니다.

보고서는 사기 예방을 위한 사기-proofing에서 AI의 역할을 강조했습니다.

AI의 매력은 자동화와 자율성을 통해 제공하는 더 큰 효율성에 있습니다. 이 보고서는 적절한 시기에 나왔습니다. 현재 대중은 AI의 잠재적 오용에 대해 점점 더 우려하고 있으며, 이는 당국으로 하여금 AI 기술이 제공할 수 있는 잠재적 이점을 간과하지 않으면서도 위협에 대해 투명하게 대응하도록 요구하고 있습니다.

Europol의 유럽 사이버범죄 센터장인 에드바르다스 실레리스는 “이 보고서는 AI의 가능한 악의적 사용과 남용을 예측하는 데 도움이 될 뿐만 아니라, 이러한 위협을 사전에 예방하고 완화하는 데에도 도움이 될 것입니다. 이것이 우리가 AI가 지닌 잠재력을 unlocking하고 AI 시스템의 긍정적인 활용으로부터 혜택을 받는 방법입니다,”라고 말했습니다.

보고서는 사이버범죄자들이 이미 그렇게 하지 않는다면, 궁극적으로 AI를 공격 벡터이자 공격 표면으로 활용할 것이라고 결론지었습니다.

현재 딥페이크는 공격 벡터로서 AI의 가장 잘 알려진 사용 사례입니다. 그러나 보고서에 따르면, 향후 허위 정보 캠페인과 협박, 그리고 AI 데이터셋을 표적으로 삼는 위협의 위험을 완화하기 위해 새로운 스크리닝 기술이 필요할 것입니다.

AI는 다음과 같은 상황에서 사용될 수 있습니다: 대규모로 설득력 있는 소셜 엔지니어링 공격 생성; 공격을 더 효율적으로 만들기 위한 문서 스크래핑 멀웨어; 이미지 인식 및 음성 생체 인증 회피; 랜섬웨어 공격, 지능형 표적 지정 및 회피; 탐지 규칙의 사각지대를 식별하여 데이터 오염을 유발하는 등.

“AI 응용 프로그램이 실제 세계에 주요 영향을 미치기 시작하면서, 이것이 우리의 미래를 위한 핵심 기술이 될 것이 분명해지고 있습니다,”라고 UNICRI의 AI 및 로봇공학 센터장인 이라클리 베리제는 말했습니다.

베리제는 “사회에 대한 AI의 혜택이 매우 현실적인 것처럼, 악의적 사용의 위협도 매우 현실적입니다,”라고 지적하며 계속했습니다.

“우리는 Europol과 트렌드마이크로와 함께 서서 AI의 어두운 면을 조명하고 이 중요한 주제에 대한 논의를 촉진하게 되어 영광입니다,”라고 베리제 는 말했습니다.

보고서에는 또한 멀웨어의 효과를 높이고 안티멀웨어 및 얼굴 인식 시스템을 방해할 AI 시스템이 개발 중이라는 경고도 포함되어 있습니다.

“사이버범죄자들은 항상 최신 기술의 조기 채택자였으며, AI도 예외는 아닙니다. 이 보고서가 보여주듯, 이미 비밀번호 추측, CAPTCHA 깨기, 음성 복제 등에 사용되고 있으며, 더 많은 악의적인 혁신이 개발 중입니다,”라고 트렌드마이크로의 선제적 위협 연구 책임자 마틴 로슬러는 말했습니다.

“우리는 Europol과 UNICRI와 협력하여 이러한 위협에 대한 인식을 높이고, 그 과정에서 모두를 위한 더 안전한 디지털 미래를 만드는 데 기여하게 되어 자랑스럽게 생각합니다.”

세 조직은 보고서를 마무리하기 위해 몇 가지 권장 사항을 제시했습니다. 하나는 사이버보안 산업과 경찰 활동을 미래에 대비하기 위해 AI 기술을 범죄 퇴치 도구로 활용하는 것이었습니다.

다른 하나는 방어 기술 개발을 촉진하고 안전한 AI 설계 프레임워크를 장려하기 위해 연구를 계속하는 것이었습니다. 또한 그들은 사이버보안 목적으로 AI 사용에 대한 정치적 논란이 담긴 수사적 표현의 격화를 지양할 것과, 다학제적 전문가 그룹을 활용하고 설립하기 위해 공공-민간 파트너십을 장려할 것을 촉구했습니다.

조직범죄의 새로운 시대

보고서가 지적하듯, 조직범죄는 실제로 인공지능의 활용을 통합하여 효율적인 능력을 통해 규모를 확장하고 정교한 사기를 개발하는 방향으로 진화했습니다.

Insight Crime이라는 미디어 회사의 X 게시글에 따르면, 아르헨티나 당국은 최근 범죄자들이 “점점 더 AI를 사용하여 과거의 사기를 개선하고 새로운 피해자를 유인하고 있다”는 경고를 보냈습니다.

사칭 사기 등에 사용되는 매우 현실적인 오디오, 비디오 또는 이미지를 생성하는 머신러닝 기반의 딥페이크 외에도, AI는 피싱 캠페인의 자동화, 설득력 있는 가짜 신원 생성, 시스템의 취약점을 표적으로 하는 멀웨어 최적화 등을 통해 금융 범죄에 통합되어 자동화를 돕습니다. 이러한 자동화는 AI를 작업 공간의 보석으로 만드는 장점이기도 하며, 그룹이 더 적은 노력으로 더 많은 피해자에게 도달할 수 있게 합니다.

사기 외에도, AI는 마약 밀매와 같은 기타 불법 작전을 용이하게 하는 데 사용되어 왔습니다. 여기서 AI는 공급망, 운송 경로 또는 법 집행 패턴에 대한 데이터를 분석하여 위험을 최소화하고 이익을 극대화하는 데 도움을 줄 수 있습니다.

또한 AI 기반 챗봇과 암호화폐를 사용하여 자금 세탁을 가속화하고 있으며, 이는 추적하기 어려운 더 빠르고 익명화된 거래를 가능하게 합니다.

대형 언어 모델(예: ChatGPT) 및 생성형 AI와 같은 접근성 도구들도 기술적 장벽을 낮춤으로써, 숙련도가 낮은 범죄자들에게도 사기를 저지르고 처벌을 피할 기회를 제공했습니다.

Europol 보고서는 AI와 범죄의 교차점에 대한 최근 developments에 대해 세계를 최신 상태로 유지하려는 시도입니다. 또한 이는 불로 불을 막자는 권장 사항으로 가득 찬 행동 촉구이기도 합니다. 결국 인간은 AI를 따라잡을 수 없지만, 우리는 기술의 악용된 응용 프로그램에 대항하기 위해 AI를 생성할 수 있습니다.