- 사이버 범죄자들이 악의적인 목적으로 AI와 ML을 활용하고 있습니다.
- 딥페이크, AI 기반 해킹 및 인간 사칭이 심각한 위협으로 대두되고 있습니다.
- 향후 위험에는 AI를 활용한 고도화된 공격, 회피 기술, 그리고 물리적 피해가 포함됩니다.
Trend Micro, 유엔 지역 간 범죄 및 범죄 연구소(UNICRI), 유로폴이 공동으로 제작한 새로운 연구 논문은 사이버 범죄자들이 인공지능(AI) 및 머신러닝(ML) 기술을 악의적 목적으로 어떻게 악용하고 있는지 보여줍니다.
비즈니스에서의 AI 및 ML
AI와 ML은 더 역동적인 세계의 발전을 빠르게 촉진하고 있습니다. 이러한 기술은 더 높은 효율성, 자동화 수준 및 자율성을 약속합니다. AI는 제4차 산업혁명의 핵심인 양면 기술입니다. AI의 하위 분야인 ML은 알고리즘을 통해 대규모 데이터 세트를 분석하여 패턴을 찾는 기술로, 기업, 조직 및 정부는 혁신을 주도하고 비즈니스를 개선하는 놀라운 성과를 거둘 수 있습니다. 2020년까지 이미 37%의 기업과 조직이 시스템 및 프로세스에 AI를 통합했습니다. AI 및 ML 기반 도구는 기업이 고객의 구매 행동을 더 잘 예측할 수 있게 하여 수익 증가에 기여합니다. 아마존과 같은 일부 기업은 ML 및 AI 기반 도구의 도움을 받아 매우 수익성 있는 사업을 구축했습니다.
AI 및 ML의 오용 및 남용
AI와 ML은 비즈니스를 지원하고 사회의 가장 큰 과제 중 일부를 해결하는 데 도움이 될 수 있지만, 이러한 기술은 광범위한 디지털, 물리적, 정치적 위협을 초래할 수도 있습니다. AI 및 ML 시스템을 비즈니스에 필수적으로 만드는 기능들은 바로 사이버 범죄자들이 불법적인 이익을 위해 오용하고 남용하는 기능들입니다.
*딥페이크*: AI의 인기 있는 오용 사례 중 하나는 딥페이크로, 이는 AI 기술을 사용하여 오디오 및 시각적 콘텐츠를 제작하거나 조작하여 진위처럼 보이게 하는 것입니다. 딥페이크는 합법적인 콘텐츠와 구별하기 어렵기 때문에 허위 정보 캠페인에 적합합니다. 딥페이크는 나쁜 목적으로 현실을 왜곡할 잠재력을 가지고 있으며, 말레이시아의 연립 정권을 불안정하게 만든 alleged 딥페이크 비디오와 영국 기반 에너지 기업을 속겨 헝가리 은행 계좌로 거의 20만 파운드를 이체하게 만든 딥페이크 오디오가 그 예입니다.
*AI 지원 비밀번호 추측*: 사이버 범죄자들은 사용자의 비밀번호를 추측하기 위한 알고리즘을 개선하기 위해 ML을 활용하고 있습니다. 신경망과 생성적 적대 신경망(GANs)을 통해 사이버 범죄자들은 방대한 비밀번호 데이터 세트를 분석하고 통계적 분포에 맞는 비밀번호 변형을 생성하여 더 정확하고 표적화된 비밀번호 추측을 가능하게 합니다.
*소셜 네트워킹 플랫폼에서의 인간 사칭*: 사이버 범죄자들은 소셜 미디어 플랫폼에서 인간 행동을 모방하기 위해 AI를 남용하고 있습니다. 예를 들어, Spotify의 AI 지원 봇은 봇 감지 시스템을 속이고 특정 아티스트를 위한 사기성 스트림과 트래픽을 생성하기 위해 인간과 유사한 사용 패턴을 모방할 수 있습니다.
*AI 지원 해킹*: 사이버 범죄자들은 취약한 호스트를 해킹하기 위해 AI 프레임워크를 무기로 사용하고 있습니다. 예를 들어, ML 기반 침투 테스트 도구인 DeepExploit과 Wi-Fi 해킹을 위한 디인증 공격을 위해 개발된 PWnagotchi 1.0.0은 해킹 성능을 향상시키기 위해 신경망 모델을 사용합니다.
미래의 AI 및 ML 오용 및 남용
미래에는 범죄자들이 공격의 범위와 규모를 확대하고, 탐지를 피하며, 공격 벡터이자 공격 표면으로서 AI를 남용하기 위해 AI를 악용할 것으로 예상됩니다. AI는 콘텐츠 생성을 통해 공격의 첫 단계를 자동화하고, 비즈니스 인텔리전스 수집을 개선하며, 잠재적 피해자와 비즈니스 프로세스가 침해되는 속도를 높일 수 있습니다. 또한 AI는 암호화폐 거래 관행을 조작하거나, 폭탄을 탑재한 AI 기반 얼굴 인식 드론과 같이 개인에게 신체적 손상을 입히는 데 남용될 수 있습니다.
AI 및 ML 기술에는 많은 긍정적인 사용 사례가 있지만, 범죄 및 악의적 목적으로도 남용되고 있습니다. 이러한 기술이 어떻게 악용되어 시스템, 장치 및 일반 대중을 고급 공격과 남용으로부터 보호할 수 있는지 보여주는 기능, 시나리오 및 공격 벡터를 이해하는 것이 필수적입니다.
연구 소개
'인공지능의 악의적 사용 및 남용'이라는 제목의 연구 논문은 Trend Micro, 유엔 지역 간 범죄 및 범죄 연구소(UNICRI), 유로폴의 공동 노력입니다. 이 논문은 AI 및 ML 기술의 현재 악의적 사용 및 남용과 사이버 범죄자들이 불법적인 이익을 위해 이러한 기술을 남용할 수 있는 가능한 미래 시나리오를 다룹니다.
AI 및 ML 기술에는 시각 인식, 음성 인식, 언어 번역, 패턴 추출, 다양한 분야 및 산업의 의사 결정 기능 등 많은 긍정적인 사용 사례가 있습니다. 그러나 이러한 기술은 범죄 및 악의적 목적으로도 남용되고 있습니다. 이러한 기술이 어떻게 악용되어 시스템, 장치 및 일반 대중을 고급 공격과 남용으로부터 보호할 수 있는지 보여주는 기능, 시나리오 및 공격 벡터를 이해하는 것이 필수적입니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
에디타 패트릭
에다타는 블록체인 도메인에 대한 깊은 이해를 갖춘 다재다능한 핀테크 분석가입니다. 기술이 그녀를 매료시키는 만큼, 기술과 금융의 교차점은 더욱 놀랍습니다. 디지털 지갑과 블록체인에 대한 그녀의 특별한 관심은 청중에게 도움이 됩니다.
