사이버 범죄자들이 인공지능을 이용해 더욱 정교한 범죄 계획을 실행하고 있습니다. 그들은 은퇴 자금부터 기업 기밀까지 모든 것을 표적으로 삼고 있으며, 그들의 수법은 점점 더 탐지하기 어려워지고 있습니다.
온라인 쇼핑객에게 맞춤형 광고를 제공하는 데 사용되는 바로 그 기술이 이제 악의적인 행위자들에 의해 개인 정보를 수집하고 맞춤형 사기를 매우 빠르게 실행하는 데 사용되고 있습니다.
앤트로픽, 오픈AI, 구글과 같은 주요 AI 기업들은 범죄자들이 자사 플랫폼을 악용하여 복잡한 피싱 공격을 조직하고, 악성 소프트웨어를 개발하며, 다양한 디지털 공격을 실행하고 있다고 보고했습니다. 보안 전문가들은 범죄자들이 기업 임원의 가짜 음성 및 영상 클립을 제작하여 직원들을 속여 민감한 정보를 빼내는 수법도 사용하고 있다고 경고합니다.
기업과 정부 기관은 조만간 컴퓨터 네트워크의 취약점을 찾아내고 인간의 도움 없이 공격을 계획하고 실행할 수 있는 인공지능 기반 시스템의 떼로 인해 어려움을 겪을 수 있습니다.
기술의 발전은 범죄자들이 온라인에서 활동하는 방식을 바꾸고 있습니다.dent 기술 연구 기관인 데이터 앤 소사이어티(Data & Society)의 연구 책임자인 앨리스 마윅은 월스트리트 저널과의 인터뷰에서 가장 큰 변화는 규모와 범위에 있다고 말했습니다. "진정한 변화는 범위와 규모입니다. 사기 행각은 규모가 커지고, 더욱 표적화되었으며, 더욱 설득력 있게 변했습니다."
브라이언 싱어는 카네기 멜론 대학교 박사dent 입니다. 그는 대규모 언어 모델이 사이버 공격과 방어에 어떻게 사용되는지 연구합니다. 그의 추정에 따르면 전 세계 스팸 및 피싱 메시지의 절반에서 4분의 3이 현재 AI 시스템에서 생성됩니다.
공격 자체가 점점 더 신빙성을 띠게 되었습니다. 기업 커뮤니케이션을 기반으로 훈련된 AI 시스템은 기업의 스타일에 맞는 자연스러운 메시지를 수천 개 생성할 수 있습니다. 임원들의 글쓰기 방식을 모방하고, 공개 기록에서 발견된 최근 뉴스를 언급하기도 합니다.
이 기술은 해외 사기꾼들이 이전에는 사기 시도를 드러내는 요인이었던 언어 오류를 숨기는 데에도 도움이 됩니다. 범죄자들은 가짜 영상과 복제된 목소리를. 또한 동일한 가짜 신분을 사용하여dent여러 사람을 동시에 표적으로
존 헐트퀴스트는 구글 위협 인텔리전스 그룹의 수석 분석가입니다. 그는 이러한 변화의 핵심을 "대규모 신뢰성 확보"라고 설명합니다
악의적인 행위자들은 표적을 고르는 데에도 점점 더 능숙해지고 있습니다. 그들은 인공지능을 이용해 소셜 미디어를 샅샅이 뒤져 인생의 큰 어려움을 겪고 있는 사람들을 찾아냅니다. 이혼, 가족 사망, 실직 등 연애 사기, 투자 사기, 가짜 구인 광고에 더욱 취약해질 수 있는 상황에 처한 사람들을 노리는 것입니다.
다크 웹 시장은 진입 장벽을 낮춥니다
암시장에서는 이제 범죄 활동에 사용되는 AI 도구를 월 90달러 정도의 저렴한 가격으로 판매하거나 임대하고 있습니다. 니콜라스 크리스틴은 카네기 멜론 대학교 소프트웨어 및 사회 시스템 학과를 이끌고 있습니다.
그는 이러한 플랫폼들이 다양한 가격대와 고객 지원을 제공한다고 말했습니다. "개발자들은 단계별 가격 책정과 고객 지원을 통해 공격 플랫폼 구독 서비스를 판매합니다."
이러한 서비스는 WormGPT, FraudGPT, DarkGPT와 같은 이름으로 불립니다. 이들은 악성 소프트웨어와 피싱 캠페인을 생성할 수 있으며, 심지어 해킹 기술에 대한 교육 자료를 제공하는 경우도 있습니다.
보안 회사인 다크trac의 보안 및 AI 전략 담당dent 인 마가렛 커닝햄은 그 비결을 간단하게 설명합니다. "코딩 방법을 알 필요는 없고, 필요한 도구를 어디서 찾을 수 있는지만 알면 됩니다."
이라고 불리는 새로운 기술이 등장했습니다 vibevibevibe vibevibevibevibe vibevibe. 이 기술을 이용하면 범죄자들이 인공지능(AI)을 활용하여 악성 프로그램을 직접 제작할 수 있게 되어, 기존처럼 불법적인 경로로 프로그램을 구매하는 것을 막을 수 있습니다. 앤트로픽은 밝혔습니다 올해 초, 기술력이 부족한 범죄자들이 자사의 클로드(Claude) AI를 이용해 랜섬웨어를 제작하려는 시도를 여러 차례 차단했다고
범죄 조직 운영 방식 자체가 변화하고 있습니다. 전문가들에 따르면 사이버 범죄는 이미 수년 동안 일종의 비즈니스 시장처럼 운영되어 왔습니다. 일반적인 랜섬웨어 공격에는 여러 그룹이 관여합니다. 기업 네트워크에 침입하여 접근 권한을 판매하는 접근 브로커, 시스템에 침투하여 데이터를 훔치는 침입 팀, 그리고 악성 소프트웨어를 배포하고 협상을 진행하며 몸값을 분배하는 서비스형 랜섬웨어(RaaS) 제공업체가 있습니다.
속도와 자동화가 범죄 네트워크의 형태를 바꾸고 있다
AI는 속도, 규모 및 가용성을 향상시켰습니다. 이전에는 기술 지식을 가진 사람들이 수행했던 작업이 이제 자동화되어 처리될 수 있습니다matic이를 통해 기업은 더 적은 인력으로 더 낮은 위험을 감수하며 더 높은 수익을 창출할 수 있습니다. 크리스틴은 "AI를 차세대 산업화라고 생각하면 됩니다. AI는 숙련된 노동력을 더 많이 필요로 하지 않으면서 처리량을 증가시킵니다."라고 설명합니다.
인공지능이 완전히 스스로 공격을 감행할 수 있을까요? 아직은 아닙니다. 전문가들은 이 상황을 완전 자율주행차 개발에 비유합니다. 95%는 달성했지만, 자동차가 언제 어디서든 스스로 주행할 수 있게 되는 마지막 단계는 여전히 요원한 일입니다.
연구원들은 실험실 환경에서 AI의 해킹 능력을 테스트하고 있습니다. 카네기멜론 대학교의 한 연구팀은 앤트로픽의 지원을 받아 재현했습니다 . 카네기멜론 대학교의 사이랩 보안 및 개인정보보호 연구소에서 이 연구를 이끈 싱어 교수는 이를 "큰 도약"이라고 평가했습니다.
범죄자들은 인공지능을 악용하고 있습니다. 하지만 인공지능 기업들은 이러한 도구들이 기업들의 디지털 방어력 강화에도 도움이 될 수 있다고 주장합니다.
Anthropic과 OpenAI는 범죄자들이 악용할 수 있는 취약점을 찾아내기 위해 소프트웨어 코드를 지속적으로 검사하는 AI 시스템을 개발하고 있습니다. 하지만 수정 사항은 여전히 사람의 승인을 거쳐야 합니다. 스탠포드 연구진이 개발한 최근의 AI 프로그램은 네트워크 보안 문제를 찾는 데 있어 일부 인간 테스터보다 더 나은 성능을 보였습니다.
AI조차도 모든 침해를 막을 수는 없습니다. 그렇기 때문에 조직은 공격 중에도 계속 작동하는 강력한 네트워크를 구축하는 데 집중해야 한다고 헐트퀴스트는 말합니다.
