북한, 이란, 중국 그룹이 악성 코드 및 악의적 활동에서 AI 사용으로 지목

Google의 Threat Analysis Group (GTAG)의 새로운 보고서는 북한, 이란, 중국의 국가 지원 해커들이 인공 지능 (AI) 도구, 이 경우 Google의 Gemini를 사용하여 사이버 공격을 적극적으로 실험하고 최적화하고 있음을 보여주었습니다. 

Google은 여러 국가 관련 그룹이 정찰, 사회 공학, 악성 코드 개발 및

보고서는 새로우고 정교한 AI 기반 공격의 증거를 발견했습니다. 생성형 AI가 공격자들이 더 빠르고 정밀하게 작업할 수 있도록 도와 악의적인 작업의 기술적 장벽을 낮추고 있다고 경고했습니다.

이 보고서는 마이크로소프트와 오픈AI의 유사한 경고에 기반하며, 이들은 동일한 국가 지원 행위자 3개 그룹의 비교 가능한 실험을 공표했습니다.

또한 Claude AI의 모회사인 Anthropic은 AI를 공격에 사용하는 것을 탐지하고 대응하는 방법에 대한 보고서를 발표했으며, 북한과 연관된 그룹이 보고서에 등장한 주요 악성 행위자였습니다.

북한 국가 행위자들이 AI로 전환

최신 위협 인텔리전스 업데이트에서 Google은 TEMP.Zagros(또는 MuddyWater로 알려짐)라는 이란 그룹이 Gemini를 사용하여 학술 연구로 위장한 악성 코드를 생성하고 디버깅하는 방법을 상세히 설명했으며, 최종 목표는 맞춤형 멀웨어를 개발하는 것이었습니다.

이 과정에서 Google이 인프라의 일부를 차단할 수 있도록 주요 운영 세부 정보를 우연히 노출했습니다.

중국과 연결된 행위자들은 Gemini를 사용하여 피싱 유인을 개선하고, 표적 네트워크에 대한 정찰을 수행하며, 침해된 시스템 내부에서 수평 이동 기술을 연구하는 데 사용했습니다. 일부 경우, 그들은 Gemini를 오용하여 클라우드 인프라, Kubernetes, vSphere와 같은 친숙하지 않은 환경을 탐색하여 기술적 도달 범위를 확장하려는 시도를 보였습니다.

북한 운영자들은Meanwhile 정찰 및 피싱 캠페인을 강화하기 위해 AI 도구를 탐색하는 것으로 관찰되었습니다. 사회 공학을 활용한 암호화폐 절도 캠페인 역할로 알려진 한 북한 위협 그룹은 Gemini를 사용하여 암호화폐를 훔칠 수 있는 코드를 작성하려고 시도하기도 했습니다.

Google은 이러한 공격을 완화하고 관련 계정을 차단했습니다.

사이버 방어의 새로운 전선

Anthropic의 보고서는 2025년 8월에 발표되었으며 국가 지원 행위자의 AI 오용에 대한 추가 증거를 제공합니다. 이 회사는 북한 요원들이 구직을 원하는 원격 소프트웨어 개발자로 가장하기 위해 자체 Claude 모델을 사용했음을 발견했습니다.

그들은 reportedly 해외에서 프리랜서 계약을 확보하기 위해 Claude를 사용하여 이력서, 코드 샘플, 기술 면접 답변을 생성한 것으로 보고되었습니다.

Anthropic의 발견은 AI를 사용하여 직업을 얻는 사기 행위가 드러났으며, 이는 채용 조직에서 더 큰 해킹 작전으로 이어질 수 있었지만, Google의 결론과도 일치합니다. 즉, 나쁜 행위자들이 추가적인 이점을 얻기 위해 AI 도구를 체계적으로 테스트하고 있다는 것입니다.

이러한 발견은 글로벌 사이버 보안 커뮤니티에게 새로운 골칫거리입니다. AI 모델과 애플리케이션을 강력한 생산성 도구로 만드는 동일한 기능이 해로운 도구를 만드는 데에도 사용되고 있으며, 보고서가 보여주듯 더 많은 진전이 이루어질수록 공격자들은 적응하고 공격은 더 정교해질 것입니다.

정부와 기술 기업들이 대응을 시작했으며, 이러한 행동을 완화하기 위해 모든 이해관계자 간의 지속적인 협력이 앞으로의 방향이 될 것입니다.