사이버 보안의 생성형 AI: 양날의 검

사이버 보안에서 생성형 인공지능(AI)의 채택은 사이버 위협과의 지속적인 전투에서 실무자들에게 중요한 도구가 되었습니다. 이 혁신적인 기술은 뚜렷한 이점을 제공하지만, 악의적 행위자들이 공격을 강화하기 위해 그 힘을 점점 더 많이 활용함에 따라 새로운 도전과제도 제시합니다.

국가안보국(NSA)의 사이버 보안 책임자 로브 조이스는 최근 생성형 AI가 악의적인 활동을 식별하고 대응하는 데 가져오는 상당한 이점을 강조했습니다. 그러나 그는 사이버 범죄자들이 이를 오용하는 것에 대한 우려가 커지고 있는 것도 인정했습니다.

선한 힘: 사이버 보안 강화

뉴욕 포덤 대학교에서 열린 행사에서 로브 조이스는 생성형 AI가 사이버 보안 노력을 강화하는 데 긍정적인 영향을 미친다고 열정적으로 언급했다. 그는 생성형 AI가 “악의적인 활동을 찾는 능력을 향상시킨다”고 밝혔다. 이 기술은 보안 담당자에게 혁신적인 도구와 방법론을 제공하여 사이버 위협을 더 효과적으로 탐지하고 완화할 수 있도록 지원한다.

생성형 AI의 사이버 보안 분야 주요 이점 중 하나는 취약점 악용을 통해 안전한 계정으로 위장하며 네트워크에 잠입하는 위협 행위자를 대응하는 능력이다. 이러한 위장 계정은 비정상적인 행동 패턴을 보이며, 이는 수동적으로 식별하기 어려운 경우가 많다. 생성형 AI와 대규모 언어 모델(LLM)은 사이버 보안 팀이 이러한 의심스러운 활동을 집계하고 분석하여 악의적인 의도를 더 빠르게 파악하는 데 도움을 준다.

증가하는 우려: 사이버 범죄자의 오용

생성형 AI는 사이버 보안을 강화할 수 있는 큰 잠재력을 지니고 있지만, 사이버 범죄자에 의한 오용으로 인해 경보가 울리기도 했다. 지난 1년 동안 악의적인 행위자들은 생성형 AI 도구를 사용하여 사기 행위와 스캠을 증폭시키는 데 점점 더 많이 활용해 왔다. 이러한 첨단 기술은 그들이 매우 개인화되고 강력한 사회공학적 공격을 수행할 수 있게 해준다.

저명한 사이버 보안 기업인 맨다이트(Mandiant)는 전년도에 성명을 발표하며, 생성형 AI가 위협 행위자에게 전례 없는 정교함으로 새로운 파도의 사회공학적 공격을 수행할 수 있는 힘을 줄 수 있다고 경고했다. 

이러한 AI 지원 피싱 공격은 가장 경계심 강한 사용자조차 속일 수 있도록 정교하게 조정될 수 있어 개인과 조직에 상당한 위협이 된다. 이러한 우려는 2023년 내내 다양한 보안 전문가들 사이에서도 제기되었다.

또한, 다크트레이크가 수행한 연구는 AI 기반 피싱 공격에 대한 우려를 제기했습니다. 해커들이 생성형 AI을 지속적으로 활용하여 기술을 정교하게 만들어 사용자가 합법적인 통신과 악의적인 의도를 구분하는 것이 점점 더 어려워질 것이라는 우려가 있습니다.

양날의 검: 영향력 평가

로브 조이스는 사이버 범죄에서 생성형 AI의 오용에 대한 우려가 타당하다고 인정했다. 그러나 그는 국가 안보 기관들이 이러한 도구를 효과적으로 활용하는 데 상당한 진전을 이루었다고도 강조했다. 그는 사이버 보안 전문가들이 악의적인 행위자들이 악용하는 것과 동일한 수준으로 생성형 AI를 활용하여 위협에 대응하고 중요한 자산을 보호한다고 지적했다.

조이스는 생성형 AI를 모든 사이버 보안 문제의 만병통치약으로 보는 것을 경계하며, “부족한 사람을 유능하게 만들어 줄 수 있는 슈퍼 도구는 아니다”라고 말했다. 그럼에도 불구하고 그는 생성형 AI가 이를 활용하는 사람들의 역량을 강화하여 사이버 방어와 공격 모두에서 더 효과적이고 잠재적으로 더 위험하게 만든다고 강조했다.