사이버 보안의 AI: 취약성 감지에 있어 혼합된 결과

NCC Group이 최근 발표한 보고서에서는 인공지능(AI)과 사이버 보안의 교차점이 조사되었으며, 코드 취약성 감지 맥락에서 생성형 AI의 약속과 한계에 대해 조명했다. “Safety, Security, Privacy & Prompts: Cyber Resilience in the Age of Artificial Intelligence”라는 제목의 보고서는 다양한 AI 사이버 보안 사용 사례에 대한 포괄적인 분석을 제공한다.

생성형 AI 및 코드 취약성

2022년 말 생성형 AI 기술의 폭발적인 성장은 사이버 보안에 대한 함의에 대한 논의와 우려를 불러일으켰다. 이 담론의 초점 중 하나는 생성형 AI 챗봇이 제기할 수 있는 잠재적 보안 위험에 관한 것이다. 이러한 위험은 민감한 비즈니스 정보의 우발적 노출부터 악의적 행위자가 이러한 고급 자기 학습 알고리즘을 악용하여 사이버 공격을 강화할 가능성까지 다양하다.

보고서 내 주요 관심 분야 중 하나는 생성형 AI 챗봇을 코드 취약성 평가에 사용하는 타당성이다. 이러한 AI 시스템은 소스 코드를 제공받을 때 정적 분석의 상호작용 형태를 수행하고 보안 약점을 정확하게 찾아낼 수 있는가? 보고서의 발견은 혼합된 결과를 보여준다. 생성형 AI는 코드 및 소프트웨어 개발에서 유망함과 생산성 향상을 보여주지만, 코드 취약성 감지에서의 효과성은 변동적이다.

반면에 보고서는 사이버 보안 영역에서 머신러닝(ML) 모델의 유망한 응용 분야를 강조한다. 구체적으로, ML 모델은 새로운 제로데이 공격을 식별하는 데 중요한 역할을 할 수 있으며, 악의적인 파일로부터 사용자를 보호하기 위한 자동화된 응답을 가능하게 한다. 이 개념을 검증하기 위해 NCC Group은 University College London의 데이터 집중 과학 박사 과정 센터(CDT DIS)의 대학원생에게 악성 코드를 식별하기 위한 분류 모델을 개발하도록 후원했다.

이 노력의 결과는 설득력 있다. 분류 모델은 98.9%의 인상적인 정확도율을 달성했다. 이 성공은 ML 모델이新興 위협을 신속하게 식별하고 완화함으로써 사이버 보안 방어력을 강화할 잠재력을 강조한다.

AI를 활용한 위협 인텔리전스 활용

보고서에서 탐구된 또 다른 중요한 측면은 사전적 사이버 보안의 핵심 구성 요소인 위협 인텔리전스이다. 위협 인텔리전스는 새로 식별된 취약점, 진화하는 익스플로잇 및 공격자 행동의 새로운 트렌드에 대한 귀중한 통찰력을 제공하는 다양한 온라인 데이터 소스의 지속적인 모니터링을 포함한다. 이 데이터는 종종 포럼, 소셜 미디어 및 다크 웹에서 비정형 텍스트 형태로 제공되며, 정보의 보고일 수 있다.

머신러닝 모델은 이 데이터를 처리하고, 주요 사이버 보안 뉘앙스를 추출하며, 공격자 전술, 기술 및 절차(TTP)의 패턴과 트렌드를 식별하는 데 중요한 역할을 할 수 있다. 이러한 통찰력을 바탕으로 방어자는 추가 모니터링 또는 제어 시스템을 구현하기 위해 적극적이고 선제적인 접근 방식을 취할 수 있으며, 특히 새로운 위협이 비즈니스나 기술 환경에 상당한 위험을 초래할 때 그렇다.

급속한 기술 발전으로 특징지어지는 시대에 사이버 보안에서 AI의 역할은 계속 진화하고 있다. 생성형 AI 챗봇은 코드 개발의 특정 측면에서 유망함을 제공하지만, 취약성 감지에 대한 신뢰성은 지속적인 탐색의 문제이다. 반면, ML 모델은 새로운 사이버 위협을 식별하고 대응하는 데 높은 수준의 잠재력을 보여주며, 방어자의 무기고에서 가치 있는 자산이 되고 있다.

사이버 보안의 AI가 만능 해결책이 아니라는 점을 인정하는 것이 중요하다. 오히려 그것은 인간의 전문성과 경각심을 보완한다. 인간 사이버 보안 전문가와 AI 시스템 간의 파트너십은 자동화의 힘을 활용하고 끊임없이 진화하는 위협 환경을 탐색하는 데 필요한 중요한 인간 감독을 유지하는 균형을 맞추기 위해 필수적이다.