AI 도입으로 새로운 사이버 보안 위협이 드러나고 있다

사이버 보안 전문가는 AI가 범죄자의 공격 실행뿐만 아니라 합법적인 서비스로 사용하는 기업에게도 안전하지 않은 사이버 보안 위협이라고 밝혔습니다.

AI의 사이버 취약성

AI를 이용해 공격을 감행하는 악의적인 행위자들에 대한 위협이 널리 논의되고 있는 가운데, AI에 대한 사이버 보안을 전문으로 제공하는 Midgard의 CEO 겸 CTO인 피터 가라간은 "제가 염두에 두고 있는 문제는 이 주제와 관련된 AI에 대한 사이버 보안 위협입니다."라고 말했습니다.

예상대로, 기업에서 AI를 가장 흔하게 사용하면서 위험에 노출되는 분야는 고객 서비스 역할을 하는 챗봇입니다. 챗봇의 어조와 데이터는 일반적으로 각 기업에 맞춰 조정됩니다. 랭커스터 대학교에서 AI 보안 및 시스템을 전문으로 하는 컴퓨터 과학 교수인 개러건 박사는 2022년 마인드가드를 찾기로 결정했습니다. 그는 "AI는 마법이 아닙니다."라고 말합니다. 단순히 추가적인 코딩, 데이터, 하드웨어의 조합일 뿐입니다. 현대의 사이버 위협을 고려할 때, 이러한 모든 위협은 AI에서도 나타날 수 있습니다.

이렇게 생각해 봅시다. 공격자가 SQL 인젝션이라는 프로세스를 사용한다고 가정해 보겠습니다. 공격자는 이 프로세스를 사용하여 웹사이트 로그인이나 문의 양식과 같은 웹 양식 필드의 취약점을 악용할 수 있습니다. 텔레프롬프터 수집을 활용할 수 있는 또 다른 방법은 공개 애플리케이션에서 사용되는 프롬프트 인젝션입니다. 무엇보다도, 보안이 제대로 보장되지 않으면 AI 도구는 소스 코드와 명령어, 회사 IP 또는 고객 데이터를 유출하도록 사실상 마구잡이로 조작될 수 있습니다. 둘째, AI 도구는 다른 소프트웨어 애플리케이션처럼 역공학을 통해 취약점을dent수 있습니다.

AI 시스템 보안 강화

가라한은 문제의 심각성에 대해 이렇게 말합니다. "예상되는 미래, 몇 년 안에 국가 안보 문제가 대두되거나, 소외된 사람들이 위험에 처할 수도 있습니다." 새로운 정보는 경고처럼 들립니다. 기업은 공개된 데이터에 주의해야 합니다.

개러건은 "더욱이 AI는 데이터 유출을 통해 사이버 공격 도구로 악용될 수 있으며, 모델은 사용자가 요청한 데이터를 제공할 수 있을 것"이라고 말합니다. 그는 지난 1월, 우익 성향의 소셜 미디어 플랫폼인 Gab이 튜토리얼을 찾다가 실수로 자신들의 사용법을 노출시킨 사례를 언급했습니다dentGPT 기반 플랫폼인 OpenAI 역시 이전에 모델이 오용된 사례가 있었습니다.

가라한은 무단 VoIP 공격을 통해 정보를 얻을 수 있다고 주장합니다. 또한 AI는 역공학이 가능하며, 시스템을 우회하거나 속여 다른 시스템에 접근할 수 있도록 할 수도 있습니다. 따라서 정보 유출은 내외부적으로 영향을 받는 산업을 포함하여 모든 산업에서 주요 문제 중 하나가 될 수 있습니다. 그는 또한 모델 회피와 같은 다른 위험도 언급하는데, 이는 모델을 오도하거나 허위 데이터를 조작하여 의도적으로 회피하는 것입니다.

가라한은 악의적인 명령을 삽입하거나 잘못 고안된 솔루션으로 데이터를 오염시키는 것도 또 다른 위협이라고 지적했습니다. 또한, 그는 trac공격 후 일반적으로 발생하는 평판 손상이라는 일반적인 사이버 피해에 주목합니다. 마찬가지로, 이러한 사이버 공격의 부정적인 결과를 가장 크게 입을 위험이 있는 분야는 위험도가 가장 높습니다. 많은 산업과 기관이 온라인으로 운영되는 상황에서, 공공 안전과dent정보 유출 방지는 금융 서비스 및 의료 분야가 우선시해야 할 중요한 가치입니다.

Garraghan은 이렇게 말합니다. "여기서 중요한 점은 업계에서 더 체계적이고 통제적인 자세를 가질수록, 그리고 AI로 인해 직면하는 위험이 클수록(그리고 경험상 더 그렇습니다. AI를 덜 사용할수록 도입도 줄어듭니다) AI는 더 나빠진다는 것입니다. 어쩌면 그들이 게으른 사람들이 아닐 수도 있습니다. 예를 들어, 그들은 단지 인생에서 가장 심각한 시기를 겪고 있을 수도 있습니다."

선제적 AI 보안 조치

AI는 특정 기업의 위험을 관리해 줄 것이지만, 사용자 보호를 위해서는 여러 겹의 보안 계층이 필요하다고 그는 말합니다(비즈니스에서 AI를 사용하는 데 이미 보안 계층이 필요하기 때문입니다). "이미 다양한 분야에 특화된 사이버 보안 도구들이 있습니다."라고 개러건은 말합니다. "이러한 도구에는 보안 태세 관리 도구, 탐지 및 대응 도구, 방화벽, 그리고 코드 스캐닝과 같은 시프트 레프트 설계 지원 등이 포함될 수 있습니다. 디지털 전환에 발맞춰 곧 AI가 ." 이 분야는 AI와 머신러닝에만 집중하고 있으며, 신경망과 같은 시스템은 간헐적으로만 언급됩니다.

신경망 애플리케이션 스캐너, 모든 유형의 신경망에 대한 대응 시스템, 보안 테스트, 그리고 앱 간 제어를 강화하기 위한 레드팀 구성, 그리고 모든 유형의 신경망에 대한 대응 시스템이 필요합니다. 런타임 문제보다 조기에 문제를 해결하고 해결하는 것이 더 쉽습니다. 하지만 AI 모델이나 구매한 AI 애플리케이션 및 서비스를 사용하는 조직에 권장하는 모범 사례는 프로덕션 환경에 적용하기 전에 모델의 모든 문제를 해결하는 것이 더 쉽다는 것입니다. 그러면 프로덕션 환경에 적용한 후에는 수정이 필요한 문제만dent수 있습니다.