AI 챗봇, “마스터키” 공격에 취약하다는 연구진 경고

획기적인 발견으로, 싱가포르의 난양기술대학교(NTU) 소속 컴퓨터 과학자 팀은 AI 챗봇의 내재된 안전 장치를 우회하는 방법을 공개했습니다. 

비공식적으로 “제일브레이크(jailbreak)”로 불리지만 공식적으로는 “마스터키(Masterkey)” 프로세스로 알려진 이 과정은 ChatGPT, Google Bard, Microsoft Bing Chat을 포함한 여러 챗봇을 사용하는 두 부분으로 구성된 훈련 방법을 사용합니다.

이 기술은 챗봇이 서로의 모델을 학습하고 금지되거나 민감한 주제에 대한 응답 제한을 우회할 수 있게 합니다. NTU 연구팀은 이 새로운 취약성의 잠재적 위험과 AI 챗봇 보안에 미치는 영향을 강조했습니다.

마스터키 프로세스: 리버스 엔지니어링 및 우회 생성

Liu Yang 교수가 이끄는 NTU 연구팀(박사 과정 학생인 Deng Gelei와 Liu Yi로 구성)은 AI 챗봇을 “제일브레이크”에 효과적으로 노출시키는 개념 증명 공격 방법을 성공적으로 고안했습니다. 

이 과정은 일반적으로 폭력적, 비도덕적 또는 악의적인 의도를 가진 프롬프트나 단어에 대한 응답을 방지하는 방어 메커니즘을 드러내기 위해 하나의 대형 언어 모델(LLM)을 리버스 엔지니어링하는 것을 포함합니다. 이 정보를 리버스 엔지니어링함으로써 연구팀은 다른 LLM에게 우회를 생성하도록 지시할 수 있으며, 이를 통해 두 번째 모델이 더 자유롭게 표현할 수 있게 됩니다.

“마스터키” 프로세스라고 불리는 이 접근 방식은 향후 LLM 챗봇이 추가 보안 조치로 강화되거나 패치되더라도 잠재적 효과성을 주장합니다. 연구팀은 이 방법이 전통적인 프롬프트 기반 접근 방식을 능가하며, LLM 챗봇을 제일브레이크하는 데 있어 성공률이 3배 더 높다고 주장합니다.

AI 챗봇: 빠르게 적응하고 학습하기

마스터키 프로세스의 주역인 Lui Yang 교수는 이 프로세스가 LLM AI 챗봇의 적응 가능성을 강조하는 데 있어 그 중요성을 강조합니다. 연구팀의 발견은 일부 비평가들이 제안한 것처럼 AI 챗봇이 시간이 지남에 따라 “더 멍청해지거나” “게으러질” 수 있다는 개념에 도전합니다. 대신 마스터키 프로세스는 챗봇 제공자와 사용자 모두에게 보안 우려를 제기할 수 있는 학습 및 진화 능력을 보여줍니다.

2022년 말 OpenAI의 ChatGPT 등장 이후로, 이러한 서비스의 안전성과 포용성을 보장하기 위한 노력이 이루어져 왔습니다. 예를 들어 OpenAI는 ChatGPT 가입 과정에서 의도치 않은 언어 오류 가능성을 인정하며 안전 경고를 구현했습니다. 동시에 다양한 챗봇 파생 제품들은 사용자 자유와 책임감 있는 사용 사이의 균형을 맞추며 특정 수준의 욕설과 공격적 언어를 허용했습니다.

그러나 AI 챗봇은 악의적 행위자들의 주목도 받았습니다. 소셜 미디어에서 이러한 제품을 홍보하는 캠페인은 종종 멀웨어가 포함된 이미지 링크와 기타 형태의 사이버 공격과 함께 진행되었습니다. AI 채택의 이러한 어두운 측면은 빠르게 드러나며, AI가 사이버 범죄에 악용될 잠재력을 보여주었습니다.

취약점 공개: NTU의 개념 증명 데이터

NTU 연구팀은 연구에 참여한 AI 챗봇 서비스 제공업체에 선제적으로 연락하여 개념 증명 데이터를 공유했습니다. 이들은 챗봇 제일브레이크의 현실성을 강조하고 잠재적인 보안 과제를 조명하는 것을 목표로 하고 있습니다. 

2월, 연구팀은 산디에고에서 열리는 네트워크 및 분산 시스템 보안 심포지엄(NETWORK AND DISTRIBUTED SYSTEM SECURITY SYMPOSIUM)에서 자신의 findings를 발표할 예정이며, 마스터키(Masterkey) 프로세스와 그 AI 챗봇 환경에 미치는 영향에 대해 더 자세히 설명할 것입니다.