- 연구자들이 민감한 정보를 포함한 학습 데이터를 노출시키는 방법을 발견하며 데이터 보안에 대한 우려가 제기되었습니다.
- OpenAI는 한 가지 공격 방법을 패치했지만, AI 모델에는 여전히 악용될 수 있는 숨겨진 취약점이 존재합니다.
- 이번 발견은 민감한 데이터를 보호하기 위해 AI 언어 모델을 안전하게 관리하는 것이 얼마나 중요한지를 강조합니다.
최근 연구자들은 OpenAI의 ChatGPT의 취약점을 발견하여 훈련 데이터 유출과 관련된 우려를 제기했습니다. '조금 어리석지만' 그럼에도 불구하고 중요한 것으로 묘사된 이 공격 방법은 이메일 주소와 전화번호와 같은 민감한 정보를 포함하여 훈련 데이터를 드러내도록 ChatGPT를 조작하는 것을 포함했습니다.
ChatGPT의 취약점 이용
연구진의 방법은 ChatGPT에게 'company'라는 단어를 무한히 반복하라는 지시를 포함했습니다. 초기에는 AI가 지시대로 단어를 반복했습니다. 그러나 잠시 후 ChatGPT는 훈련 세트의 데이터 조각을 포함하기 시작했습니다. 이 데이터에는 이메일 주소, 전화번호 및 기타 고유 식별자와 같은 민감한 정보가 포함될 수 있습니다.
추가 조사를 통해 연구진은 ChatGPT가 제공한 정보가 실제로 그 훈련 데이터에서 유래되었음을 확인했습니다. ChatGPT는 훈련 데이터를 기반으로 응답을 생성해야 하지만, 실제 훈련 데이터의 전체 단락을 공개해서는 안 됩니다.
ChatGPT의 훈련 데이터는 공개 인터넷에서 출처를 얻지만, 전화번호와 이메일과 같은 정보의 노출은 우려를 제기합니다. 이러한 유형의 데이터는 공개적 성격으로 인해 큰 문제가 되지 않을 수 있지만, 훈련 데이터의 유출은 더 넓은 영향을 미칠 수 있습니다. 연구진은 우려의 정도가 데이터의 민감성, 독창성 및 구성에 따라 달라진다고 강조합니다. 이 취약점은 ChatGPT에 의존하는 제품의 개발에 잠재적으로 영향을 미칠 수 있습니다.
취약점의 범위
취약점의 범위를 조사하기 위해, 연구진은 약 $200를 투자하여 그들의 방법을 사용하여 수 메가바이트의 훈련 데이터를 추출했습니다. 그들은 더 많은 자원이 있었다면 약 1기가바이트의 훈련 데이터를 추출할 수 있었을 것이라고 믿습니다. 이는 방치될 경우 데이터 추출의 잠재적 규모에 대한 우려를 제기합니다.
OpenAI는 취약점에 대해 인지했으며, '단어 반복 프롬프트 익스플로잇'으로 알려진 특정 공격 방법을 해결하기 위한 조치를 취했습니다. 그러나 연구진은 이 패치가 ChatGPT의 근본적인 취약점을 완전히 해결하지 못할 수 있다고 경고합니다.
그들은 AI 언어 모델이 분산에 취약하며 훈련 데이터를 기억할 수 있는 능력을 가지고 있다고 설명합니다. 이는 이해하고 패치하는 것이 더 복잡합니다. 결과적으로, 아직 발견되지 않은 다른 익스플로잇들이 이러한 취약점을 다른 방식으로 악용할 위험이 여전히 존재합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
데릭 클린턴
데릭은 블록체인과 암호화폐에 관심이 있는 프리랜서 작가입니다. 그는 주로 암호화폐 프로젝트의 문제와 해결책을 다루며 투자 관점을 제시합니다. 그의 분석 역량을 논문 작성에 활용하고 있습니다.
