기업이 생성형 AI 를 활용하여 ChatGPT 유출로부터 어떻게 방어하는가

작성자

아미르 셰이크 2분 읽기 게시됨 13월 2024일

기업은 ChatGPT를 통해 40%의 성능 향상을 경험하지만, 이 도구는 의도치 않은 데이터 유출 위험을 초래합니다.
Ericom Security와 Nightfall AI와 같은 생성형 AI 기반 솔루션이 ChatGPT 유출 방지를 위해 주목받고 있습니다.
CIO와 CISO는 혁신과 보안의 균형을 맞추는 지식 기반 접근 방식을 지지하며, 이를 통해 생성형 AI를 경쟁 우위로 전환해야 한다고 강조합니다.

급속히 진화하는 인공지능 지형에서 ChatGPT는 기업들에게 양날의 검으로 부상했습니다. 놀라운 40%의 성능 부상을 제공하면서도 의도하지 않은 데이터 유출의 상당한 리스크를 도입합니다. 이 예기치 않은 도전은 IT 및 사이버 보안 리더들이 생성형 AI의 힘을 활용하면서 잠재적 침해로부터 보호하는 데 초점을 맞춰 혁신적인 솔루션을 모색하도록 했습니다. 500대 기업 중 80% 이상이 참여하는 기업 채택의 증가는 전략적이고 효과적인 대응의 시급성을 강조합니다.

ChatGPT의 침투 및 지적 재산권 보호를 위한 전투

실제 뉴스는 ChatGPT가 그림자 IT의 새로운 DNA가 되면서 기업이 직면하는 취약성에 있습니다. 최근 하버드 대학의 연구는 40%의 상당한 성능 부상을 확인하는 반면, MIT는 ChatGPT가 기술 불평등을 줄이고 문서 작성 시간을 가속화하는 방법을 강조합니다. 그러나 근로자의 70%가 상사에게 알리지 않는 도구 사용 공개에 대한 저항은 ChatGPT의 직장 통합이 비밀리에 이루어짐을 강조합니다.

ChatGPT와 관련된 주요 리스크는 누구나 접근할 수 있는 대형 언어 모델에 지적 재산권, 기밀 가격, 재무 분석 및 HR 데이터를 우발적으로 공유하는 것입니다. 이 우려는 Samsung의 기밀 데이터 우발 공개 사건 이후 더욱 현실적입니다. 이 리스크를 완화하기 위해 기업들은 데이터 유출을 방지하기 위해 ChatGPT 세션을 격리하는 데 초점을 맞춘 생성형 AI 기반 접근 방식으로 점점 더 많이 전환하고 있습니다.

생성형 AI 솔루션 심층 분석

Cradlepoint의 생성형 AI 격리 – National Oilwell Varco(NOV)의 CIO인 Alex Philips는 ChatGPT의 장점과 리스크에 대해 이사회를 교육하는 것의 중요성을 강조했습니다. NOV의 지속적인 교육 과정은 기대치를 설정하고 유출을 방지하기 위한 가드레일을 구현하는 모델로 작용합니다. Cradlepoint의 Generative AI Isolation과 같은 주목할 만한 기술은 Ericom Cloud Platform에서 가상 브라우저 내에서 상호작용을 실행하는 클라이언트리스 접근 방식을 제공합니다. 이 설계는 민감한 데이터가 생성형 AI 사이트에 제출되는 것을 방지하고 클라우드 아키텍처를 통해 최소 특권 접근을 보장하는 것을 목표로 합니다.

Nightfall AI의 포괄적인 솔루션 – Nightfall AI는 Nightfall for ChatGPT, Nightfall for LLMs, Nightfall for SaaS의 세 가지 솔루션을 제공하여 기밀 데이터를 보호합니다. 그들의 브라우저 기반 솔루션은 실시간으로 민감한 데이터를 스캔하고 redact하며, API는 대형 언어 모델 훈련에 사용되는 데이터를 감지하고 redact합니다. Nightfall for SaaS는 다양한 클라우드 서비스에서 정보 노출을 방지하기 위해 인기 있는 애플리케이션과 통합됩니다. 이 데이터 보안 플랫폼은 공개 도메인 생성형 AI 시스템 전반에 걸쳐 민감한 데이터를 보호하는 데 효과적인 것으로 입증되었습니다.

Gen AI가 지식의 미래를 형성합니다

도전에도 불구하고 Gen AI는 기업들이 기다려온 지식 엔진입니다. ChatGPT를 금지하는 것은 통제가 없는 상태에서 그림자 AI가 번성했듯이 역효과를 낳았습니다. CIO와 CISO들은 지식 기반 접근 방식을 옹호하며, 브라우저 수준에서 리스크를 제거하기 위해 gen AI 기반 시스템을 시범 운영하고 통합하고 있습니다. Cradlepoint Ericom이 보여주는 이러한 전략적 채택은 조직이 우발적 데이터 공유로부터 보호하며 수천 명의 직원을 보호하는 데 필요한 규모를 제공합니다.

Gen AI가 지식의 미래를 정의함에 따라, 기업들은 혁신과 보안 사이의 미묘한 균형을 맞춰야 합니다. 목표는 빠른 혁신 속도를 경쟁 우위로 전환하는 것입니다. CISO 및 보안 팀은 최신 기술에 대한 최신 상태를 유지하고, 기밀성을 보장하며, PII를 보호하고, 특허 기반 데이터를 보호하는 데 중추적인 역할을 합니다. 이 균형에 도달하기 위한 여정은 기업이 생성형 AI의 관련 리스크를 선제적으로 해결하면서 그 unparalleled 생산성 향상을 활용하는 방법을 어떻게 할 수 있는지라는 중요한 질문을 제기합니다?

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.