클라우드플레어, 숨겨진 AI의 작동 실태를 폭로하다

웹사이트 속도, 안전성 및 안정성을 향상시키기 위해 글로벌 네트워크와 최첨단 도구를 활용하는 미국 기반 기업인 클라우드플레어는 자사의 기업 보안 플랫폼인 클라우드플레어 원에 AI 기반 감독 기능을 구현했습니다.

이러한 새로운 기능은 IT 부서에서dent누가 AI를 사용하고 어떤 유형의 데이터를 기술과 공유하는지 신속하게 파악할 수 있도록 해줍니다. 클라우드플레어에 따르면, 이는 IT 담당자가 직원들이 생성형 AI를 어떻게 사용하는지 "엑스레이처럼" 파악할 수 있는 확실한 방법이며 이러한 기능은 이미 기존 대시보드에 내장되어 있습니다.

이는 여러 기관의 고용주들이 생성형 AI를 입니다. 그러나 일부 직원들이 ChatGPT, Claude, Gemini와 같은 AI 챗봇과 내부 재무제표나 독점 코드를 공유하는 사례가 드러나고 있습니다.

이러한 사실이 드러나면서 고용주들은 해당 기술에 대한 신뢰를 잃었습니다. AI 챗봇과 재무 정보를 공유하는 것은 회사의 비밀을 노출시키고, 그 정보가 클라우드에 저장되는 결과를 초래합니다.

회사 측은 블로그 게시물에서 "이제 관리자는 '직원들이 ChatGPT에서 무엇을 하고 있는가?', 'Claude에는 어떤 정보가 업로드되고 사용되고 있는가?', 'Gemini가 Google Workspace에 올바르게 설정되어 있는가?'와 같은 질문에 대한 답을 찾을 수 있습니다."라고 강조했습니다

클라우드플레어는 기업들이 민감한 정보를 다룰 때 무모한 행동을 하지 않도록 경고합니다 

AI 챗봇 사용에 대한 철저한 조사를 통해 Cloudflare는 직원 4명 중 3명이 ChatGPT, Claude 또는 Gemini를 일상 업무. 특히 데이터 평가, 텍스트 편집, 디버깅 및 디자인과 같은 작업에 많이 사용하고 있습니다. 

이러한 관행들을 고려하여, 해당 회사는 AI 사용 시 발생할 수 있는 주요 문제점을dent했습니다. 기업의 민감한 정보가trac불가능하게 AI 챗봇에 업로드될 수 있다는 점입니다. 이러한 문제를 해결하기 위해, 이 미국 기업의 제품은 API 수준에서 작동하도록 설계되어 시스템 내 의심스러운 업로드를 모니터링합니다.

이러한 시나리오가 발견됨에 따라, 해당 회사는 민감한 정보를 다룰 때 경솔한 행동을 삼가도록 개인들에게 주의를 당부했습니다. 클라우드플레어에 따르면, 부주의한 행동은 공유된dent정보를 사용하여 외부 모델 학습으로 이어질 수 있으며, 이러한 정보는 나중에 영구적으로 사라질 수도 있습니다.

Zscaler와 Palo Alto Networks 같은 기업 보안 분야의 주요 기업들도 AI 기반 보안 솔루션을 제공합니다. 이러한 경쟁 업체들이 있음에도 불구하고 Cloudflare는 Cloudflare One이 타의 추종을 불허한다고 주장하며, 기기에 소프트웨어를 설치하지 않고도 완벽하게 작동하는 하이브리드 모델을 내세웁니다. 또한, 이 플랫폼은 API 스캔 기능을 통해 시스템 상태, 구성 문제, 데이터 노출 여부를 모니터링하고 ChatGPT, Claude, Gemini 등의 도구를 통해 즉각적인 보안 메시지를 제어할 수 있도록 지원합니다.

한편, 클라우드플레어는 콘텐츠 검열 기관이 아닌 콘텐츠 중립적인 인프라 제공업체로 자리매김했다는 점에 주목할 필요가 있습니다. 다시 말해, 클라우드플레어는 고객이 게시 권한을 부여받은 콘텐츠만 모니터링합니다. 이러한 접근 방식은 지난 10년간 시행되어 왔습니다. 

클라우드플레어의 CEO인 매튜 프린스는 이 주제에 대해 자신의 의견을 밝혔습니다. 프린스에 따르면, 클라우드플레어는 호스팅 서비스 업체가 아니며 어떤 콘텐츠를 허용할지 결정할 권한이 없습니다. 하지만 그는 웹사이트의 운영이 원활하게 이루어지도록 하는 것이 클라우드플레어의 주요 목표이며, 웹사이트의 조회수와는 무관하다고 강조했습니다.

클라우드플레어는 자사 웹사이트 서비스와 관련하여 개인들로부터 비판을 받고 있습니다

클라우드플레어의 표현의 자유에 대한 입장은 비판을 불러일으켰습니다. 반대자들은 클라우드플레어가 유해한 웹사이트, 특히 증오나 극단적인 콘텐츠를 유포하는 웹사이트들을 묵인하고 있다고 주장합니다. 그들은 클라우드플레어가 공식적인 제재 해제 요청서를 제출하지 않았기 때문에 이러한 상황이 발생했다고 말합니다.

호스팅하고 있다는 점을 지적한 스탠포드 대학의 2022년 연구 결과에 따른 것입니다 가장 많은 허위 정보 웹사이트를전체 인터넷 트래픽 대비

그럼에도 불구하고, 해당 회사에 대해서는 몇 가지 예외가 적용되었습니다. 예를 들어, 2017년 클라우드플레어는 백인 우월주의 웹사이트인 데일리 스토머가 나치 옹호 입장을 지지했다고 주장한 직후, 해당 웹사이트에 대한 서비스 제공을 중단했습니다.

얼마 후 프린스는 그들의 발표를 원치 않는 예외적인 경우이며, 이는 그들이 중립 정책을 깨도록 강요받은 것이라고 해명했습니다.