- 표현의 자유를 지지하는 기업인 클라우드플레어가 Cloudflare One에서 AI 감독 기능을 출시했습니다.
- 이러한 새로운 기능으로 IT 팀은 누가 AI 를 사용하고 어떤 데이터를 공유하는지 파악할 수 있습니다.
- 여러 사람들이 Cloudflare 의 '표현의 자유'에 대한 약속을 비판했습니다.
글로벌 네트워크와 최첨단 도구를 사용하여 웹사이트 속도, 안전성 및 신뢰성을 향상시키는 미국 기업 클라우드플레어(Cloudflare)는 기업용 보안 플랫폼인 Cloudflare One에 AI 감독 기능을 구현했습니다.
이러한 새로운 기능은 IT 부서가 누가 AI를 사용하고 어떤 유형의 데이터를 공유하는지 빠르게 식별할 수 있도록 합니다. 클라우드플레어(Cloudflare)에 따르면, 이는 IT 인력이 생성형 AI 사용 방식을 '엑스레이 비전'으로 파악할 수 있는 신뢰할 수 있는 방법이며, 이는 이미 사용 가능한 대시보드에 내장되어 있습니다.
이는 여러 기관의 고용주들이 생성형 AI를 회사 운영에 도입하기 시작했다는 연구 결과 이후 나온 것입니다. 그러나 특정 직원들은 ChatGPT, Claude, Gemini과 같은 AI 챗봇에 내부 재무제표나 독점 코드를 공유하여 노출되는 문제가 발생하고 있습니다.
이로 인해 고용주들은 기술에 대한 신뢰를 잃고 있습니다. AI 챗봇에 재무 세부 정보를 공유하면 회사의 비밀이 클라우드에 노출됩니다.
블로그 게시글에서 해당 회사는 "관리자는 이제 ChatGPT에서 우리 직원들이 무엇을 하고 있는지, Claude에서 어떤 정보가 업로드되고 사용되는지, Google Workspace에서 Gemini가 올바르게 설정되어 있는지와 같은 질문에 대한 답변을 찾을 수 있습니다"라고 강조했습니다.
클라우드플레어, 민감한 정보 처리 시 무모한 행동에 대해 기업들에게 경고
AI 챗봇 사용에 대한 철저한 조사 후, 클라우드플레어 4명 중 3명의 직원이 ChatGPT, Claude 또는 Gemini를 일상 업무에 포함하고 있는 것으로발견되었습니다. 이는 특히 데이터 평가, 텍스트 편집, 디버깅, 디자인과 같은 작업에서 두드러집니다.
이러한 관행을 고려할 때, 해당 회사는 AI 사용 시 발생할 수 있는 주요 문제를 식별했습니다. 그들은 기업들의 민감한 세부 정보가 이러한 AI 챗봇에 추적 불가능하게 업로드될 수 있다고 언급했습니다. 이를 해결하기 위해 미국 기업의 제품들은 API 수준에서 작동하며 시스템 내 의심스러운 업로드를 모니터링하도록 설계되었습니다.
이러한 시나리오가 발견됨에 따라, 해당 회사는 민감한 정보를 처리할 때 무모한 행동을 피하도록 개인들에게 경고했습니다. 클라우드플레어에 따르면, 부주의한 행동은 공유된 기밀 정보를 사용한 외부 모델 학습으로 이어질 수 있으며, 이러한 정보는 나중에 영원히 사라질 수 있습니다.
Zscaler와 Palo Alto Networks와 같은 엔터프라이즈 보안 분야의 다른 주요 기업들도 AI 감독을 제공합니다. 이러한 기업들이 존재함에도 불구하고, 클라우드플레어는 Cloudflare One이 무적이라고 주장하며, 장치에 소프트웨어를 설치하지 않고도 완벽하게 작동하는 하이브리드 모델을 갖추고 있다고 강조합니다. 이 플랫폼은 또한 시스템 포지션, 구성 문제 및 데이터 노출을 모니터링하기 위한 API 스캔 기능을 갖추고 있으며, ChatGPT, Claude 및 Gemini 전반에 걸쳐 프롬프트에 대한 즉각적인 제어를 제공합니다.
한편, 클라우드플레어는 중재자가 아닌 콘텐츠 중립적 인프라 제공자로서 입지를 다져왔다는 점에 주목할 가치가 있습니다. 이를 설명하자면, 이 회사는 고객이 권한을 부여받은 경우에만 고객이 게시하는 내용을 모니터링합니다. 이러한 접근 방식은 지난 10년 동안 구현되어 왔습니다.
클라우드플레어의 CEO인 매튜 프린스는 논의 주제에 대해 의견을 밝혔습니다. 프린스에 따르면, 이 회사는 호스팅 서비스가 아니며 허용되는 콘텐츠를 선택할 권한이 없습니다. 그러나 그는 주요 초점이 관점과 관계없이 웹사이트가 가동되고 있는지 확인하는 것이라고 밝혔습니다.
클라우드플레어는 웹사이트 서비스와 관련하여 개인들로부터 비판을 받고 있습니다
클라우드플레어의 표현의 자유 입장은 비판을 불러일으켰으며, 반대자들은 이 회사가 해로운 웹사이트를 가능하게 한다고 주장합니다. 여기에는 혐오나 극단적인 콘텐츠를 가진 웹사이트도 포함됩니다. 그들은 공식적인 삭제 요청이 제출되지 않았기 때문에 그렇다고 말합니다.
이러한 Allegations는 클라우드플레어가 최상위 오보 웹사이트의 호스팅을 책임지고 있다는 점을 지적한 2022년 스탠퍼드 대학의 연구에 이어 나왔습니다.
그럼에도 불구하고, 이 회사에 대한 여러 예외가 만들어졌습니다. 예를 들어, 2017년 이 회사는 백인 우월주의 사이트인 더 데일리 스토머에 대한 서비스 제공을 중단했는데, 이는 해당 사이트가 클라우드플레어가 자신의 친나치 입장을 지지한다고 보고한 직후였습니다.
조금 후, 프린스는 이 발표를 불운한 예외로 규정했으며, 이는 그들에게서 빼앗겨 중립 정책을 위반하도록 강요당한 것이었다고 설명했습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
Nellius Irene
Nellius는 비즈니스 관리 및 IT 학사 학위를 소지하고 있으며, 암호화폐 산업에서 5 년간의 경력을 쌓았습니다. 또한 비트코인 다다 (Bitcoin Dada) 를 졸업했습니다. Nellius 는 BanklessTimes, Cryptobasic, Riseup Media 등 주요 미디어 매체에 기고한 바 있습니다.
