Cloudflare, 엣지 컴퓨팅에 AI를 도입하는 데 앞장서다

클라우드플레어는 콘텐츠 전송 네트워크(CDN) 및 클라우드 보안 플랫폼 분야에서 명성이 높은 기업으로, 전 세계 개발자들이 인공지능(AI)에 쉽게 접근할 수 있도록 지원하는 것을 목표로 합니다. 클라우드플레어는 GPU 기반 인프라와 모델 제공 기능을 도입하고, 엣지 네트워크를 활용하여 최첨단 기반 모델을 대중에게 제공합니다. 간단한 REST API 호출만으로 모든 개발자가 클라우드플레어의 AI 플랫폼을 이용할 수 있게 되어 AI의 민주화를 향한 중요한 발걸음을 내딛었습니다.

클라우드플레어 엣지 네트워크의 진화

2017년, 클라우드플레어는 엣지 컴퓨팅 플랫폼인 워커(Workers)를 출시했습니다. 이 혁신적인 플랫폼을 통해 개발자는 전 세계 클라우드플레어 엣지 로케이션에서 직접 실행되는 자바스크립트 서비스 워커를 생성할 수 있습니다. 워커를 사용하면 개발자는 웹사이트의 HTTP 요청 및 응답을 수정하고, 병렬 요청을 처리하며, 엣지에서 직접 응답할 수 있습니다. 이러한 접근 방식은 웹 개발을 간소화하고 성능을 향상시키며, W3C 서비스 워커 표준을 준수합니다.

Cloudflare 워커와의 AI 통합

생성형 AI의 부상으로 인해 Cloudflare는 Worker 플랫폼에 AI 기능을 추가했습니다. Cloudflare의 AI 통합은 세 가지 핵심 요소로 구성됩니다

1. Workers AI: 이 구성 요소는 Cloudflare의 글로벌 네트워크 내 NVIDIA GPU에서 작동하여 서버리스 AI 모델을 구현합니다. 사용량 기반 요금제를 통해 사용자는 인프라 관리 대신 애플리케이션 개발에 집중할 수 있으므로 AI를 더욱 쉽게 접근하고 비용 효율적으로 활용할 수 있습니다.

2. Vectorize: Cloudflare의 벡터 데이터베이스인 Vectorize는 빠르고 비용 효율적인 벡터 인덱싱 및 스토리지를 제공합니다. 운영 모델 및 맞춤형 데이터에 대한 접근이 필요한 사용 사례를 지원하여 AI 애플리케이션의 활용도를 높여줍니다.

3. AI 게이트웨이: AI 게이트웨이는 조직이 호스팅 환경 전반에 걸쳐 AI 배포를 캐싱, 속도 제한 및 모니터링할 수 있도록 지원합니다. 이를 통해 관찰 가능성, 속도 제한 및 캐싱 기능을 향상시켜 비용을 절감하고 애플리케이션 성능을 최적화할 수 있습니다.

전략적 파트너십 및 모델 카탈로그

Cloudflare는 NVIDIA, Microsoft, Hugging Face, Databricks, Meta 등 업계 선두 기업들과 전략적 파트너십을 구축하여 GPU 인프라와 기반 모델을 엣지 네트워크에 제공합니다. 또한, 이 플랫폼은 텍스트를 벡터로 변환하는 임베딩 모델을 호스팅합니다. 이러한 벡터는 Vectorize를 사용하여 저장, 인덱싱 및 쿼리되며, 대규모 언어 모델(LLM)에 컨텍스트를 추가하고 응답 오류를 줄입니다. AI 게이트웨이는 자주 쿼리되는 AI 모델에 대한 관찰 가능성, 속도 제한 및 캐싱을 제공하여 성능을 향상시킵니다.

Cloudflare의 Workers AI용 모델 카탈로그는 최신 및 가장 진보된 기반 모델을 자랑합니다. Meta의 Llama 2부터 Stable Diffusion XL, Mistral 7B에 이르기까지 개발자는 생성형 AI 기반의 최신 애플리케이션을 구축하는 데 필요한 포괄적인 도구 모음을 이용할 수 있습니다.

ONNX 런타임을 이용한 AI 모델 최적화

클라우드플레어는 내부적으로 마이크로소프트가 주도하는 개방형 신경망 교환 런타임인 ONNX 런타임을 활용하여 리소스가 제한된 환경에서 모델 실행을 최적화합니다. 마이크로소프트가 윈도우에서 기본 모델을 실행하는 데에도 사용하는 이 기술은 다양한 환경에서 효율적인 AI 배포를 보장합니다.

개발자는 Cloudflare를 통해 애플리케이션에 AI를 통합할 수 있는 다양한 옵션을 활용할 수 있습니다. JavaScript를 사용하여 AI 추론 코드를 작성하고 Cloudflare의 엣지 네트워크에 배포할 수 있을 뿐만 아니라, 원하는 프로그래밍 언어를 사용하여 간단한 REST API를 통해 AI 모델을 호출할 수도 있습니다. 이러한 유연성 덕분에 웹, 데스크톱, 모바일 애플리케이션 등 어떤 환경에서든 생성형 AI를 손쉽게 접목할 수 있습니다.

전 세계적으로 근로자 AI 확대

2023년 9월, 클라우드플레어는 7개 도시에서 추론 기능을 갖춘 Workers AI를 출시했습니다. 하지만 클라우드플레어는 연말까지 100개 도시로 Workers AI 추론 기능을 확대하고, 2024년 말까지 거의 모든 지역에서 서비스를 제공하겠다는 야심찬 목표를 세웠습니다. 이러한 빠른 확장을 통해 전 세계 개발자들이 엣지 컴퓨팅 환경에서 AI의 강력한 기능을 활용할 수 있게 될 것입니다.

클라우드플레어는 GPU 기반 워커스 AI, 벡터라이즈, AI 게이트웨이를 활용하여 AI 기능을 엣지 네트워크에 적용한 최초의 콘텐츠 전송 네트워크(CDN) 및 엣지 네트워크 제공업체 중 하나입니다. 메타(Meta) 및 마이크로소프트(Microsoft)와 같은 기술 대기업과의 협력을 통해 클라우드플레어는 다양한 모델 카탈로그를 제공하고 ONNX 런타임을 활용하여 최적화를 구현합니다. 이러한 전략적 행보는 클라우드플레어를 업계 리더로 자리매김하게 할 뿐만 아니라 엣지 컴퓨팅 환경에서 AI의 보편화를 위한 길을 열어줍니다.

Cloudflare가 개발자들에게 AI 접근성을 제공하기 위해 기울이는 노력은 AI 분야에 있어 중요한 이정표입니다. Cloudflare는 엣지 네트워크에 AI 기능을 원활하게 통합함으로써 개발자들이 애플리케이션에서 생성형 AI를 활용하여 혁신을 주도하고 AI의 활용 범위를 넓힐 수 있도록 지원합니다. 글로벌 확장에 집중하고 있는 Cloudflare는 모든 개발자와 사용자를 위해 AI를 민주화하는 데 앞장설 것입니다.