Cloudflare apre la strada all'introduzione dell'intelligenza artificiale all'edge

Cloudflare, la rinomata piattaforma di content delivery network e sicurezza cloud, mira a rendere l'intelligenza artificiale (IA) accessibile agli sviluppatori di tutto il mondo. Cloudflare ha introdotto un'infrastruttura basata su GPU e funzionalità di model-serving, sfruttando la sua rete edge e inaugurando modelli di base all'avanguardia per il grande pubblico. Con una semplice chiamata API REST, qualsiasi sviluppatore può accedere alla piattaforma di IA di Cloudflare, segnando un passo significativo verso la democratizzazione dell'IA.

L'evoluzione della rete edge di Cloudflare

Nel 2017, Cloudflare ha introdotto Workers, una piattaforma di elaborazione serverless per l'edge computing. Questa piattaforma innovativa consente agli sviluppatori di creare Service Worker JavaScript che vengono eseguiti direttamente nelle sedi edge di Cloudflare in tutto il mondo. Con Workers, gli sviluppatori possono modificare le richieste e le risposte HTTP di un sito, effettuare richieste parallele e rispondere direttamente dall'edge computing. Questo approccio semplifica lo sviluppo web e migliora le prestazioni, allineandosi allo standard W3C Service Workers.

Integrazione dell'intelligenza artificiale con i lavoratori di Cloudflare

L'ascesa dell'intelligenza artificiale generativa ha spinto Cloudflare ad ampliare la piattaforma Worker con funzionalità di intelligenza artificiale. L'integrazione dell'intelligenza artificiale di Cloudflare si basa su tre elementi chiave:

1. Workers AI: questo componente opera su GPU NVIDIA all'interno della rete globale di Cloudflare, consentendo modelli di intelligenza artificiale serverless. Con un modello pay-as-you-go, gli utenti possono concentrarsi sulle proprie applicazioni anziché sulla gestione dell'infrastruttura, rendendo l'intelligenza artificiale più accessibile ed economica.

2. Vectorize: il database vettoriale di Cloudflare, Vectorize, facilita l'indicizzazione e l'archiviazione rapida ed economica dei dati vettoriali. Supporta casi d'uso che richiedono l'accesso a modelli operativi e dati personalizzati, aggiungendo versatilità alle applicazioni di intelligenza artificiale.

3. Gateway AI: il gateway AI consente alle organizzazioni di memorizzare nella cache, limitare la velocità e monitorare le distribuzioni di intelligenza artificiale in tutti gli ambienti di hosting. Migliora l'osservabilità, la limitazione della velocità e il caching, riducendo i costi e ottimizzando le prestazioni delle applicazioni.

Partnership strategiche e catalogo modelli

Cloudflare ha stretto partnership strategiche con leader del settore, tra cui NVIDIA, Microsoft, Hugging Face, Databricks e Meta, per portare l'infrastruttura GPU e i modelli di base sulla sua rete edge. La piattaforma ospita anche modelli di incorporamento per convertire il testo in vettori. Questi vettori vengono archiviati, indicizzati e interrogati tramite Vectorize, aggiungendo contesto ai modelli di linguaggio di grandi dimensioni (LLM) e riducendo le allucinazioni di risposta. L'AI Gateway migliora le prestazioni fornendo osservabilità, limitazione della velocità e memorizzazione nella cache per i modelli di intelligenza artificiale interrogati di frequente.

Il catalogo di modelli di Cloudflare per l'intelligenza artificiale dei lavoratori vanta i modelli di base più recenti e avanzati. Da Llama 2 di Meta a Stable Diffusion XL fino a Mistral 7B, gli sviluppatori possono accedere a una suite completa di strumenti per creare applicazioni moderne basate sull'intelligenza artificiale generativa.

Ottimizzazione dei modelli di intelligenza artificiale con il runtime ONNX

Dietro le quinte, Cloudflare utilizza ONNX Runtime, un runtime di scambio di reti neurali aperto guidato da Microsoft, per ottimizzare l'esecuzione dei modelli in ambienti con risorse limitate. Questa tecnologia, impiegata anche da Microsoft per l'esecuzione dei modelli di base in Windows, garantisce un'implementazione efficiente dell'intelligenza artificiale in ambienti diversi.

Gli sviluppatori hanno diverse opzioni per integrare l'intelligenza artificiale nelle loro applicazioni tramite Cloudflare. Mentre JavaScript può essere utilizzato per scrivere codice di inferenza dell'intelligenza artificiale e distribuirlo sulla rete edge di Cloudflare, gli sviluppatori possono anche richiamare modelli di intelligenza artificiale tramite una semplice API REST utilizzando il linguaggio di loro scelta. Questa flessibilità semplifica l'integrazione dell'intelligenza artificiale generativa in applicazioni web, desktop e mobile, indipendentemente dall'ambiente.

Espansione dell'intelligenza artificiale dei lavoratori a livello globale

A settembre 2023, Cloudflare ha lanciato Workers AI con funzionalità di inferenza in sette città. Tuttavia, l'azienda si è posta l'ambizioso obiettivo di supportare l'inferenza di Workers AI in 100 città entro la fine dell'anno, con una copertura pressoché totale prevista entro la fine del 2024. Questa rapida espansione garantisce che gli sviluppatori di tutto il mondo possano sfruttare la potenza dell'IA nell'edge.

Cloudflare è tra i primi provider di content delivery network (CDN) e edge network a potenziare la propria rete edge con funzionalità di intelligenza artificiale, basate su Workers AI con GPU, Vectorize e AI Gateway. Collaborando con giganti della tecnologia come Meta e Microsoft, Cloudflare offre un catalogo di modelli diversificato e sfrutta ONNX Runtime per l'ottimizzazione. Questa mossa strategica non solo posiziona Cloudflare come leader del settore, ma apre anche la strada alla democratizzazione dell'intelligenza artificiale nell'edge.

L'impegno di Cloudflare nel rendere l'intelligenza artificiale accessibile agli sviluppatori rappresenta una pietra miliare significativa nel panorama dell'intelligenza artificiale. Integrando perfettamente le funzionalità di intelligenza artificiale nella sua rete edge, Cloudflare consente agli sviluppatori di sfruttare l'intelligenza artificiale generativa nelle loro applicazioni, promuovendo l'innovazione ed espandendo la portata dell'intelligenza artificiale. Con un focus sull'espansione globale, Cloudflare è pronta a guidare la democratizzazione dell'intelligenza artificiale a vantaggio di tutti gli sviluppatori e gli utenti.