Cloudflare ist führend bei der Integration von KI in den Edge-Computing-Bereich

Cloudflare, das renommierte Content Delivery Network und die Cloud-Sicherheitsplattform, hat sich zum Ziel gesetzt, künstliche Intelligenz (KI) Entwicklern weltweit zugänglich zu machen. Cloudflare bietet nun eine GPU-basierte Infrastruktur und Funktionen zur Bereitstellung von Modellen und nutzt sein Edge-Netzwerk, um modernste Basismodelle für alle zugänglich zu machen. Mit einem einfachen REST-API-Aufruf kann jeder Entwickler auf die KI-Plattform von Cloudflare zugreifen – ein wichtiger Schritt hin zur Demokratisierung von KI.

Die Entwicklung des Edge-Netzwerks von Cloudflare

2017 führte Cloudflare Workers ein, eine serverlose Edge-Computing-Plattform. Diese innovative Plattform ermöglicht es Entwicklern, JavaScript Service Workers zu erstellen, die direkt an den Edge-Standorten von Cloudflare weltweit ausgeführt werden. Mit Workers können Entwickler die HTTP-Anfragen und -Antworten einer Website modifizieren, parallele Anfragen stellen und direkt vom Edge aus antworten. Dieser Ansatz vereinfacht die Webentwicklung und verbessert die Performance, ganz im Sinne des W3C-Standards für Service Workers.

KI-Integration mit Cloudflare-Mitarbeitern

Der Aufstieg generativer KI hat Cloudflare dazu veranlasst, seine Worker-Plattform um KI-Funktionen zu erweitern. Die KI-Integration von Cloudflare besteht aus drei Schlüsselelementen:

1. Workers AI: Diese Komponente nutzt NVIDIA-GPUs im globalen Netzwerk von Cloudflare und ermöglicht serverlose KI-Modelle. Dank des nutzungsbasierten Abrechnungsmodells können sich Anwender auf ihre Anwendungen anstatt auf die Infrastrukturverwaltung konzentrieren. Dadurch wird KI zugänglicher und kostengünstiger.

2. Vectorize: Die Vektordatenbank Vectorize von Cloudflare ermöglicht eine schnelle und kostengünstige Vektorindizierung und -speicherung. Sie unterstützt Anwendungsfälle, die den Zugriff auf Betriebsmodelle und kundenspezifische Daten erfordern, und erhöht so die Vielseitigkeit von KI-Anwendungen.

3. KI-Gateway: Das KI-Gateway ermöglicht es Unternehmen, ihre KI-Implementierungen in verschiedenen Hosting-Umgebungen zu cachen, die Zugriffsrate zu begrenzen und sie zu überwachen. Es verbessert die Beobachtbarkeit, die Ratenbegrenzung und das Caching, senkt die Kosten und optimiert gleichzeitig die Anwendungsleistung.

Strategische Partnerschaften und Modellkatalog

Cloudflare hat strategische Partnerschaften mit Branchenführern wie NVIDIA, Microsoft, Hugging Face, Databricks und Meta geschlossen, um GPU-Infrastruktur und Basismodelle in sein Edge-Netzwerk zu integrieren. Die Plattform hostet zudem Einbettungsmodelle zur Umwandlung von Text in Vektoren. Diese Vektoren werden mithilfe von Vectorize gespeichert, indiziert und abgefragt, wodurch großen Sprachmodellen (LLMs) Kontext hinzugefügt und fehlerhafte Antwortsignale reduziert werden. Das AI Gateway optimiert die Performance durch Observability, Ratenbegrenzung und Caching für häufig abgefragte KI-Modelle.

Der Modellkatalog von Cloudflare für Workers AI umfasst die neuesten und fortschrittlichsten Basismodelle. Von Meta's Llama 2 über Stable Diffusion XL bis hin zu Mistral 7B erhalten Entwickler Zugriff auf eine umfassende Suite von Tools zur Erstellung moderner, KI-gestützter Anwendungen.

Optimierung von KI-Modellen mit ONNX-Laufzeit

Im Hintergrund nutzt Cloudflare ONNX Runtime, eine von Microsoft entwickelte, offene Laufzeitumgebung für neuronale Netze, um die Ausführung von Modellen in ressourcenbeschränkten Umgebungen zu optimieren. Diese Technologie, die auch von Microsoft für die Ausführung von Basismodellen unter Windows eingesetzt wird, gewährleistet eine effiziente KI-Bereitstellung in unterschiedlichsten Umgebungen.

Entwickler haben über Cloudflare vielfältige Möglichkeiten, KI in ihre Anwendungen zu integrieren. Neben der Verwendung von JavaScript zum Schreiben von KI-Inferenzcode und dessen Bereitstellung im Edge-Netzwerk von Cloudflare können Entwickler KI-Modelle auch über eine einfache REST-API in ihrer bevorzugten Programmiersprache aufrufen. Diese Flexibilität ermöglicht die nahtlose Integration generativer KI in Web-, Desktop- und mobile Anwendungen – unabhängig von der jeweiligen Umgebung.

Globale Ausweitung der KI-Kompetenz von Arbeitnehmern

Im September 2023 startete Cloudflare Workers AI mit Inferenzfunktionen in sieben Städten. Das Unternehmen hat sich jedoch das ehrgeizige Ziel gesetzt, Workers AI bis Ende des Jahres in 100 Städten anzubieten und bis Ende 2024 eine nahezu flächendeckende Verfügbarkeit zu erreichen. Diese rasante Expansion stellt sicher, dass Entwickler weltweit die Leistungsfähigkeit von KI am Netzwerkrand nutzen können.

Cloudflare gehört zu den ersten Anbietern von Content Delivery Networks (CDNs) und Edge-Netzwerken, die ihr Edge-Netzwerk mit KI-Funktionen erweitern. Diese basieren auf GPU-gestützter Workers AI, Vectorize und dem AI Gateway. In Zusammenarbeit mit Technologiekonzernen wie Meta und Microsoft bietet Cloudflare einen vielfältigen Modellkatalog und nutzt ONNX Runtime zur Optimierung. Dieser strategische Schritt positioniert Cloudflare nicht nur als Branchenführer, sondern ebnet auch den Weg für die Demokratisierung von KI am Netzwerkrand.

Cloudflares Engagement, KI für Entwickler zugänglich zu machen, stellt einen bedeutenden Meilenstein in der KI-Landschaft dar. Durch die nahtlose Integration von KI-Funktionen in sein Edge-Netzwerk ermöglicht Cloudflare Entwicklern die Nutzung generativer KI in ihren Anwendungen, fördert Innovationen und erweitert die Reichweite von KI. Mit dem Fokus auf globale Expansion ist Cloudflare bestens positioniert, um die Demokratisierung von KI zum Wohle aller Entwickler und Nutzer voranzutreiben.