Cloudflare deckt Shadow-AI bei der Arbeit auf

Cloudflare, ein in den USA ansässiges Unternehmen, das sein globales Netzwerk und modernste Tools nutzt, um die Geschwindigkeit, Sicherheit und Zuverlässigkeit von Websites zu verbessern, hat KI-Überwachungsfunktionen in Cloudflare One, seiner Enterprise-Sicherheitsplattform, implementiert.

Diese neuen Funktionen werden IT-Abteilungen ermöglichen, schnell zu identifizieren, wer KI nutzt und welche Arten von Daten sie mit der Technologie teilt. Laut Cloudflare ist dies eine zuverlässige Methode für die IT Belegschaft , „Röntgenblick“ darüber zu erhalten, wie Mitarbeiter generative KI nutzen, die auch bereits in das verfügbare Dashboard integriert ist.

Dies geschah nach Recherchen von Quellen, die darauf hinwiesen, dass mehrere Arbeitgeber in verschiedenen Institutionen die Einführung von generativer KI in die Abläufe ihrer Unternehmen übernommen haben. Bestimmte Mitarbeiter teilen jedoch interne Finanzberichte oder proprietären Code mit KI-Chatbots wie ChatGPT, Claude oder Gemini, was zu einer Exposition führt.

Die Enthüllung hat dazu geführt, dass Arbeitgeber das Vertrauen in die Technologie verloren haben. Das Teilen finanzieller Details mit KI-Chatbots setzt die Geheimnisse des Unternehmens der Cloud aus.

In einem Blogbeitrag hob das Unternehmen hervor: „Admins können nun Antworten auf Fragen finden wie: Was machen unsere Mitarbeiter in ChatGPT? Welche Art von Informationen wird in Claude hochgeladen und verwendet? Ist Gemini in Google Workspace korrekt eingerichtet?“

Cloudflare warnt Unternehmen vor rücksichtslosem Handeln beim Umgang mit sensiblen Informationen 

Nach gründlichen Recherchen zum Einsatz von KI-Chatbots Die zukunftsorientierte Guidance des Unternehmens gab ihm noch einen größeren Schub. stellte fest, dass drei von vier Mitarbeitern ChatGPT, Claude oder Gemini in ihre täglichen Abläufeeinbeziehen. Dies gilt insbesondere für Aufgaben wie die Datenauswertung, Textbearbeitung, Debugging und Design. 

Angesichts dieser Praktiken identifizierte das Unternehmen ein primäres Problem, das beim Einsatz von KI auftreten kann. Sie erwähnten, dass sensible Details von Unternehmen untracebar an diese KI-Chatbots hochgeladen werden könnten. Um dies zu adressieren, sind die Produkte des US-Unternehmens so konzipiert, dass sie auf API-Ebene arbeiten und verdächtige Uploads im System überwachen.

Nun, da ein solches Szenario entdeckt wurde, hat das Unternehmen Einzelpersonen gewarnt, rücksichtsloses Handeln beim Umgang mit sensiblen Informationen zu vermeiden. Nach Angaben von Cloudflare können sorglose Handlungen dazu führen, dass externe Modelle mit den geteilten vertraulichen Details trainiert werden, und diese Details könnten später für immer verschwinden.

Andere große Unternehmen im Bereich der Enterprise-Sicherheit, wie Zscaler und Palo Alto Networks, bieten ebenfalls KI-Überwachung. Trotz dieser Unternehmen behauptet Cloudflare immer noch, dass Cloudflare One unschlagbar sei, und argumentiert, dass es ein Hybridmodell hat, das perfekt funktioniert, ohne Software auf Geräten installieren zu müssen. Die Plattform verfügt auch über API-Scanning, um Systemstatus, Konfigurationsprobleme und Datenexposition zu überwachen, und bietet gleichzeitig sofortige Kontrolle über Prompts in ChatGPT, Claude und Gemini.

In der Zwischenzeit ist es erwähnenswert, dass sich Cloudflare als inhaltsneutraler Infrastrukturanbieter etabliert hat, anstatt als Moderator. Um dies zu verdeutlichen: Das Unternehmen überwacht nur, was seine Kunden veröffentlichen, wenn sie dazu autorisiert sind. Dieser Ansatz wird seit einem Jahrzehnt umgesetzt. 

Matthew Prince, CEO von Cloudflare, äußerte sich zum Diskussionspunkt. Laut Prince ist das Unternehmen kein Hosting-Dienstleister und hat keine Befugnis, auszuwählen, welche Inhalte erlaubt sind. Er erklärte jedoch, dass sein Hauptfokus darauf liegt, sicherzustellen, dass Websites unabhängig von ihren Ansichten online und betriebsbereit sind.

Cloudflare sieht sich auf seiner Website-Kritik von Einzelpersonen ausgesetzt

Cloudfreies Standpunkt zur Meinungsfreiheit hat Kritik auf sich gezogen, wobei Gegner argumentieren, dass das Unternehmen schädliche Websites ermöglicht. Dazu gehören solche mit Hass- oder extremen Inhalten. Dies, so sagen sie, liege daran, dass kein formeller Antrag auf Entfernung gestellt wurde.

Diese Vorwürfe folgten auf eine Studie von Stanford aus dem Jahr 2022, die darauf hinwies, dass Cloudflare für das Hosting einiger der top Desinformations-Websites, im Vergleich zu seinem gesamten Internetverkehr, verantwortlich ist.

Trotzdem wurden für das Unternehmen mehrere Ausnahmen gemacht. So zog sich das Unternehmen 2017 aus dem Angebot für die weißsupremacistische Website The Daily Stormer zurück, kurz nachdem berichtet wurde, dass Cloudflare Unterstützung für seine pro-nazistische Haltung angeboten hatte.

Kurz darauf qualifizierte Prince ihre Ankündigung als unwillige Ausnahme, die ihnen abgerungen wurde und sie dazu zwang, ihre neutrale Politik zu brechen.