Cloudflare espone l'IA ombra al lavoro

Cloudflare, un'azienda statunitense che utilizza la sua rete globale e strumenti all'avanguardia per migliorare velocità, sicurezza e affidabilità dei siti web, ha implementato funzionalità di supervisione dell'IA in Cloudflare One, la sua piattaforma di sicurezza enterprise.

Queste nuove funzionalità consentiranno ai dipartimenti IT di identificare rapidamente chi utilizza l'IA e quali tipi di dati condividono con la tecnologia. Secondo Cloudflare, questo è un modo affidabile per il personale IT di ottenere una 'visione a raggi X' di come i dipendenti stanno utilizzando l'IA generativa, che è anche già integrata nella dashboard disponibile.

Questo è arrivato dopo che ricerche da fonti hanno notato che diversi datori di lavoro in diverse istituzioni hanno abbracciato l'introduzione di IA generativa nelle operazioni delle loro aziende. Tuttavia, alcuni dipendenti condividono bilanci finanziari interni o codice proprietario con chatbot IA come ChatGPT, Claude o Gemini, il che sta diventando esposto.

La rivelazione ha causato la perdita di fiducia dei datori di lavoro nella tecnologia. Condividere dettagli finanziari con chatbot IA espone i segreti dell'azienda, finendo nel cloud.

In un post sul blog, l'azienda ha sottolineato:

Cloudflare mette in guardia le aziende su azioni avventate mentre si gestiscono informazioni sensibili 

Dopo aver condotto ricerche approfondite sull'uso di chatbot IA, Cloudflare ha scoperto che tre dipendenti su quattro includono ChatGPT, Claude o Gemini nelle loro operazioni quotidiane. Questo è particolarmente vero per compiti come la valutazione dei dati, la modifica del testo, il debug e il design. 

Considerando queste pratiche, l'azienda ha identificato un problema primario che potrebbe sorgere quando si utilizza l'IA. Hanno menzionato che i dettagli sensibili delle aziende potrebbero essere caricati su questi chatbot IA in modo non tracciabile. Per affrontare questo, i prodotti dell'azienda statunitense sono progettati per funzionare a livello di API e monitorare eventuali caricamenti sospetti nel sistema.

Ora che tale scenario è stato scoperto, l'azienda ha messo in guardia gli individui a evitare azioni avventate mentre si gestiscono informazioni sensibili. Secondo Cloudflare, azioni disattente potrebbero portare a un addestramento di modelli esterni utilizzando i dettagli confidenziali condivisi, e questi dettagli potrebbero poi scomparire per sempre.

Altre grandi aziende nel campo della sicurezza enterprise, come Zscaler e Palo Alto Networks, forniscono anche supervisione dell'IA. Anche con queste aziende presenti, Cloudflare sostiene ancora che Cloudflare One sia imbattibile, sostenendo che ha un modello ibrido che funziona perfettamente senza installare software sui dispositivi. La piattaforma presenta anche lo scanning delle API per monitorare la postura del sistema, i problemi di configurazione e l'esposizione dei dati, fornendo al contempo controllo istantaneo sui prompt su ChatGPT, Claude e Gemini.

Nel frattempo, vale la pena notare che Cloudflare si è affermata come un fornitore di infrastruttura neutrale rispetto ai contenuti invece che come moderatore. Per scomporre questo, l'azienda monitora solo ciò che i suoi clienti pubblicano quando sono autorizzati a farlo. Questo approccio è stato implementato per il passato decennio. 

Matthew Prince, CEO di CloudFlare, si è espresso sull'argomento della discussione. Secondo Prince, l'azienda non è un servizio di hosting e non ha l'autorità di scegliere quali contenuti sono consentiti. Tuttavia, ha dichiarato che il suo focus principale è garantire che i siti web siano attivi e funzionanti indipendentemente dalle loro opinioni.

Cloudflare affronta critiche da individui sui suoi servizi web

La posizione di Cloudflare a favore della libertà di espressione ha suscitato critiche, con gli oppositori che sostengono che l'azienda permetta l'esistenza di siti web dannosi. Questo include quelli con contenuti d'odio o estremisti. A loro dire, ciò avviene perché non è stata presentata alcuna richiesta formale per la rimozione.

Queste accuse sono seguite a uno studio del 2022 della Stanford University che ha evidenziato come Cloudflare sia responsabile dell'hosting di alcuni dei siti web di disinformazione più diffusi, rispetto al suo traffico internet totale.

Nonostante ciò, sono state fatte diverse eccezioni da parte dell'azienda. Ad esempio, nel 2017, l'azienda ha cessato di offrire servizi al sito suprematista bianco The Daily Stormer poco dopo che quest'ultimo aveva dichiarato che Cloudflare offriva supporto per la sua posizione pro-nazista.

Poco dopo, Prince ha definito la loro annuncio un'eccezione non voluta, strappata loro e che li ha costretti a violare la loro politica di neutralità.