Cloudflare expone la IA oculta en el trabajo

Cloudflare, una empresa con sede en EE. UU. que utiliza su red global y herramientas de vanguardia para mejorar la velocidad, seguridad y confiabilidad de los sitios web, ha implementado características de supervisión de IA en Cloudflare One, su plataforma de seguridad empresarial.

Estas nuevas características permitirán a los departamentos de TI identificar rápidamente quién usa IA y qué tipos de datos comparten con la tecnología. Según Cloudflare, esta es una forma confiable para que la fuerza laboral de TI obtenga una 'visión de rayos X' de cómo los empleados están utilizando la IA generativa, que también ya está integrada en el panel de control disponible.

Esto ocurrió después de que investigaciones de fuentes notaran que varios empleadores en diferentes instituciones adoptaron la introducción de IA generativa en las operaciones de sus empresas. Sin embargo, ciertos empleados comparten estados financieros internos o código propietario con chatbots de IA como ChatGPT, Claude o Gemini, lo que está quedando expuesto.

La revelación ha hecho que los empleadores pierdan la confianza en la tecnología. Compartir detalles financieros con chatbots de IA expone los secretos de la empresa, terminando en la nube.

En una publicación de blog, la empresa destacó: 'Los administradores ahora pueden encontrar respuestas a preguntas como: ¿Qué están haciendo nuestros empleados en ChatGPT? ¿Qué tipo de información se está subiendo y usando en Claude? ¿Está Gemini configurado correctamente en Google Workspace?'

Cloudflare advierte a las empresas sobre acciones imprudentes al manejar información sensible 

Después de realizar investigaciones exhaustivas sobre el uso de chatbots de IA, Cloudflare descubrió que tres de cada cuatro empleados incluyen ChatGPT, Claude o Gemini en sus operaciones diarias. Esto es particularmente para tareas como evaluar datos, editar texto, depurar y diseñar. 

Considerando estas prácticas, la empresa identificó un problema principal que puede surgir al usar IA. Mencionaron que los detalles sensibles de las empresas pueden subirse a estos chatbots de IA de forma irremediable. Para abordar esto, los productos de la empresa estadounidense están diseñados para trabajar a nivel de API y monitorear cualquier subida sospechosa en el sistema.

Ahora que se ha descubierto tal escenario, la empresa ha advertido a las personas que eviten acciones imprudentes al manejar información sensible. Según Cloudflare, las acciones descuidadas pueden llevar a un entrenamiento de modelos externos utilizando los detalles confidenciales compartidos, y estos detalles podrían desaparecer para siempre más tarde.

Otras grandes firmas en el campo de la seguridad empresarial, como Zscaler y Palo Alto Networks, también proporcionan supervisión de IA. Incluso con estas firmas presentes, Cloudflare aún afirma que Cloudflare One es imbatible, argumentando que tiene un modelo híbrido que funciona perfectamente sin instalar software en los dispositivos. La plataforma también cuenta con escaneo de API para monitorear la postura del sistema, problemas de configuración y exposición de datos, mientras proporciona control instantáneo sobre los prompts en ChatGPT, Claude y Gemini.

Mientras tanto, vale la pena señalar que Cloudflare se ha establecido como un proveedor de infraestructura neutral en contenido en lugar de un moderador. Para desglosarlo, la firma solo monitorea lo que sus clientes publican cuando están autorizados para hacerlo. Este enfoque se ha implementado durante la última década. 

Matthew Prince, el CEO de CloudFlare, se pronunció sobre el tema de la discusión. Según Prince, la empresa no es un servicio de alojamiento y no tiene autoridad para elegir qué contenido está permitido. Sin embargo, declaró que su enfoque principal es garantizar que los sitios web estén en línea y funcionando independientemente de sus puntos de vista.

Cloudflare enfrenta críticas de individuos por sus servicios web

La postura de libertad de expresión de Cloudflare ha atraído críticas, con oponentes argumentando que la empresa permite sitios web dañinos. Esto incluye aquellos con contenido de odio o extremo. Esto, dicen, se debe a que no se ha presentado una solicitud formal para eliminar la lista.

Estas alegaciones siguieron a un estudio de 2022 de Stanford que señaló que Cloudflare es responsable de alojar algunos de los principales sitios web de desinformación, en comparación con su tráfico total de internet.

A pesar de esto, se han hecho varias excepciones para la empresa. Por ejemplo, en 2017, la firma dejó de ofrecer servicios para el sitio supremacista blanco The Daily Stormer justo después de que se informó que Cloudflare ofrecía apoyo para su postura pro-nazi.

Poco después, Prince calificó su anuncio como una excepción no deseada, que les fue arrancada y los obligó a romper su política de neutralidad.