Cloudflare выявляет теневой ИИ в работе

Cloudflare, компания из США, использующая свою глобальную сеть и передовые инструменты для повышения скорости, безопасности и надежности веб-сайтов, внедрила функции надзора за ИИ в Cloudflare One, свою корпоративную платформу безопасности.

Эти новые функции позволят ИТ-отделам быстро выявлять, кто использует ИИ и какие типы данных они передают этой технологии. Согласно Cloudflare, это надежный способ для ИТ персонала получить «рентгеновское зрение» того, как сотрудники используют генеративный ИИ, что также уже встроено в доступную панель управления.

Это произошло после того, как исследования из различных источников показали, что несколько работодателей в разных учреждениях приняли внедрение генеративного ИИ в операции своих компаний. Однако некоторые сотрудники делятся внутренними финансовыми отчетами или проприетарным кодом с чат-ботами ИИ, такими как ChatGPT, Claude или Gemini, что приводит к утечке данных.

Это раскрытие заставило работодателей потерять доверие к технологии. Передача финансовых деталей чат-ботам ИИ раскрывает секреты фирмы, которые оказываются в облаке.

В блоге компания отметила: «Администраторы теперь могут найти ответы на такие вопросы: Что наши сотрудники делают в ChatGPT? Какая информация загружается и используется в Claude? Правильно ли настроен Gemini в Google Workspace?»

Cloudflare предостерегает компании от безрассудных действий при работе с конфиденциальной информацией 

После проведения тщательных исследований по использованию чат-ботов ИИ, Cloudflare было обнаружено, что три из четырех сотрудников включают ChatGPT, Claude или Gemini в свои ежедневные операции. Это особенно касается таких задач, как оценка данных, редактирование текста, отладка и дизайн. 

Учитывая эти практики, компания выявила основную проблему, которая может возникнуть при использовании ИИ. Они упомянули, что конфиденциальные детали компаний могут быть загружены в эти чат-боты ИИ без возможности отслеживания. Чтобы решить эту проблему, продукты американской фирмы разработаны для работы на уровне API и мониторинга любых подозрительных загрузок в системе.

Теперь, когда такой сценарий был обнаружен, компания предостерегла людей избегать безрассудных действий при работе с конфиденциальной информацией. По словам Cloudflare, небрежные действия могут привести к обучению внешней модели на основе переданных конфиденциальных деталей, и эти детали могут позже исчезнуть навсегда.

Другие крупные фирмы в области корпоративной безопасности, такие как Zscaler и Palo Alto Networks, также предоставляют надзор за ИИ. Даже с присутствием этих фирм, Cloudflare по-прежнему утверждает, что Cloudflare One непобедима, аргументируя это тем, что у нее гибридная модель, которая работает идеально без установки программного обеспечения на устройства. Платформа также включает сканирование API для мониторинга состояния системы, проблем с конфигурацией и утечки данных, а также обеспечивает мгновенный контроль над запросами в ChatGPT, Claude и Gemini.

Тем временем стоит отметить, что Cloudflare утвердилась как поставщик инфраструктуры, нейтральный к контенту, а не модератор. Чтобы разложить это по полочкам, фирма только мониторит то, что публикуют ее клиенты, когда у них есть на это разрешение. Этот подход применяется уже десятилетие. 

Мэтью Принс, генеральный директор Cloudflare, высказался по обсуждаемой теме. Согласно Принсу, компания не является хостинг-провайдером и не имеет полномочий выбирать, какой контент разрешен. Однако он заявил, что ее основная задача — обеспечение работы веб-сайтов независимо от их взглядов.

Cloudflare сталкивается с критикой со стороны пользователей в отношении своих веб-сервисов

Позиция Cloudflare в защиту свободы слова вызвала критику, противники утверждают, что компания обеспечивает работу вредных веб-сайтов. Сюда входят сайты с ненавистническим или экстремистским контентом. По их словам, это происходит потому, что не было подано официальной просьбы об удалении.

Эти обвинения последовали за исследованием Стэнфордского университета 2022 года, которое указало, что Cloudflare отвечает за хостинг некоторых из ведущих сайтов с дезинформацией, по сравнению с ее общим интернет-трафиком.

Несмотря на это, для компании были сделаны некоторые исключения. Например, в 2017 году фирма прекратила предоставлять услуги для сайта белых националистов The Daily Stormer сразу после того, как стало известно, что Cloudflare якобы поддерживала его пронацистскую позицию.

Немного позже Принс охарактеризовал их объявление как нежелательное исключение, которое было вырвано у них и заставило их нарушить свою нейтральную политику.