Cloudflare раскрывает тайные механизмы работы ИИ

Компания Cloudflare, базирующаяся в США и использующая свою глобальную сеть и передовые инструменты для повышения скорости, безопасности и надежности веб-сайтов, внедрила функции контроля на основе искусственного интеллекта в Cloudflare One, свою корпоративную платформу безопасности.

Эти новые функции позволят ИТ-отделам быстро определять,dentиспользует ИИ и какие типы данных они передают этой технологии. По данным Cloudflare, это надежный способ для ИТ- специалистов получить «рентгеновское представление» о том, как сотрудники используют генеративный ИИ, и эта функция уже встроена в доступную панель управления.

Это произошло после того, как исследования, проведенные различными источниками, показали, что ряд работодателей в разных организациях поддержали внедрение генеративного ИИ в свою деятельность. Однако некоторые сотрудники делятся внутренней финансовой отчетностью или конфиденциальным кодом с чат-ботами на основе ИИ, такими как ChatGPT, Claude или Gemini, что становится достоянием общественности.

Это разоблачение заставило работодателей потерять доверие к данной технологии. Передача финансовых данных чат-ботам с искусственным интеллектом раскрывает секреты компании, которые в конечном итоге оказываются в облаке.

В своем блоге компания подчеркнула: «Теперь администраторы могут найти ответы на такие вопросы, как: Что делают наши сотрудники в ChatGPT? Какая информация загружается и используется в Claude? Правильно ли настроен Gemini в Google Workspace?»

Cloudflare предостерегает компании от безрассудных действий при обработке конфиденциальной информации 

Проведя тщательное исследование использования чат-ботов на основе искусственного интеллекта, компания Cloudflare обнаружила, что три из четырех сотрудников используют ChatGPT, Claude или Gemini в своей повседневной работе. Это особенно актуально для таких задач, как анализ данных, редактирование текста, отладка и проектирование. 

Учитывая эти методы, компанияdentосновную проблему, которая может возникнуть при использовании ИИ. Они упомянули, что конфиденциальные данные компаний могут быть загружены в эти чат-боты на основе ИИ без возможностиtrac. Для решения этой проблемы продукты американской фирмы разработаны для работы на уровне API и отслеживания любых подозрительных загрузок в систему.

Теперь, когда подобный сценарий обнаружен, компания предупредила пользователей о необходимости избегать неосторожных действий при работе с конфиденциальной информацией. По данным Cloudflare, неосторожные действия могут привести к тому, что для обучения внешней модели будут использоваться предоставленныеdentданные, и эти данные впоследствии могут быть навсегда утрачены.

Другие крупные компании в сфере корпоративной безопасности, такие как Zscaler и Palo Alto Networks, также предоставляют услуги по контролю с помощью ИИ. Даже с учетом этих компаний, Cloudflare по-прежнему утверждает, что Cloudflare One непревзойденна, заявляя, что у нее гибридная модель, которая отлично работает без установки программного обеспечения на устройства. Платформа также включает сканирование API для мониторинга состояния системы, проблем с конфигурацией и утечки данных, обеспечивая при этом мгновенный контроль над подсказками в ChatGPT, Claude и Gemini.

Между тем, стоит отметить, что Cloudflare зарекомендовала себя как поставщик инфраструктуры, не зависящий от контента, а не как модератор. Проще говоря, компания отслеживает публикации своих клиентов только в том случае, если у них есть на это разрешение. Такой подход применяется уже более десяти лет. 

Мэтью Принс, генеральный директор CloudFlare, высказался по этому поводу. По словам Принса, компания не является хостинг-провайдером и не имеет права выбирать, какой контент разрешен. Однако он заявил, что ее главная задача — обеспечить бесперебойную работу веб-сайтов независимо от количества просмотров.

Компания Cloudflare подвергается критике со стороны пользователей своего веб-сайта

Позиция Cloudflare в отношении свободы слова вызвала критику: противники утверждают, что компания способствует распространению вредоносных веб-сайтов, в том числе сайтов, содержащих ненавистнический или экстремистский контент. По их словам, это происходит потому, что официального запроса на исключение из списка не поступало.

Эти обвинения последовали за исследованием Стэнфордского университета 2022 года, которое показало, что Cloudflare несет ответственность за размещение некоторых из самых популярных сайтов, распространяющих дезинформацию, по сравнению с общим объемом интернет-трафика, который она тратит.

Несмотря на это, для компании были сделаны несколько исключений. Например, в 2017 году фирма прекратила предоставлять услуги сайту сторонников превосходства белой расы The Daily Stormer сразу после того, как тот, как сообщается, заявил, что Cloudflare поддержала его пронацистскую позицию.

Вскоре после этого Принс охарактеризовал их заявление как вынужденное исключение, которое было у них отнято, и которое вынудило их нарушить свою нейтральную политику.