Как предприятия используют генеративный ИИ для защиты от утечек данных через ChatGPT
- Предприятия отмечают рост производительности на 40% благодаря ChatGPT, однако этот инструмент создает риск непреднамеренных утечек данных.
- Решения на основе генеративного ИИ, такие как Ericom Security и Nightfall AI, набирают популярность в защите от утечек данных через ChatGPT.
- CIO и CISO выступают за подход, основанный на знаниях, балансируя инновации и безопасность, чтобы превратить генеративный ИИ в конкурентное преимущество.
В быстро меняющемся ландшафте искусственного интеллекта ChatGPT стал для предприятий обоюдоострым мечом. Обеспечивая впечатляющий рост производительности на 40%, он также создает значительный риск непреднамеренных утечек данных. Эта непредвиденная проблема побудила лидеров в сфере ИТ и кибербезопасности искать инновационные решения, делая упор на использование потенциала генеративного ИИ при одновременной защите от возможных нарушений. Рост корпоративного внедрения, при котором более 80% компаний из списка Fortune 500 уже подключились, подчеркивает срочность стратегической и эффективной реакции.
Проникновение ChatGPT и борьба за защиту интеллектуальной собственности
Суть проблемы заключается в уязвимости предприятий перед лицом ChatGPT, который стал новой ДНК теневой ИТ-инфраструктуры. Недавнее исследование Гарвардского университета подтверждает существенный рост производительности на 40%, в то время как Массачусетский технологический институт (MIT) показывает, как ChatGPT снижает неравенство в навыках и ускоряет создание документов. Однако нежелание сотрудников раскрывать информацию об использовании этих инструментов, причем 70% не сообщают об этом своим руководителям, подчеркивает скрытный характер интеграции ChatGPT на рабочем месте.
Основной риск, связанный с ChatGPT, заключается в непреднамеренной передаче интеллектуальной собственности, конфиденциальных цен, финансового анализа и кадровых данных большим языковым моделям, доступным любому пользователю. Эта проблема становится особенно острой после инцидентов, подобных случайному раскрытию конфиденциальных данных компанией Samsung. Чтобы снизить этот риск, предприятия все чаще обращаются к подходам на основе генеративного ИИ, фокусируясь на изоляции сессий ChatGPT для предотвращения утечек данных.
Подробный обзор решений генеративного ИИ
Изоляция генеративного ИИ от Cradlepoint – Алекс Филлипс, CIO в National Oilwell Varco (NOV), подчеркнул важность обучения советов директоров преимуществам и рискам ChatGPT. Непрерывный процесс обучения в NOV служит моделью для формирования ожиданий и внедрения защитных мер для предотвращения утечек. Такие заметные технологии, как Generative AI Isolation от Cradlepoint, предлагают клиентский подход, выполняя взаимодействия внутри виртуального браузера в облачной платформе Ericom. Эта архитектура направлена на предотвращение отправки конфиденциальных данных на сайты генеративного ИИ, обеспечивая доступ с наименьшими привилегиями через свою облачную архитектуру.
Комплексные решения Nightfall AI – Nightfall AI предлагает три решения для защиты конфиденциальных данных: Nightfall для ChatGPT, Nightfall для LLM и Nightfall для SaaS. Их браузерное решение сканирует и удаляет конфиденциальные данные в реальном времени, в то время как API обнаруживает и удаляет данные, используемые для обучения больших языковых моделей. Nightfall для SaaS интегрируется с популярными приложениями для предотвращения раскрытия информации в различных облачных сервисах. Эта платформа безопасности данных доказала свою эффективность в защите конфиденциальной информации в системах генеративного ИИ открытого доступа.
Генеративный ИИ формирует будущее знаний
Несмотря на трудности, генеративный ИИ остается тем самым «двигателем знаний», которого так долго ждали бизнесы. Запрет ChatGPT оказался контрпродуктивным, поскольку теневой ИИ процветает в условиях отсутствия контроля. Руководители по информационным технологиям (CIO) и руководители по информационной безопасности (CISO) выступают за подход, основанный на знаниях, пилотируя и интегрируя системы на базе генеративного ИИ для устранения рисков на уровне браузера. Такое стратегическое внедрение, примером которого служит Cradlepoint Ericom, защищает организации от непреднамеренной передачи данных, обеспечивая масштаб, необходимый для защиты тысяч сотрудников.
По мере того как генеративный ИИ определяет будущее знаний, предприятия должны находить тонкий баланс между инновациями и безопасностью. Цель состоит в том, чтобы превратить быстрые темпы инноваций в конкурентное преимущество. CISO и команды безопасности играют ключевую роль в отслеживании новейших технологий, обеспечении конфиденциальности, защите персональных данных (PII) и сохранности данных, основанных на патентах. Путь к достижению этого равновесия ставит важный вопрос: как предприятиям проактивно решать связанные с генеративным ИИ риски, одновременно используя его беспрецедентные возможности повышения производительности?
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
