DeepSeek раскрывает утечку информации: скомпрометированы ли чаты с участием агентов ИИ?

DeepSeek, искусственный интеллект, удививший мир своей производительностью, теперь подвергается критике за хранение незащищенных данных в общедоступных базах данных. Утечка данных ставит под сомнение все агенты ИИ, быстро освоившие языковую модель. 

Спустя всего несколько дней после того, как DeepSeek набрал популярность, выяснилось, что это рискованное приложение, которое допустило утечку логов данных в общедоступную, незащищенную базу данных ClickHouse. Утекшие данные содержали журналы чатов и конфиденциальную информацию о пользователях, а также могли раскрыть учетные записи и пароли. Для передачи трафика без дополнительной защиты использовался ClickHouse, инструмент аналитики данных от российской IT-компании Yandex.

, занимающейся кибербезопасностью, Wiz не запрашивали потенциально конфиденциальную информацию. Возможно, база данных содержала секретные ключи API. В общей сложности исследователи обнаружили более 1 миллиона строк данных, отследив tracоткрытые соединения во время сеанса DeepSeek. 

С этого момента проверка уязвимости прошла довольно просто: обратившись к API ClickHouse, мы получили доступ к HTTP API, который позволяет легко запрашивать данные из базы данных MySQL

Произошла значительная утечка данных, особенно из таблицы log_stream, по всей стране… pic.twitter.com/NhS2gyfBpJ

– Нагли (@galnagli) 29 января 2025 г.

Утечка была обнаружена после tracосновного интерфейса чата, в результате чего было выявлено до 30 поддоменов, выполнявших в основном безобидные технические задачи для инструмента искусственного интеллекта. После завершения тестирования уязвимостей некоторые из наиболее спорных баз данных теперь защищены и недоступны. 

Команда DeepSeek связалась с представителями компании после тестирования, заявив, что ни одно из обнаруженных нарушений не было обнародовано до устранения уязвимостей в системе безопасности. Однако за несколько часов до того, как утечка базы данных стала достоянием общественности, другой анонимный пользователь X указал на проблему с незащищенными базами данных, что в то время было расценено как попытка мошенничества или использования приманки.

На данный момент неизвестно, нашли ли другие злоумышленники что-либо ценное в этих данных. Однако сбор данных из чатов с использованием ИИ также подчеркивает потенциальную потерю конфиденциальности при использовании этого инструмента. Существует несколько способов взаимодействия с DeepSeek: от официального сайта и приложения до локального хостинга или любой другой оболочки, используемой с LLM и механизмом рассуждений.

Повлияет ли утечка данных DeepSeek на работу агентов искусственного интеллекта?

Использование языковых моделей с большей конфиденциальностью возможно за счет их локального запуска, для чего хорошо подходит DeepSeek. Каждая новая личность ИИ-агента имеет собственные инструменты для обертывания языковой модели и ее представления пользователям. 

Venice.AI, один из самых известных ИИ-агентств, заявляет о максимальнойdent. Однако пользователи обнаружили, что Venice.AI также отправляет данные в открытом текстовом виде на свои центральные серверы, хотя, по крайней мере, не с использованием дополнительных общедоступных инструментов. 

нет частного ИИ. https://t.co/bR5IfvDdvI

Все запросы на вывод информации поступают на их центральный сервер в открытом виде, без шифрования и обеспечения конфиденциальности.

Все полученные буферы также представлены в виде обычного текста.

Убедитесь сами, проверив вкладку «Сеть» в Chrome. pic.twitter.com/WDRxog6E5O

— Смит (@0xSmit) 27 января 2025 г.

Подход Venice.AI по-прежнему относительно болееdentпо сравнению с утечкой данных DeepSeek. 

Кроме того, сообщается, что Venice.AI отвечает на некоторые запросы без цензуры, обычно применяемой к централизованному сайту DeepSeek. Хотя проект находится еще на ранней стадии развития, он намерен стать центром для создания дополнительных агентов искусственного интеллекта , предоставляя языковую модель и ресурсы. 

Стремление создать больше агентов, использующих DeepSeek, может стать фактором, распространяющим другие неизвестные риски, связанные с языковой моделью и механизмом рассуждений. Практически ежечасно объявляются о появлении новых агентов, которые, как утверждается, используют возможности DeepSeek для получения более качественного контента по более низкой цене. 

DeepSeek вступает в конфликт с криптоэтикой «Сделано в США»

Создание агентов ИИ и их токенизация с использованием DeepSeek рассматривается как неотъемлемый риск, связанный с применением относительно новой и непроверенной языковой модели. DeepSeek стал самым скачиваемым приложением за последние несколько дней, но криптосообщество призвало к осторожности при использовании этой языковой модели для создания продуктов. 

Наиболее радикальная точка зрения рассматривает модель DeepSeek как изначально рискованную, даже при использовании в качестве самостоятельно размещаемой программы магистратуры в области прикладных наук. 

https://twitter.com/ryan_trat/status/1884860338807722351

Токены, связанные с ИИ-агентами, по-прежнему считаются рискованными и больше похожи на хайп для мемов, и в настоящее время не рассматриваются как серьезные активы для включения в криптотренд «Сделано в США». 

Однако использование DeepSeek может привести к дисквалификации проектов и вызвать скептицизм в отношении их возможностей сбора данных и потенциальной возможности распространения вредоносного ПО. Агенты, созданные с помощью DeepSeek, могут публиковать некорректную информацию или вести себя непредсказуемо.

Пользователь X опубликовал следующее:

«Агенты, созданные с помощью DeepSeek, — идеальные агенты хаоса: зацикливаются на бесконечности, подсовывают вам мусорные данные и вместо этого уничтожают вас (и свой собственный аккаунт X)»

Другие сторонники криптовалют предостерегают от взаимодействия с DeepSeek на данном этапе, особенно через официальное приложение. Еще за несколько дней до утечки данных аналитики по кибербезопасности предупреждали о возможных функциях слежки, поскольку DeepSeek связан с Коммунистической партией Китая через своего основателя Лян Вэнфэна.

После запрета TikTok в США из-за опасений по поводу сбора данных, быстрое распространение DeepSeek было расценено как аналогичная угроза безопасности данных.