Anthropic обвиняет Китай в оттоке данных Claude через 24 000 фейковых аккаунтов

Anthropic заявила, что три китайские ИИ-компании создали более 24 000 фейковых аккаунтов для извлечения данных из своей системы Claude. По словам компании, целью было быстрое улучшение собственных моделей.

Названными компаниями были DeepSeek, Moonshot AI и MiniMax. Anthropic заявила, что эти аккаунты отправили более 16 миллионов запросов в Claude для сбора ответов и паттернов, которые могут быть повторно использованы для обучения.

Anthropic опубликовала подробности в блоге в понедельник. Компания заявила, что эта деятельность является формой дистилляции. Этот процесс использует выходные данные одной модели для обучения другой модели. Dario Amodei возглавляет Anthropic.

По утверждению Anthropic, DeepSeek выполнил около 150 000 взаимодействий с Claude. Moonshot AI обработал более 3,4 миллионов промптов. MiniMax достиг более 13 миллионов промптов. Anthropic заявила, что такой масштаб демонстрирует четкое намерение извлечь ценность на высокой скорости.

OpenAI отмечает аналогичное поведение в Вашингтоне

Ранее в этом месяце OpenAI направила меморандум законодателям Палаты представителей, обвинив DeepSeek в использовании той же тактики дистилляции для копирования своих систем. Sam Altman руководит OpenAI. После первого упоминания OpenAI компания заявила законодателям, что DeepSeek пыталась имитировать её продукты с помощью больших объемов промптов.

Anthropic заявила, что сама по себе дистилляция имеет законные применения. Компании используют её для создания более компактных версий собственных моделей. Anthropic также отметила, что тот же метод позволяет создавать конкурирующие системы за долю времени и за долю стоимости.

Синтетические данные теперь играют большую роль в обучении больших базовых моделей. Разработчики используют их, потому что качественных реальных данных ограничено. Многие лаборатории также создают агентные системы, способные действовать от имени пользователей. В техническом отчете от июля Moonshot заявила, что использовала синтетические данные для обучения своей модели Kimi K2.

Anthropic заявила, что такая деятельность вызывает обеспокоенность в сфере национальной безопасности. Компания указала, что иностранные лаборатории, использующие дистилляцию американских моделей, могут внедрить эти возможности в военные, разведывательные и системы наблюдения.

Рынки реагируют на запуск Anthropic нового инструмента безопасности

В пятницу Anthropic также выпустила новый инструмент безопасности для Claude в рамках ограниченного исследовательского предварительного просмотра. Инструмент сканирует программный код на наличие уязвимостей и предлагает решения. Anthropic планирует провести во вторник брифинг для корпоративных клиентов с анонсом новых продуктов.

Рынки отреагировали быстро. Акции компаний кибербезопасности падали второй день подряд в понедельник, поскольку инвесторы опасались, что новые ИИ-инструменты могут заменить старые сервисы безопасности.

Акции CrowdStrike упали примерно на 9%. Zscaler также снизился примерно на 9%. Netskope просел почти на 10%. SailPoint снизился на 6%. Okta, SentinelOne и Fortinet потеряли более 4% каждый. Palo Alto Networks упала на 2%.

Cloudflare упала на 7% после недавнего роста, связанного с интересом к Moltbot. ETF iShares Cybersecurity and Tech снизился почти на 4%. ETF Global X Cybersecurity достиг самого низкого уровня с ноября 2023 года.

Давление распространяется за пределы акций сектора безопасности. ИИ-инструменты, создающие приложения и веб-сайты по простым промптам, потрясли программные компании в этом году.

Salesforce потеряла около трети своей стоимости. ServiceNow упала более чем на 34%. Microsoft снизилась примерно на 20%.

Bank of America заявила, что инструмент Anthropic в основном угрожает платформам сканирования кода, таким как GitLab и JFrog. GitLab упала на 8% в пятницу. JFrog снизилась на 25% в тот же день.