Anthropic обвиняет Китай в хищении данных Claude через 24 000 фейковых аккаунтов

Компания Anthropic утверждает, что три китайские фирмы, занимающиеся разработкой искусственного интеллекта, создали более 24 000 фейковых аккаунтов для извлечения данных из ее системы Claude. По словам компании, цель заключалась в быстром улучшении собственных моделей.

Названные компании — DeepSeek, Moonshot AI и MiniMax. Anthropic заявила, что эти компании отправили в Claude более 16 миллионов запросов для сбора ответов и выявления закономерностей, которые можно было бы повторно использовать для обучения.

Компания Anthropic поделилась подробностями в своем блоге в понедельник. Компания заявила, что эта деятельность представляет собой своего рода дистилляцию. В этом процессе результаты одной модели используются для обучения другой модели. Руководителем Anthropic является Дарио Амодей.

По утверждению Anthropic, DeepSeek обработала около 150 000 взаимодействий с Claude. Moonshot AI зарегистрировала более 3,4 миллиона запросов. MiniMax обработала более 13 миллионов запросов. Anthropic заявила, что масштабы демонстрируют явное стремление быстроtracвыгоду.

OpenAI сообщает о подобном поведении в Вашингтоне

В начале этого месяца компания OpenAI направила законодателям Палаты представителей служебную записку, обвинив DeepSeek в использовании той же тактики «дистилляции» для копирования своих систем. Руководителем OpenAI является. После того, как компания впервые назвала OpenAI, она заявила законодателям, что DeepSeek пыталась имитировать её продукцию за счёт больших объёмов оперативной обработки данных.

Антропик заявил, что сама по себе дистилляция имеет свои обоснованные применения. Компании используют ее для создания уменьшенных версий своих собственных моделей. Антропик также отметил, что тот же метод позволяет создавать конкурирующие системы за гораздо меньшее время и с гораздо меньшими затратами.

В настоящее время синтетические данные играют важную роль в обучении крупных базовых моделей. Разработчики используют их, поскольку высококачественных реальных данных мало. Многие лаборатории также создают агентные системы, способные выполнять действия от имени пользователей. В техническом отчете за июль компания Moonshot сообщила об использовании синтетических данных для обучения своей модели Kimi K2.

Компания Anthropic заявила, что эта деятельность вызывает опасения по поводу национальной безопасности. Компания отметила, что зарубежные лаборатории, которые перенимают американские модели, могут внедрять эти возможности в военные, разведывательные и наблюдательные системы.

Рынки реагируют на запуск компанией Anthropic нового инструмента обеспечения безопасности

компания Anthropic также представила новый инструмент для Claude в рамках ограниченной предварительной версии для исследовательских целей. Инструмент сканирует программный код на наличие уязвимостей и предлагает решения. Anthropic планирует провести брифинг для корпоративных клиентов во вторник, где будут представлены дополнительные анонсы продуктов.

Рынки отреагировали быстро. Акции компаний, занимающихся кибербезопасностью, падали второй день подряд в понедельник, поскольку инвесторы опасались, что новые инструменты искусственного интеллекта могут заменить устаревшие сервисы безопасности.

Акции CrowdStrike упали примерно на 9 процентов. Акции Zscaler также снизились примерно на 9 процентов. Netskope подешевели почти на 10 процентов. SailPoint упали на 6 процентов. Okta, SentinelOne и Fortinet потеряли более 4 процентов каждая. Акции Palo Alto Networks снизились на 2 процента.

Акции Cloudflare упали на 7 процентов после недавнего роста, связанного с интересом к Moltbot. ETF iShares Cybersecurity and Tech снизился почти на 4 процента. ETF Global X Cybersecurity достиг самого низкого уровня с ноября 2023 года.

Давление распространяется не только на акции компаний, занимающихся разработкой ценных бумаг. Инструменты искусственного интеллекта, создающие приложения и веб-сайты на основе простых подсказок, в этом году потрясли компании-разработчики программного обеспечения.

Компания Salesforce потеряла примерно треть своей стоимости. Акции ServiceNow упали более чем на 34 процента. Акции Microsoft снизились примерно на 20 процентов.

В Bank of America заявили, что инструмент Anthropic представляет основную угрозу для платформ сканирования кода, таких как GitLab и JFrog. Акции GitLab упали на 8 процентов в пятницу, а акции JFrog — на 25 процентов в тот же день.