Меморандум OpenAI для законодателей США обвиняет китайский стартап DeepSeek в обходе средств контроля доступа
- OpenAI сообщает американским законодателям, что китайский стартап в области искусственного интеллекта DeepSeek обходит системы контроля доступа для извлечения и репликации американских моделей ИИ с помощью сложных методов дистилляции.
- В меморандуме подробно описываются предполагаемая цензура, про-КПК предвзятость и динамическое подавление контента в системах DeepSeek, а также выражаются опасения по поводу отсутствия механизмов безопасности.
- OpenAI также обращает внимание на стремительное расширение энергетики Китая и доступ к чипам, предупреждая, что вычислительные мощности и инфраструктура являются ключевыми факторами в обостряющейся гонке ИИ между США и Китаем.
OpenAI предупредила правительство США о том, что китайский стартап в области искусственного интеллекта DeepSeek пытается воспроизвести американские системы ИИ, обходя защиты платформ и извлекая выходные данные моделей.
В меморандуме, направленном в четверг в Специальный комитет Палаты представителей США по стратегическому соперничеству между Америкой и Коммунистической партией Китая, разработчик большой языковой модели ChatGPT обвинил своего конкурента из Ханчжоу в систематическом копировании технологий, разработанных американскими лабораториями переднего края.
https://twitter.com/niubi/status/2022132145465307425
В отчете утверждается, что DeepSeek «пользовался возможностями, разработанными OpenAI и другими американскими лабораториями переднего края», практика, известная как дистилляция.
«Мы наблюдали за аккаунтами, связанными с сотрудниками DeepSeek, разрабатывающими методы обхода ограничений доступа OpenAI и получения доступа к моделям через зашифрованные сторонние маршрутизаторы и другие способы маскировки их источника», — заявила компания написал. «Сотрудники DeepSeek разработали код для доступа к американским моделям ИИ и получения выходных данных для дистилляции программными способами».
Вашингтон и Пекин конкурируют за лидерство в сфере ИИ с тех пор, как DeepSeek дебютировал около 12 месяцев назад. После выпуска китайской модели LLM Специальный комитет Палаты представителей США отметил, что КПК потребовала от OpenAI расследовать, использовала ли DeepSeek какие-либо американские технологии или ИИ-чипы в своей разработке.
Разработчик ChatGPT обвиняет DeepSeek в незаконной дистилляции
Согласно технологической компании под руководством Сэма Альтмана, китайские акторы используют информационные каналы для имитации методов генерации синтетических данных лабораториями ИИ США. Компания также сообщила, что некоторые китайские фирмы создали сети несанкционированных реселлеров услуг OpenAI для ухода от правоохранительных органов.
«Существуют законные случаи использования дистилляции: как метод обучения меньших моделей с использованием выходных данных более продвинутых систем. OpenAI предоставляет ответственные пути дистилляции для разработчиков. Однако мы не разрешаем использовать наши выходные данные для создания имитационных моделей ИИ переднего края, которые воспроизводят наши возможности».
OpenAI.
OpenAI также предупредила, что копирование возможностей через враждебную дистилляцию без эквивалентных систем безопасности может привести к созданию систем, не имеющих защитных механизмов для потребителей, хотя их масштабирование обходится дешевле. В таких системах недостатки могут проявиться только после развертывания, когда риски сложнее контролировать.
Помимо технических обвинений, в меморандуме OpenAI отмечалось, что управление контентом DeepSeek оказалось политически предвзятым и налагало обширную цензуру. В рамках компании самая широко используемая LLM в Китае показала сильную про-КПК предвзятость в последних выпусках.
«Модель будет избегать негативного или критического языка в отношении КПК, использовать позитивный язык в отношении усилий и достижений КНР и использовать негативный язык при обсуждении США или Запада».
Меморандум OpenAI.
OpenAI заявила, что когда моделей DeepSeek задавались вопросы по темам, чувствительным для Пекина, таким как площадь Тяньаньмэнь или независимость Тайваня, модель часто давала прямые отказы. В других случаях DeepSeek давал предвзятые ответы на истории, благоприятные для КНР, и перенаправлял запросы, которые выглядели как критика КПК.
«В некоторых случаях DeepSeek отказывается давать ответ, который он считает «вредным». Когда спрашивают, почему вопрос вреден, было замечено, что он объясняет свои «принципы безопасности», а затем удаляет разговор. Когда спрашивают о Фалуньгун, он отказывается отвечать, и при поиске объяснения ответ самоудаляется сразу после завершения слова Falun».
OpenAI.
У США есть преимущество перед Китаем благодаря технологическим чипам
Согласно меморандуму OpenAI для американских политиков, самым дефицитным ресурсом в ИИ является совокупная мощность и чип-ресурсы, необходимые для выполнения кода, определяемые как вычислительная мощность (compute). В нем говорится, что поддержание американского преимущества зависит от способности генерировать и доставлять электроэнергию в масштабах, необходимых для поддержки вычислительных потребностей.
В прошлом месяце два источника, знакомых с ситуацией, сообщили репортерам, что китайские власти одобрили покупку DeepSeek ИИ-чипов Nvidia H200 при условии соблюдения регуляторных условий, которые все еще уточняются.
Президент США Трамп дал добро на запрос Nvidia о поставке чипов H200 в Пекин в начале января, но китайские регуляторы имеют окончательное право разрешать поставки. В то время генеральный директор Nvidia Дженсен Хуанг заявил, что его компания не получала известий об одобрении Китая.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Флоренс Мучай
Флоренс уже 6 лет освещает новости в сферах криптовалют, игр, технологий и искусственного интеллекта. Её образование по специальности «Компьютерные науки» в Университете науки и технологий Меру, а также обучение управлению в чрезвычайных ситуациях и международной дипломатии в MMUST обеспечили ей отличные языковые навыки, наблюдательность и технические компетенции. Флоренс работала в группе VAP Group и была редактором в нескольких крипто-медиа.
