В служебной записке OpenAI американским законодателям китайская компания DeepSeek обвиняется в обходе средств контроля доступа

Компания OpenAI предупредила правительство США о том, что китайский стартап DeepSeek, занимающийся разработкой искусственного интеллекта, пытается скопировать американские системы ИИ, обходя средства защиты платформы иtracрезультаты работы моделей.

В служебной записке, направленной в четверг в Специальный комитет Палаты представителей США по стратегической конкуренции между Америкой и Коммунистической партией Китая, разработчик крупной языковой модели ChatGPT обвинил своего конкурента из Ханчжоу вmaticплагиате технологий, разработанных передовыми американскими лабораториями.

https://twitter.com/niubi/status/2022132145465307425

В отчете утверждается, что DeepSeek «использует возможности, разработанные OpenAI и другими передовыми американскими лабораториями, безвозмездно», — практика, известная как дистилляция.

«Мы обнаружили аккаунты, связанные с сотрудниками DeepSeek, которые разрабатывали методы обхода ограничений доступа OpenAI и доступа к моделям с помощью зашифрованных сторонних маршрутизаторов и других способов, скрывающих их источник», — написала. «Сотрудники DeepSeek разработали код для доступа к моделям ИИ из США и получения результатов для последующей обработки программнымmatic ».

Вашингтон и Пекин соревнуются за лидерство в области искусственного интеллекта с момента дебюта DeepSeek около 12 месяцев назад. После выпуска китайской модели LLM Специальный комитет Палаты представителей США отметил, что КПК обратилась к OpenAI с просьбой расследовать, использовала ли DeepSeek какие-либо американские технологии или чипы для ИИ при своей разработке.

Создатель ChatGPT обвиняет DeepSeek в незаконной дистилляции

По данным технологической компании, возглавляемой Сэмом Альтманом, китайские деятели используют информационные каналы для имитации методов американских лабораторий по генерации синтетических данных с помощью ИИ. Компания также сообщила, что некоторые китайские фирмы создали сети неавторизованных реселлеров услуг OpenAI, чтобы избежать преследования со стороны правоохранительных органов.

«Дистилляция имеет законные области применения: например, в качестве метода обучения более простых моделей с использованием результатов работы более сложных систем. OpenAI предоставляет разработчикам ответственные пути дистилляции. Однако мы не разрешаем использовать наши результаты для создания имитационных моделей передового ИИ, которые воспроизводят наши возможности»

OpenAI.

Компания OpenAI также предупредила, что возможности копирования посредством враждебной дистилляции без эквивалентных механизмов безопасности могут привести к созданию систем, лишенных защиты потребителей, хотя и более дешевых в масштабировании. В компании отметили, что недостатки таких систем могут проявиться только после развертывания, когда риски сложнее контролировать.

Помимо технических обвинений, в служебной записке OpenAI отмечалось, что система управления контентом DeepSeek оказалась политически предвзятой и предусматривала масштабную цензуру. В рамках деятельности компании наиболее широко используемый в Китае LLM в последних версиях продемонстрировал сильную про-КПК-предвзятость.

«В этой модели будут избегаться негативные или критические высказывания в адрес КПК, использоваться позитивные формулировки об усилиях и достижениях КНР, а также негативные формулировки при обсуждении США или Запада»

Меморандум OpenAI.

Компания OpenAI заявила, что, когда DeepSeek задавали вопросы по темам, чувствительным для Пекина, таким как события на площади Тяньаньмэнь или независимость Тайваня, компания часто давала категорические отказы. В других случаях DeepSeek давала предвзятые ответы на истории, выгодные КНР, и перенаправляла запросы, которые воспринимались как критика КПК.

«В некоторых случаях DeepSeek отказывается давать ответ на вопрос, который считает „вредным“. На вопрос о том, почему он вреден, система, как было замечено, объясняет свои „принципы безопасности“, а затем удаляет сообщение. На вопрос о Фалуньгун она отказалась отвечать, и, пытаясь получить объяснение, ответ автоматически удалялся сразу после произнесения слова „Фалунь“»

OpenAI.

США имеют преимущество перед Китаем благодаря технологическим чипам

Согласно служебной записке OpenAI американским политикам, самым дефицитным ресурсом в области ИИ являются суммарная мощность и ресурсы чипов, необходимые для выполнения кода, defiкак вычислительные мощности. В ней говорится, что поддержание американского превосходства зависит от способности генерировать и поставлять электроэнергию в больших масштабах для удовлетворения вычислительных потребностей.

В прошлом месяце два источника, знакомые с ситуацией, сообщили журналистам, что китайские власти одобрили покупку компанией DeepSeek чипов искусственного интеллекта Nvidia H200 при условии соблюдения нормативных требований, которые еще находятся в стадии доработки. 

СШАdent Трамп одобрил запрос Nvidia на поставку чипов H200 в Пекин, однако окончательное решение о разрешении поставок принимают китайские регулирующие органы. В то время генеральный директор Nvidia Дженсен Хуанг заявил, что его компания не получала подтверждения об одобрении со стороны Китая.