OpenAI блокирует связанные с Китаем аккаунты, использующие ChatGPT в качестве инструмента слежки

Ведущий американский стартап в области искусственного интеллекта OpenAI заблокировал несколько аккаунтов на ChatGPT, обвинив их в причастности к разработке инструмента слежки. 

Согласно отчету компании, опубликованному в феврале 2025 года, заблокированные аккаунты предположительно связаны с Китаем. Сообщается, что эти аккаунты использовали модели OpenAI для создания подробных описаний инструмента мониторинга социальных сетей, который, по их утверждению, использовался для предоставления китайской службе безопасности информации о протестах на Западе в режиме реального времени. 

Заблокированные аккаунты также нашли способ использовать модели OpenAI для отладки кода, который, по всей видимости, был предназначен для реализации подобного инструмента. 

Почему Китай вызывает подозрения 

В OpenAI действуют правила, предотвращающие использование ИИ для мониторинга коммуникаций или несанкционированного наблюдения за отдельными лицами, включая действия правительств или от их имени, направленные на подавление личных свобод и прав.

Компания OpenAI смоглаdentрассматриваемые учетные записи на основе поведенческих моделей, а также других данных. Сообщается, что эти учетные записи использовали модели OpenAI для анализа документов, создания коммерческих предложений, описания инструментов для мониторинга активности в социальных сетях, а также для исследования политических деятелей и тем.

Предполагается, что эти учетные записи имеют китайское происхождение, поскольку их активность происходила преимущественно в рабочее время материкового Китая, а модели OpenAI использовали китайский язык в качестве входных данных для этих учетных записей. 

Компания OpenAI также обнаружила, что лица, стоящие за этими учетными записями, использовали инструменты скорее вручную, чем автоматически. В некоторых случаях компания, занимающаяся искусственным интеллектом, обнаружила, что одной учетной записью могло быть несколько операторов.

Одно из основных направлений операции заключалось в создании подробных описаний, соответствующих рекламным материалам, для продукта, который назывался «ИИ-помощник Qianyue для формирования общественного мнения за рубежом» 

Этот инструмент был разработан для анализа сообщений и комментариев с таких платформ, как X, Facebook, YouTube, Instagram, Telegram и Reddit, и передачи полученной информации китайским властям. 

К сожалению, OpenAI не смоглаdentподтвердить эти описания, иdent привел к повышению уровня тревоги в США. По словам главного исследователя OpenAI Бена Нуиммо, этот случай является примером того, как авторитарные режимы, такие как Китай, могут пытаться использовать технологии, разработанные в США, против США и их союзников.

«Это довольно тревожный взгляд на то, как один недемократический субъект пытался использовать демократический или американский искусственный интеллект в недемократических целях, судя по материалам, которые они сами создавали»

Компания OpenAI также сообщила, что в учетных записях упоминались другие инструменты искусственного интеллекта, включая версию Llama, модели ИИ с открытым исходным кодом от Meta. 

Этот случай произошел вскоре после создания DeepSeek 

Компания OpenAI бьет тревогу по поводу опасностей, связанных с китайским ИИ, особенно после того, как DeepSeek с помощью своей модели логического мышления R1 буквально «взорвала» всех, превзойдя многие другие модели американского производства в бенчмарках и вызвав масштабную распродажу технологических компаний на американском рынке. 

DeepSeekспорно, и его создатели утверждают, что разработали его за гораздо меньшую стоимость, чем большинство американских моделей, производивших свои устройства. Это утверждение вызвало неоднозначную реакцию общественности, но многие эксперты убеждены, что это было преувеличением. 

Компания OpenAI не только убеждена, что команда DeepSeek потратила на это больше средств, но и обвинила DeepSeek в том, что та перерабатывает результаты работы своих моделей для создания собственных. 

Согласно сообщению Bloomberg, компания Microsoft, крупный инвестор OpenAI, в настоящее время расследует, использовались ли принадлежащие ей данные без разрешения.

Дэвид Сакс, недавно назначенный «главным специалистом Белого дома по искусственному интеллекту и криптовалютам», поддержал опасения OpenAI, предположив, что DeepSeek, возможно, использовала модели американской компании, занимающейся ИИ, для улучшения своих разработок — процесс, называемый дистилляцией знаний.

«Есть веские доказательства того, что DeepSeek в данном случае извлекли знания из моделей OpenAI», — сказал. 

Он добавил, что в течение следующих нескольких месяцев ведущие американские компании, занимающиеся искусственным интеллектом, начнут предпринимать шаги по предотвращению «упрощения» результатов исследований в надежде замедлить распространение некоторых моделей-подражателей.