OpenAI приостанавливает учетные записи, связанные с Китаем, использующие ChatGPT для инструмента слежки

OpenAI, ведущая американская стартап-компания в области искусственного интеллекта, только что заблокировала несколько учетных записей в ChatGPT, обвинив их в участии в разработке инструмента слежки. 

Согласно отчету компании, опубликованному в феврале 2025 года, приостановленные учетные записи, предположительно, имеют связи с Китаем. Эти учетные записи, как сообщается, использовали модели OpenAI для генерации подробных описаний инструмента прослушивания социальных сетей, который, по их утверждению, использовался для предоставления обратной связи в реальном времени о протестах на Западе китайским службам безопасности. 

Забаненные аккаунты также нашли способ использовать модели OpenAI для отладки кода, который, по-видимому, предназначался для реализации такого инструмента. 

Почему Китай вызывает подозрения 

В OpenAI действуют политики, направленные на предотвращение использования ИИ для мониторинга коммуникаций или несанкционированного наблюдения за отдельными лицами, включая деятельность от имени или по поручению правительств, стремящихся подавить личные свободы и права.

OpenAI смогла идентифицировать указанные аккаунты, опираясь на поведенческие паттерны и другие выводы. Сообщается, что эти аккаунты использовали модели OpenAI для помощи в анализе документов, создания коммерческих предложений, описания инструментов для мониторинга активности в социальных сетях, а также для исследования политических деятелей и тем.

Аккаунты подозреваются в наличии китайского происхождения поскольку их активность происходила преимущественно в часы делового дня в материковом Китае, а запросы к моделям OpenAI формулировались на китайском языке. 

OpenAI также обнаружила, что лица, стоящие за этими аккаунтами, использовали инструменты способом, характерным для ручного ввода запросов, а не автоматизации. В некоторых случаях компания выявила, что один аккаунт мог иметь несколько операторов.

Одной из основных операций операции являлось создание подробных описаний, соответствующих коммерческим предложениям, для так называемого «ИИ-ассистента по общественному мнению Qianyue за рубежом». 

Этот инструмент был разработан для анализа постов и комментариев на таких платформах, как X, Facebook, YouTube, Instagram, Telegram и Reddit, и передачи собранных данных китайским властям. 

К сожалению, OpenAI не смогла независимо подтвердить эти описания, и инцидент привел к повышению уровня тревоги в США. По словам главного следователя OpenAI Бена Нуиммо, этот случай является примером того, как авторитарные режимы, такие как Китай, могут пытаться использовать американские технологии против США и их союзников.

«Это довольно тревожный взгляд на то, как один недемократический субъект попытался использовать демократический или американский ИИ в недемократических целях, согласно материалам, которые они генерировали сами».

OpenAI также раскрыла информацию о том, что упомянутые аккаунты ссылались на другие ИИ-инструменты, включая версию Llama, открытой ИИ-модели от Meta. 

Этот случай произошел вскоре после создания DeepSeek 

OpenAI предупреждает об опасностях китайского ИИ, особенно после того, как DeepSeek впечатлил всех своей моделью рассуждений R1, которая превзошла многие другие американские модели в бенчмарках и вызвала масштабную распродажу акций на американских рынках. 

моделей DeepSeekЕго превосходство является спорным, а его создатели утверждают, что разработали его за долю от той стоимости, которую обычно тратят американские компании на создание своих моделей. Это заявление вызвало смешанные реакции общественности, но многие эксперты убеждены, что это преувеличение. 

OpenAI не только уверена, что команда DeepSeek потратила на разработку больше средств, но и обвинила DeepSeek в дистилляции (извлечении знаний) из выходных данных своих моделей для создания собственных. 

Согласно сообщению Bloomberg, Microsoft, крупный инвестор OpenAI, теперь расследует, использовались ли данные компании без разрешения.

Дэвид Сакс, недавно назначенный «AI и крипто-царем» Белого дома, поддержал опасения OpenAI, предположив, что DeepSeek мог использовать модели американской ИИ-компании для улучшения своих разработок — процесс, известный как дистилляция знаний.

«Есть существенные доказательства того, что то, что сделал DeepSeek, заключается в дистилляции знаний из моделей OpenAI», — сказал Сакс заявил. 

Он добавил, что в течение следующих нескольких месяцев ведущие американские ИИ-компании начнут предпринимать шаги по предотвращению дистилляции в надежде замедлить появление моделей-подражателей.