OpenAI расширяет возможности безопасности для защиты интеллектуальной собственности от угроз китайского внешнего шпионажа

Компания OpenAI обновила свои меры безопасности для защиты от внешних угроз. Компания, занимающаяся разработкой искусственного интеллекта и имеющая мировую известность благодаря таким продуктам, как ChatGPT, с капитализацией в 300 миллиардов долларов, провела масштабную модернизацию системы безопасности, включающую более строгий контроль доступа, усиленную проверку сотрудников и физические меры защиты.

Хотя компания отрицает утверждение о том, что ее действия являются ответом на действия конкурентов, OpenAI усилила свои процедуры обеспечения безопасности после инцидентаdent январе с участием китайского стартапа DeepSeek.

OpenAI проводит модернизацию системы безопасности

В последние месяцы OpenAImaticусилила внутренние меры безопасности для защиты своей интеллектуальной собственности от иностранного шпионажа, особенно со стороны Китая. Компания начала внедрять более строгие протоколы в прошлом году, но эти усилия приобрели новую актуальность после запуска DeepSeek в январе.

Компания OpenAI подозревает, что конкурирующая компания использовала метод «дистилляции» для разработки и выпуска конкурирующего продукта. Дистилляция — это метод, который предполагает обучение новой модели имитации поведения другой модели.

«Этот инцидент побудил OpenAI значительно ужесточить контроль», — сказал источник, близкий к команде безопасности. С тех пор компания активно расширяет свою деятельность в области кибербезопасности и ужесточает контроль над доступом к конфиденциальным исследованиям, данным моделей и инфраструктуре.

Компания DeepSeek пока никак не отреагировала на выдвинутые обвинения.

dent с DeepSeek также спровоцировал масштабные внутренние репрессии в OpenAI. Новые правила, известные внутри компании как «защита информации», теперь используются для определения порядка доступа к конфиденциальным данным и их распространения.

Доступ к ведущим исследовательским проектам имеет лишь узкий круг сотрудников, и те, кто участвует в определенных разработках, должны подтвердить, что другие, с кем они взаимодействуют, также принадлежат к той же «группе»

Такой осторожный подход был реализован в ходе разработки модели следующего поколения OpenAI, которая внутри компании называется «Клубника». Сотрудникам было дано указание не обсуждать проект в открытых офисных пространствах, если они не были уверены, что их коллеги официально уполномочены принимать в нем участие.

Эта секретность вызвала некоторые внутренние трения, и один из сотрудников описал ее как «очень строгую», заявив: «У тебя либо было все, либо ничего»

На системном уровне OpenAI теперь хранит большую часть своих запатентованных технологий в изолированных, автономных средах. Эта изолированная инфраструктура отделяет критически важные системы от более широких сетей и общедоступного интернета, снижая риск удаленного проникновения.

Также была улучшена физическая безопасность: в некоторых помещениях офиса компании в Сан-Франциско теперь требуется доступ по биометрической идентификации по отпечатку пальца.

Для дальнейшего предотвращения утечки ключевых параметров, определяющих реакцию моделей OpenAI на запросы пользователей, компания ввела строгую политику «запрета исходящего трафика по умолчанию». Это означает, что системам блокируется доступ к интернету без специального разрешения.

Лидерство в области искусственного интеллекта стало полем битвы между США и Китаем

Между США и Китаем идет непрекращающаяся конкуренция за лидерство в новых технологиях, особенно в области искусственного интеллекта.

Вашингтон ввел ряд экспортных ограничений, призванных предотвратить приобретение Пекином передовых полупроводников и связанных с ними технологий. В то же время американские разведывательные агентства предупредили, что иностранные субъекты активизировали свои усилия по краже конфиденциальных данных у американских технологических компаний.

Эскалация угроз шпионажа подтолкнула ряд крупных компаний Кремниевой долины к ужесточению проверки новых сотрудников, и OpenAI не является исключением. Компании, занимающиеся искусственным интеллектом и технологиями, начали более серьезно оценивать риски, связанные с внутренними угрозами, начиная с 2023 года.

В октябре прошлого года компания OpenAI наняла Дейна Стакки на должность директора по информационной безопасности. Стакки, ранее занимавший аналогичную должность в Palantir, привнесет в оборонную стратегию организации подход, ориентированный на национальную безопасность.

Стакки тесно сотрудничает с Мэттом Найтом, вице-dent OpenAI по продуктам безопасности, который в настоящее время возглавляет усилия по использованию собственных больших языковых моделей компании в качестве инструментов защиты от киберугроз.

Кроме того, в прошлом году компания OpenAI включила в свой совет директоров отставного генерала армии США Пола Накасоне. Накасоне ранее возглавлял Киберкомандование США и Агентство национальной безопасности (АНБ). Он привнесет в команду руководителей OpenAI глубокое понимание угроз кибербезопасности и стратегий защиты.

Несмотря на серьезный характер этих изменений, OpenAI заявила, что модернизация системы безопасности не является прямой реакцией на какой-либо отдельныйdent.

Представитель компании сообщил Financial Times, что обновления являются частью инвестиций компании в обеспечение конфиденциальности и безопасности, поскольку она стремится занять лидирующие позиции в отрасли.

Усиленное внимание к иностранному шпионажу, особенно со стороны Китая, вызвало опасения по поводу разжигания ксенофобских настроений в отрасли. Ряд инсайдеров и наблюдателей выразили обеспокоенность тем, что масштабная политика в области безопасности может непреднамеренно оттолкнуть сотрудников азиатского происхождения или привести к чрезмерной проверке на основе гражданства, а не реальных признаков угрозы.