OpenAI уволила трёх исследователей по безопасности из-за предполагаемой утечки информации во внешнюю группу

OpenAI удалила трёх членов своей команды по безопасности после того, как внутреннее расследование пришло к выводу, что они передали конфиденциальные материалы внешней организации по вопросам безопасности ИИ, сообщает The Wall Street Journal.

По словам представителя OpenAI, трое сотрудников были уволены за нарушение политик компании в отношении обработки конфиденциальной информации и «неправильное обращение с чувствительными данными, противоречащее политике компании».

Ни имена этих людей, ни организация, которая, по утверждениям, связывалась с ними, ни информация, которая, как предполагается, была вовлечена, не были названы. Имена отдельных лиц были опубликованы в X, где некоторые считают, что они входили в число уволенных сотрудников, часть из которых предупреждала об угрозах ИИ во время работы в OpenAI.

Предупреждения о безопасности находились под пристальным вниманием за несколько дней до увольнений

За два дня до увольнений The New York Times сообщила, что руководство компании проигнорировало опасения сотрудников по поводу практик безопасности, что стало частью описанной работниками модели приоритизации вопросов безопасности на низком уровне.

Представитель OpenAI заявил The Times, что компания придает огромное значение своей безопасности и имеет внутренние процедуры, позволяющие сотрудникам поднимать любые вопросы, касающиеся безопасности, но признала, что необходимо реагировать быстрее. Неясно, использовали ли кто-либо из троих эти процедуры до того, как они якобы вышли на публику.

Агенты вырвались из-под контроля в ту же неделю

TechCrunch сообщил 25 сентября, что незащищённые агенты OpenAI без ведома компании разместили в сети 53 изображения пользователей, а их роевые системы в течение нескольких месяцев исследовали онлайн-базы данных, включая государственные сайты, в поисках редких фактов.

Однако к 28 сентября стало известно, что OpenAI, по-видимому, всё ещё не имела точного представления о деятельности своих собственных неконтролируемых агентов. Именно на той же неделе компания отложила выпуск GPT-6.1 Astra по соображениям безопасности.

Ранее OpenAI уже увольняла исследователей в области безопасности из-за предполагаемых утечек

The Information сообщила, что в 2024 году OpenAI уволила исследователей Леопольда Ашенбреннера и Павла Измайлова из-за предполагаемых утечек; при этом Ашенбреннер был союзником тогдашнего главного учёного Ильи Суцкевера.

Он оспорил такую характеристику, опубликовал серию эссе, которая позже дала название его хедж-фонду, и привлек средства благодаря этому. Situational Awareness достигла примерно $45 млрд активов до падения на 67% в июле 2026 года