Сэм Альтман уходит из Комиссии по безопасности OpenAI на фоне пристального внимания к его деятельности

Генеральный директор OpenAI Сэм Альтман подал в отставку из внутреннего Комитета по безопасности, созданного в мае для контроля за принятием важных решений в области безопасности. Уход Альтмана произошел в тот момент, когда американские законодатели и бывшие сотрудники OpenAI выразили обеспокоенность по поводу безопасности и соблюдения компанией законодательства.

Комитет по безопасности теперь будет работать как отдельный комитет на уровне совета директоров, который будет отслеживать вопросы безопасности. В связи с этим изменением его председателем назначен Зико Колтер, профессор Университета Карнеги-Меллона, а также генеральный директор Quora Адам Д'Анджело, отставной генерал армии США Пол Накасоне и бывший руководитель Sony Николь Селигман. Все они являются действующими членами совета директоров OpenAI. Группа по-прежнему будет иметь право задерживать выпуск моделей ИИ до тех пор, пока не будут решены вопросы безопасности. 

Критики ставят под сомнение приоритеты OpenAI на фоне ухода ключевых сотрудников.

В сообщении в блоге после ухода Альтмана компания OpenAI вновь подчеркнула свою приверженность безопасности и отметила, что комитет ранее одобрил безопасность новейшей модели o1. Группа также будет регулярно получать дополнительную информацию от сотрудников компании, занимающихся вопросами безопасности, чтобы держать членов в курсе будущих релизов моделей ИИ. Кроме того, компания заявила о намерении усилить меры безопасности путем проведения технических обзоров и четко определенных целей при запуске моделей. 

Это произошло на фоне критики, особенно со стороны пяти сенаторов США , которые летом выразили обеспокоенность по поводу мер безопасности компании. Критики также отметили , что более половины сотрудников, занимавшихся решением долгосрочных последствий внедрения ИИ, покинули компанию. Некоторые утверждают, что Альтмана больше волнует коммерческий аспект ИИ, чем регулирование этой технологии.

Расходы OpenAI растут. В первой половине 2024 года компания потратила 800 000 долларов на лоббирование на федеральном уровне, что значительно больше по сравнению с 260 000 долларов, потраченными за весь 2023 год. Ранее в этом году Альтман стал членом Совета по безопасности и защите искусственного интеллекта Министерства внутренней безопасности США. Этот комитет призван консультировать по вопросам использования ИИ в критически важных системах страны. 

Остаются вопросы относительно саморегулирования этого гиганта в сфере искусственного интеллекта. В статье для журнала The Economistбывшие члены совета директоров OpenAI Хелен Тонер и Таша МакКоли выразили сомнения в способности компании контролировать себя. Они заявили, что стремление к прибыли может подорвать самоуправление OpenAI, что, по их мнению, может противоречить долгосрочным целям обеспечения безопасности.

Компания OpenAI стремится к масштабному финансированию и планирует перейти к коммерческой модели работы.

По сообщениям, компания OpenAI ведет переговоры о привлечении крупного нового раунда финансирования, который может увеличить ее оценку до 150 миллиардов долларов. В недавнем отчете Cryptopolitanговорится, что OpenAI планирует привлечь 6,5 миллиардов долларов от инвесторов при текущей оценке компании. Сообщается, что OpenAI планирует к 2025 году трансформировать свою текущую операционную модель в традиционную коммерческую модель.

Генеральный директор OpenAI Сэм Альтман рассказал сотрудникам об изменениях во время недавнего собрания, но не раскрыл подробностей о том, чего следует ожидать. Альтман заявил, что компания «слишком разрослась» для существующей структуры и готова отказаться от некоммерческой модели.