Работа каждого — безопасность: Илон Маск отвечает на опасения по поводу оттока кадров из xAI

Илона Маска критикуют за игнорирование мер безопасности после того, как бывшие сотрудники сообщили, что он распустил внутреннее подразделение безопасности в своем стартапе xAI, отвечающем за чат-бота Grok. 

Из оригинальных сооснователей xAI в компании продолжают работать только 12 человек после того, как несколько из них покинули ее по различным причинам, включая создание собственных компаний и жалобы на творческий застой.

Жертвует ли xAI безопасностью ради конкуренции с OpenAI?

Один источник, говоривший с The Verge, утверждал, что команда безопасности xAI фактически распущена, утверждая, что «Безопасность — это мертвая организация в xAI.»

Согласно сообщениям, имеется стремление к «нефильтрованному» контенту, что привело к фокусу на функциях NSFW (небезопасно для работы) для Grok AI.

Бывшие сотрудники утверждают, что Маск рассматривает меры безопасности как форму «цензуры». Они заявляют, что инженеров поощряют немедленно «выпускать в продакшн», иногда обходя традиционные фазы тестирования.

Эта культура, сообщается, привела к внутреннему трению между руководством, заставляя их часто спорить о приоритетах продукта в групповых чатах на платформе X.

Маск заявил на X, что «работа каждого — это безопасность.»

Приводя в пример Tesla и SpaceX, он сказал, что ни у одной из этих компаний нет огромного независимого отдела безопасности, однако они производят самые безопасные автомобили и ракеты в мире.

Для Маска отдельные отделы безопасности часто являются «фиктивными» и существуют лишь для «успокоения опасений посторонних», не имея реальной власти для улучшения продукта.

В своей продолжающейся юридической битве с OpenAI и ее генеральным директором Сэмом Альтманом он часто критиковал OpenAI за превращение в закрытую коммерческую компанию, ставящую прибыль выше безопасности, но его обвиняют в том же самом, поскольку он убрал внутренние механизмы сдержек и противовесов, предотвращающие генерацию ИИ вредного или предвзятого контента.

Частая смена кадров в xAI

После недавнего объявления о слиянии xAI и SpaceX, приведшем к внутренней оценке примерно в $1,25 трлн, компания пережила волну оттока высокопоставленных сотрудников, заставив людей усомниться во внутренней культуре компании, ее техническом направлении и подходе к безопасности ИИ. Бывшие сотрудники описывают компанию как организацию с «мертвой» службой безопасности.

Два наиболее известных сооснователя компании, Юхуай (Тони) Ву и Джимми Ба, недавно объявили о своем уходе. Ву заявил, что это «время для его следующей главы», в то время как Ба отметил, что ему нужно «пересмотрить свой градиент в большой картине.» Только половина из 12 оригинальных сооснователей, запустивших xAI, остаются в компании. Несколько других инженеров и сотрудников также подали в отставку, многие из которых заявили о намерении запустить собственные ИИ-компании. Одна группа бывших сотрудников уже запустила «Nuraline» — стартап, сосредоточенный на ИИ-инфраструктуре.

Некоторые уходящие сотрудники , такие как Вахид Каземи, предположили, что индустрия стала стагнирующей, написав на X, что «все ИИ-лаборатории строят одно и то же». Другие предположили, что xAI застрял в фазе «догоняющего», лишь пытаясь воспроизвести то, чего достигли OpenAI и Anthropic год назад, а не внедряя инновации.

На внутреннем общем собрании Маск объяснил, что xAI теперь будет разделен на четыре основных направления, а именно Grok Main и Voice, Coding и Data Macrohard.

Суперкомпьютерный кластер Colossus xAI в Мемфисе, штат Теннесси, в настоящее время содержит 100 000 графических процессоров Nvidia H100 и в настоящее время расширяется до 200 000 GPU. Это оборудование необходимо для обучения «Grok 3», который, по мнению Маска, превзойдет все другие ИИ-модели, представленные на рынке.