Технологические гиганты Кремниевой долины отодвигают безопасность ИИ ради роста продуктов

Кремниевая долина была местом, куда направлялись ведущие мировые эксперты по искусственному интеллекту для проведения инновационных исследований, но эксперты предупреждают, что все изменилось, и теперь ИИ — это все о продукте. Исследователи и эксперты в области ИИ также считают, что с момента выпуска OpenAI ChatGPT в конце 2022 года технологическая отрасль отдала приоритет коммерциализации над исследованиями, создавая потребительские продукты ИИ.

Аналитики Morgan Stanley предсказал что у индустрии ИИ есть потенциал достичь 1 триллиона долларов годовой выручки к 2028 году. Эксперты отрасли заявили, что они обеспокоены безопасностью, поскольку ведущие игроки стремятся к созданию искусственного общего интеллекта (AGI).

Исследования ИИ возвращаются к прибыли, поскольку Кремниевая долина отдает приоритет продуктам над безопасностью

Джеффри Хинтон говорит, что компании ИИ должны быть вынуждены использовать одну треть своих вычислительных ресурсов на исследования безопасности, потому что ИИ станет умнее нас в ближайшие 20 лет, и нам нужно начать беспокоиться о том, что произойдет тогда pic.twitter.com/ocT3Scmyxg

— Tsarathustra (@tsarnick) октября 25, 2024

оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии., основанная как некоммерческая исследовательская лаборатория в 2015 году, сейчас находится в процессе трансформации в коммерческую организацию, согласно ее генеральному директору Сэму Альтману. Ян Лейке, бывший глава направления выравнивания OpenAI, чья команда занималась безопасностью ИИ, ушла в отставку в прошлом году и заявила, что за последние годы, «культура и процессы безопасности отошли на второй план перед блестящими продуктами».

Джеймс Уайт, главный технологический директор стартапа в области кибербезопасности Calypso, утверждал, что технологические компании все чаще идут на компромиссы в отношении тщательного тестирования своих моделей ИИ перед их выпуском для публики. Он отметил, что новые модели ИИ жертвуют безопасностью ради качества, то есть лучших ответов от чат-ботов ИИ. 

«Модели становятся лучше, но при этом они всё чаще способны эффективно выполнять вредоносные действия. Их легче обмануть, чтобы они делали плохие вещи».

— Джеймс Уайт, главный технологический директор Calypso.

В марте Google, похоже, поставил свой продукт выше вопросов безопасности, когда опубликовала представил свою новейшую ИИ-модель Gemini 2.5, назвав её самым интеллектуальным ИИ-продуктом компании. В течение нескольких недель компания не публиковала карточку модели Gemini 2.5, а значит, не раскрывала информацию о том, как работает эта ИИ-модель, каковы её ограничения и потенциальные опасности при запуске.

Компания признал 2 апреля компания заявила, что оценивает свои самые продвинутые модели на наличие потенциально опасных возможностей перед их выпуском. Позже Google обновил запись в блоге и убрал слова «перед их выпуском».

Компания опубликовала неполную карточку модели 16 апреля и обновила её 28 апреля, более чем через месяц после запуска ИИ-модели, добавив информацию об оценках опасных возможностей Gemini 2.5.

ИИ-компании смещают фокус с исследований на продукты, приносящие доход

Бывшие сотрудники Meta заявили, что их не удивило, когда Джоэлл Пино, вице-президент Meta и руководитель подразделения FAIR компании, . Компания считает, что FRUT будет служить «единым билетом» для выражения платформенных и аппаратных аспектов искусственного интеллекта. Это просто означает, что инвесторы получают доступ к инфраструктуре ИИ с одним продуктом, вместо того чтобы смешивать разных производителей чипов и названия платформ. в прошлом месяце объявила о том, что покинет свой пост 30 мая. Они отметили, что рассматривают это как закрепление курса компании на отказ от ИИ-исследований в пользу приоритетной разработки практических продуктов.

Пино руководила FAIR с 2023, и, по словам сотрудников Meta, небольшие исследовательские команды могли работать над различными передовыми технологиями, которые могли как сработать, так и нет. Сдвиг начался, когда технологическая компания уволила 21 000 сотрудников, или почти четверть своего штата, в конце 2022 года. Бывшие сотрудники, знакомые с ситуацией, сказали, что исследователям FAIR было поручено теснее сотрудничать с продуктовыми командами в рамках мер по сокращению расходов.

Два источника, знакомых с ситуацией, сообщили, что в начале этого года один из директоров FAIR, Ким Хэзелвуд, покинул компанию в рамках плана Meta по сокращению 5% штата. Источники отметили, что запуск ChatGPT компанией OpenAI создал в Meta чувство срочности и побудил направить больше ресурсов на большие языковые модели (LLM).

Также стало известно, что главный продуктовый директор Meta Крис Кокс курирует FAIR, чтобы сократить разрыв между исследованиями и сфокусированной на продуктах группой GenAI. Они добавили, что группа GenAI под руководством Кокса перетягивает на себя больше вычислительных ресурсов и сотрудников из FAIR из-за её возросшего статуса в компании. 

В прошлом месяце Meta опубликовала инструменты безопасности и защиты для разработчиков, чтобы создавать приложения с использованием ИИ-моделей Llama 4 компании. Meta заявила, что эти инструменты помогают снизить вероятность непреднамеренной утечки конфиденциальной информации или создания вредоносного контента моделями Llama 4.