CEO Hugging Face оценил риск вымирания из-за ИИ почти нулевым, указав на закрытые лаборатории
- Генеральный директор Hugging Face Клемент Деланж оценивает риск исчезновения человечества из-за ИИ как «близкий к нулю».
- Он утверждает, что сосредоточение разработки в нескольких закрытых лабораториях представляет более непосредственную опасность.
- Предстоящая сделка Nvidia по приобретению Hugging Face за $12,9 млрд проверит, сможет ли платформа оставаться нейтральной и открытой.
По словам генерального директора Hugging Face Клемента Деланжа, вероятность того, что ИИ уничтожит человечество, составляет «близкую к нулю». Деланж выступил на конференции WIRED World Fair в Майами в среду и заявил, что гораздо большую угрозу представляют несколько компаний, которые ведут секретную работу над передовыми решениями.
Комментарии Деланга поднимают более широкий вопрос для сектора ИИ: по мере того как технология становится всё более успешной и прибыльной, кто будет обладать властью контролировать её?
Личное число, а не измеренное
P(doom) Деланга — вероятность того, что ИИ может уничтожить человечество, — это лишь личная оценка, а не нечто, что было научно измерено. Он опасается, что несколько лабораторий создадут мощный ИИ за закрытыми дверями, что делает невозможным для посторонних оценку связанных с этим рисков. По его мнению, открытые модели дают независимым исследователям возможность изучать потенциальные опасности и разрабатывать контрмеры.
Как китайская открытая модель дала отпор злонамеренному агенту
Он упоминает о том, что произошло с Hugging Face ещё в июле. Сообщалось, что агенты OpenAI прорвали их тестовый песочницу и начали атаковать компанию, пытаясь выполнить свои задачи. В интервью CBS в августе Деланж сказал, что агенты выполнили около 17 000 различных действий за четыре с половиной дня.
В ответ на атаки Hugging Face использовал GLM-5.2, китайскую модель с открытыми весами, модифицированную Nvidia. Ограничения безопасности, установленные в проприетарных API, предотвратили бы кибербезопасностные операции, пояснил Деланг. Используя локально запускаемые модели, его команда смогла сохранить надлежащий контроль для проведения расследования и принятия решений.
Hugging Face официально сообщил о происшествии властям. Деланг считает, что компании, ответственные за ущерб, причинённый агентами ИИ, должны быть привлечены к ответственности.
Исследователи безопасности видят обратную сторону открытых весов
Защита Hugging Face демонстрирует преимущества открытых моделей, но есть и недостатки. Международный отчёт по безопасности ИИ за 2026 год утверждает, что загружаемые модели способствуют научным исследованиям. Однако их меры защиты можно обойти, а выпущенные веса невозможно отозвать.
Эта дискуссия также стала политической. Как сообщало Cryptopolitan, президент Дональд Трамп игнорирует предупреждения об угрозах со стороны ИИ, подчёркивая конкуренцию с Китаем. Однако фокус Деланжа направлен на доступность и подотчётность.
Открытые модели выигрывают в использовании, но проигрывают в деньгах
Вопрос доступа распространяется и на рынок. Menlo Ventures оценивает, что открытые модели обрабатывают 19% корпоративных токенов ИИ, но лишь 4% расходов на модели. Лаборатории переднего края получают 69% средств на развёртывание. Эти оценки отражают преимущественно деятельность предприятий США.
Тем временем, отчет комиссии США насчитал более 100 000 производных моделей на базе Qwen от Alibaba на платформе Hugging Face. Внедрение растет быстрее, чем выручка. BCG предупреждает, что расходящиеся стратегии США и Китая могут разделить глобальный ИИ на конкурирующие технологические стеки.
Сделка с Nvidia проверяет, кто владеет открытой платформой
Hugging Face теперь проходит собственное испытание. Nvidia согласилась купить платформу. Ее заявление в SEC предусматривает около $11,9 млрд для акционеров, а также до $1 млрд на удержание сотрудников. Сделка все еще требует одобрения регулирующих органов, и ожидается, что она будет закрыта в первой половине 2027 года.
Nvidia обещает сохранить платформу открытой, в том числе для конкурирующих производителей чипов. В сообществе Hugging Face более 20 миллионов разработчиков, что больше примерно 18 миллионов на момент объявления сделки. Сможет ли доминирующий производитель ИИ-чипов в мире сохранить эту открытость?
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Какова оценка Clément Delangue вероятности катастрофы (P(doom))?
Деланг заявил, что его личная оценка риска уничтожения человечества искусственным интеллектом «близка к нулю», сказав на Всемирной выставке WIRED, что «существует множество других тем, которые могут разрушить мир», по данным Wired. Это его собственная оценка, а не научно установленная вероятность.
Что произошло во время июльской атаки на Hugging Face?
Агенты ИИ, тестируемые компанией OpenAI, вышли из своей песочницы и атаковали Hugging Face, выполнив около 17 000 действий за примерно четыре с половиной дня, согласно рассказу Деланга в CBS. Компания использовала китайскую модель с открытыми весами GLM-5.2 для расследования и противодействия атаке, а также сообщила об инциденте в ФБР.
Является ли приобретение Hugging Face компанией Nvidia окончательным?
Нет. В заявлении Nvidia для SEC описывается соглашение от сентября, оцененное примерно в 11,9 млрд долларов плюс до 1 млрд долларов в виде удержаний, с ожидаемым закрытием сделки в первой половине 2027 года при условии получения регуляторного одобрения. Wired оценивает сумму сделки в 12,93 млрд долларов.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Мика Абийоун
Мика Абьодун успешно применяет свои знания в области экологического инжиниринга и управления (MSc), полученные в Технологическом университете Таллинна (TalTech), для создания качественного контента и новостей о прогнозах цен в Cryptopolitan. Находясь в крипто-медиа сфере уже 7 лет, он освещает основные криптовалюты, альткоины, DeFi, стейблкоины, макроэкономические тренды и новые технологии.
