Meta открывает исходный код Glimmer, пока Цукерберг называет централизацию biggest риском ИИ

Meta (NASDAQ: META) выпустила модель искусственного интеллекта с открытым исходным кодом Muse Glimmer наряду с манифестом генерального директора Марка Цукерберга, который заявил, что реальная опасность от продвинутого ИИ заключается не в «бунтующих машинах», а в том, что одна страна или компания монополизирует технологию.

Muse Glimmer — это плотная модель с 30 миллиардами параметров, которая помещается на ноутбук или одну потребительскую видеокарту, и Meta позиционирует её как «одну из самых производительных моделей своего размера».

Любой может загрузить модель, настроить её и запустить на собственном оборудовании, поскольку веса модели открыты.

По сообщениям, Meta создала Muse Glimmer с помощью дистилляции, обучая меньшую модель на выводах своей более крупной системы Muse Spark так что компактная версия наследует возможности от большего «учителя».

По словам Meta, веса версии Muse Spark 1.2 будут доступны в ближайшие недели. Обе модели называются крупнейшими американскими моделями с открытым исходным кодом на сегодняшний день.

Изначально Meta приостановила выпуск моделей с открытым исходным кодом, что Цукерберг объяснил стратегическим пересмотром. Теперь компания возобновила работу, так как теперь функционирует подразделение Meta Superintelligence Labs.

Что сказал Цукерберг о централизации ИИ в своем эссе?

Цукерберг в 6,500-словном эссе под названием «Будущее принадлежит всем: Путь к позитивному будущему ИИ» выступил против пессимистичного тона многих дискуссий об ИИ.

В интервьюон заявил: «Лично меня больше беспокоит централизация, чем любые конкретные риски, о которых говорят другие».

По словам Цукерберга, концентрация суперинтеллекта в руках немногих «естественным образом приведет к результатам, менее благоприятным для остальных».

Он добавил, что «не существует такой вещи, как единый благожелательный суперинтеллект».

Цукерберг также предложил альтернативу, основанную на трех идеях. Это расширение прав и возможностей отдельных людей как источник процветания, изобретательность, а не автоматизация как главная цель ИИ, и баланс сил как основа безопасности.

Что касается геополитики, Цукерберг написал, что правила США, замедляющие выпуск американских моделей даже на месяц, могут стоить стране лидерства, пока иностранные модели развиваются.

Независимый совет и $1 млрд фонд сообщества

Чтобы согласовать открытые выпуски с вопросами безопасности, Meta внедряет элементы управления. Цукерберг заявил, что независимый совет будет иметь полномочия утверждать критерии безопасности, регулирующие выпуск моделей, и проверять, соответствует ли конкретный выпуск этим критериям. Он сказал, что совет поможет обеспечить, чтобы открытые выпуски «соответствовали строгим стандартам безопасности».

Цукерберг также объявил о создании фонда «Будущее принадлежит всем» (Future is for Everyone Fund) на сумму $1 млрд, направленного на поддержку сообществ США, где расположены дата-центры Meta. Ожидается, что средства будут направляться на обучение учителей, работу спасателей и развитие местной энергетической и водной инфраструктуры.

Этот фонд рассматривается как попытка смягчить растущее местное сопротивление строительству дата-центров в США.