Sentient привлекла ветерана открытого ИИ Mozilla Джули Белиао на фоне выхода в сферу верификации моделей
Изображение: [Жюли Белиао](https://www.linkedin.com/in/jbeliao) в LinkedIn
- Фонд Sentient назначил Жюли Белиао, бывшего лидера в области продуктов Mozilla.ai и Google, на должность вице-президента по продуктам.
- Её задача — превратить исследования происхождения моделей в рабочие инструменты.
- Разработчики и предприятия, внедряющие ИИ с открытым исходным кодом, в настоящее время не имеют надёжного способа доказать происхождение модели.
Фонд Sentient назначил Жюли Белиао, бывшего вице-президента по продуктам в Mozilla.ai и долголетнего инженера Google, на должность вице-президента по продуктам.
Белиао теперь отвечает за превращение исследований некоммерческой организации о происхождении ИИ-моделей в программное обеспечение, которым могут реально пользоваться разработчики.
Какова роль Жюли Белиао в Фонде Sentient?
Жюли Белиао, ранее занимавшая пост вице-президента по продуктам в Mozilla.ai и проработавшая несколько лет инженером в Google (NASDAQ: GOOGL), была нанята на должность вице-президента по продуктам в Фонде Sentient.
Задача Белиао — руководить работой над продуктами в области рекурсивного самосовершенствования (ИИ, который улучшает себя) и происхождения моделей. Фонд отмечает, что пока не существует стандартного способа доказать, на каких данных обучалась ИИ-модель, поэтому работа Белиао заключается в создании рабочих продуктов, которые это позволяют.
В период работы в Mozilla.ai Белан отвечала за стратегию с открытым исходным кодом для 61 репозитория и способствовала росту сообщества разработчиков. В 2025 году она также стала соавтором статьи «К лучшим практикам использования открытых наборов данных для обучения больших языковых моделей» совместно с Mozilla и EleutherAI.
Фонд Mozilla указывает её в числе соавторов этой публикации вместе с исполнительным директором EleutherAI Стеллой Бидерман и Марком Сурманом из Mozilla. В статье утверждается, что данные для обучения искусственного интеллекта должны иметь лицензию, подробную документацию и чёткое происхождение.
До прихода в Mozilla Белан более десяти лет работала над многоязычными системами искусственного интеллекта. Она занималась данными для распознавания речи и обработки естественного языка в продуктах Google Assistant, Google Translate и YouTube, все они являются продуктами компании Google (NASDAQ: GOOGL). Имеет степень доктора философии по компьютерным наукам Университета Париж-Нантер.
Почему сейчас так важно отслеживать происхождение моделей ИИ?
В конце сентября OpenAI заявила о прекращении совместных усилий по исключению пошагового рассуждения из своих моделей ИИ. Компания связала эти действия с лицами, имеющими отношение к Moonshot AI — разработчику Kimi.
В феврале компания Anthropic сообщила, что три китайские лаборатории ИИ направили более 16 миллионов запросов к своей модели Claude с использованием около 24 000 фейковых аккаунтов. Anthropic заявила, что лаборатории хотели извлечь возможности Claude. Moonshot обеспечила более 3,4 миллиона взаимодействий с Claude.
Когда модель копируется, дообучается или встроен в другую систему, покупатели часто не могут определить, на каких данных она была обучена.
Компания Sentient уже пыталась решить эту проблему в октябре, запустив Fingerprinting Leaderboard — открытый тест, проверяющий, смогут ли методы подтверждения происхождения модели пережить копирование, дообучение и целенаправленные попытки их удаления.
Исследователи Sentient создали атаки против десяти предложенных методов «отпечатков», и результаты показали, что почти все они могут быть обойдены без ущерба для качества модели, включая собственный метод Sentient Perinucleus, который разместил 24 576 отпечатков в Llama-3.1-8B.
«Отпечатки помещают доказательство внутрь модели», — объяснила Сачи Камиа, директор по венчурным проектам и развитию фонда. Она сравнила их со скрытыми знаками, которые использовали художники эпохи Возрождения, чтобы заявить о своём авторстве.
Это исследование продолжает работу Sentient в области OML, что является сокращением от Open-access, Monetizable и Loyal AI Model Serving. Проект был реализован совместно с Принстонским университетом и Университетом Вашингтона и направлен на то, чтобы создатели могли делиться открытыми моделями, сохраняя при этом возможность доказать своё авторство в будущем.
Sentient запущен в феврале как сингапурская некоммерческая организация, которая обязуется поддерживать открытый исходный код AGI. В июне она выделил гранты на сумму $42 млн и привлекает инвестиции для разработчиков с открытым исходным кодом. Её проекты, включая ROMA, OpenDeepSearch и работу по внедрению OML-файнгерпринтинга, набрали более 12 500 звёзд на GitHub.
Исследователи из Google (NASDAQ: GOOGL), Microsoft (NASDAQ: MSFT) и Meta (NASDAQ: META) упоминают их в своих работах.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Часто задаваемые вопросы
Кто такая Джули Белио?
Она — новый вице-президент Sentient Foundation по продукту, ранее занимавшая ту же должность в Mozilla.ai, а также инженер Google с более чем 15-летним опытом в области ИИ. Имеет степень доктора философии (PhD) по компьютерным наукам в Университете Париж-Нантер.
Что такое происхождение модели и почему это важно?
Происхождение модели (model provenance) — это способность подтвердить, откуда взялась ИИ-модель и какие данные использовались для её обучения. Это важно, потому что скопированные, дообученные или дистиллированные модели могут лишить создателя атрибуции и защитных механизмов, а на данный момент не существует устоявшегося стандарта верификации.
Что Sentient уже сделала в области файнгерпринтинга моделей?
В октябре Sentient запустила открытый рейтинг методов отпечатков и выяснила, что почти все десять протестированных методов, включая собственный подход Perinucleus, могут быть обойдены продвинутым злоумышленником при сохранении полезности модели.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
