Компания Meta Platforms Inc., материнская компания Facebook, представила новый проект под названием «Фиолетовая лама», направленный на продвижение ответственного и этичного использования искусственного интеллекта (ИИ). Эта инициатива отражает приверженность Meta развитию технологий ИИ при обеспечении этичной и безопасной разработки.
Содействие ответственному развитию ИИ
Проект «Purple Llama» призван предоставить разработчикам инструменты и оценки для содействия ответственной разработке открытых моделей генеративного искусственного интеллекта. Свое название он получил от концепции «фиолетового командного взаимодействия» в кибербезопасности, которая объединяет наступательные и оборонительные стратегии для всесторонней оценки и смягчения потенциальных рисков.
В своей первоначальной версии «Purple Llama» предложит инструменты и оценки, ориентированные на кибербезопасность и защиту входных/выходных данных. Эти компоненты будут доступны на условиях разрешительного лицензирования, позволяющего как исследовательское, так и коммерческое использование.
Представляем «Llama Guard»
В рамках своей приверженности открытой и прозрачной науке компания Meta также запускает «Llama Guard» — базовую модель, призванную помочь разработчикамdentи предотвращать создание потенциально опасных результатов. Эта модель прошла обучение с использованием различных общедоступных наборов данных для обнаружения контента, который может представлять риски или нарушать правила.
Meta придерживается подхода, основанного на сотрудничестве, позволяя разработчикам настраивать будущие версии «Purple Llama» в соответствии со своими конкретными потребностями. Этот подход направлен на продвижение передовых методов и совершенствование открытой экосистемы для ответственной разработки генеративного ИИ. Meta стремится к сотрудничеству с партнерами, разделяющими видение создания ответственной и открытой экосистемы ИИ.
Компания Meta делает акцент на разработке искусственного интеллекта
Введение «Фиолетовой ламы» подчеркивает постоянные усилия Meta по продвижению безопасной и этичной разработки ИИ. Эта инициатива является продолжением запуска «LLaMa» в начале этого года, призванного помочь исследователям и инженерам в развитии приложений ИИ.
На ежегодной конференции Connect компания Meta уделила особое внимание развитию ИИ, заняв центральное место в своей стратегии. Этот акцент свидетельствует о смене стратегического направления Meta, переходе от виртуальной реальности к разработке ИИ. Meta позиционируется как конкурент таким моделям ИИ, как ChatGPT от OpenAI и Bing Chat от Microsoft. Многие исследователи ИИ считают, что «LLaMa» сыграет ключевую роль в изменении ландшафта больших языковых моделей, несмотря на то, что некоторые инвесторы считают её ценностное предложение неуловимым.
Проект Meta «Purple Llama» отражает приверженность компании развитию ответственного и этичного подхода к разработке ИИ. Предоставляя разработчикам инструменты, оценки и базовую модель, такую как «Llama Guard», Meta стремится внести свой вклад в создание открытой и прозрачной экосистемы ИИ. По мере дальнейшего развития технологий ИИ этические соображения и ответственные практики будут иметь решающее значение для обеспечения позитивного влияния ИИ на общество.
Проект Meta «Фиолетовая лама» служит свидетельством важности этики в ИИ и приверженности Meta к продвижению ответственной разработки ИИ в сотрудничестве с более широким сообществом разработчиков и исследователей
