AWS расширяет возможности доступа и управления

Согласно последнему объявлению, Amazon Web Services (AWS), сервис Amazon, переносит часть своих инструментов в общедоступную среду.

Функции, призванные стать защитными барьерами для искусственного интеллекта, включают в себя инструмент оценки моделей и новые большие языковые модели (LLM).

Была представлена ​​функция Amazon Guardrails for AI (GFA), представленная в прошлом году и выпущенная в качестве предварительной версии год назад. Набор защитных барьеров для Amazon Bedrock, который будет отображаться в Bedrock в виде волшебника, может скрыть около 85% вредоносной информации, сообщила компания; его можно использовать для тонко настроенных моделей, агентов ИИ и всех LLM в библиотеке Bedrock.

Индивидуальные меры безопасности

Среди множества LPML-языков представлены Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic и Cohere Command. Организации могут использовать мастер Guardrails для создания индивидуальных защитных мер в соответствии с политикой своей компании, а затем применять эти реализации.

Следующим будет запущен Guardrails для Amazon Bedrock — программное обеспечение, которое позволит скрывать персональные данные. Пока неясно, но с помощью этого ПО персональные данные, такие как адрес электронной почты и номера телефонов, могут быть скрыты из ответов LLM.

Более того, Guardrails для Amazon Bedrock может интегрировать Amazon CloudWatch; таким образом, предприятия могут получать оповещения о входных данных или ответах модели, которые нарушают политики, defiв Guardrails.

Чтобы доказать, что IBM и другие конкуренты в этом бизнесе ведут себя адекватно, AWS пытается играть в догонялки. Однако эта проблема не уникальна для AWS, и другие поставщики моделей, такие как IBM, Google Cloud, Nvidia и Microsoft, не являются исключением и предоставляют аналогичные функции, помогающие предприятиям контролировать эту предвзятость.

Удовлетворение потребностей предприятий

Хотя г-н Айкан утверждал, что IBM относится к категории отстающих среди различных существующих поставщиков моделей, он не преминул упомянуть монополию IBM на разработку ИИ для ограждений, проработав более десяти лет с ее помощником по искусственному интеллекту Watson, а также с другими поставщиками ИИ.

«Хотя усилия IBM оказались неудачными, организация в итоге получила толчок к разработке защитных барьеров для ИИ. Поскольку AWS всё ещё находится на начальной стадии разработки защитных барьеров для ИИ, их дефицит, вероятно, даст ей преимущество, ведь, в конце концов, это лишь начальная стадия развития генеративного ИИ и программ магистратуры управления человеческими ресурсами», — сказал Пак, также упомянув об этом.

Наряду с изменениями AWS также представляет новую возможность импорта пользовательских встроенных моделей клиента, что позволит сократить эксплуатационные расходы и увеличить скорость разработки приложений.

Директор по прикладным наукам в AWS Шерри Маркус задается вопросом о том, расширил ли поставщик облачных услуг общие возможности, учитывая корпоративный спрос, создают ли уже некоторые предприятия собственные модели или дорабатывают общедоступные модели и используют ли некоторые из них инструменты оценки моделей через платформу Bedrock.