Стартап по наблюдению за искусственным интеллектомWhyLabs представил новый продукт искусственного интеллекта, который обеспечит контроль результатов работы их приложений искусственного интеллекта в режиме реального времени. Платформа под названием AI Control Center предназначена для мониторинга и контроля работы ИИ-решений с целью обеспечения их надежности и безопасности, поскольку традиционные системы мониторинга не способны надежно наблюдать за ИИ.
ПочемуLabs представляет Центр управления искусственным интеллектом
Компания заявила, что сегодня предприятия сталкиваются со многими проблемами, особенно в отношении LLM. Поскольку команды в компаниях должны следить за тем, чтобы атаки быстрого внедрения не делали их LLM уязвимыми, чтобы они не предоставляли вредные или неточные результаты, которые могут нанести ущерб их репутации.
Решение компании может помочь в решении этих проблем, оценивая работу LLM в режиме реального времени. Поскольку он может иметь дело со всем спектром аспектов, которые могут быть matic для LLM, например, с подсказками пользователя, процессом генерации ответов (RAG) и обратной связью, которую он генерирует. Алессия Вишнич, генеральный директор и соучредительWhyLabs, отметила, что
«Наши клиенты переносят инициативы генеративного искусственного интеллекта от прототипов к производству, где безопасность и качество имеют первостепенное значение».
Упомянув традиционные инструменты наблюдения, которые выполняют только пассивный мониторинг, она добавила:
«Самых по себе инструментов пассивного наблюдения недостаточно для этого скачка, потому что вы не можете позволить себе 5-минутную задержку в получении информации о том, что в приложении произошел dent с джейлбрейком. Наши новые возможности обеспечения безопасности снабжают команды ИИ средствами защиты, которые предотвращают небезопасные взаимодействия менее чем за 300 миллисекунд, с точностью обнаружения угроз 93 %».
Источник: Businesswire .
Традиционный мониторинг и мониторинг на основе искусственного интеллекта для
По словам Вишнича, разница между традиционным мониторингом и наблюдением с помощью ИИ заключается в том, что ключевым моментом, на который следует обращать внимание, является указание факторов риска, которые необходимо измерить, и процедуры, принятой для их последовательного измерения. Она говорит,
«Приложения LLM и искусственного интеллекта открывают целый ряд новых проблем безопасности, которые мы раньше не решали».
Источник: Силиконангл .
Она объясняет проблемы, связанные с тем, как система определяет быстрое внедрение или джейлбрейк, включая любой тип ввода с плохими намерениями со стороны конечного пользователя. Центр управления ИИ может предоставить компаниям контроль над производительностью приложений ИИ в режиме реального времени, что помогает командам по кибербезопасности и бизнесу справляться со многими рисками, утверждаетWhyLabs. Компании могут точно настроить систему наблюдения, а также установить собственный набор правил для расширенного обнаружения угроз для более точного контроля, что также может представлять собой постоянное упражнение с возникающими угрозами.
Таким образом, команды могут создавать высококачественные наборы данных на основе приложений искусственного интеллекта с пользователями, поскольку платформа также позволяет исследовать проблемы, возникающие со временем. Этими возможностями теперь можно воспользоваться на платформеWhyLabs AI Control Platform, наряду со многими другими инструментами для повышения производительности моделей искусственного интеллекта, поскольку компания расширяет свое предложение, получив поддержку в размере 14 миллионов долларов. Ключевыми инвесторами являются Bezos Expeditions and AI Funds и Madrona Venture Group.
Оригинальную историю можно посмотреть здесь .
