现在可以通过人工智能控制中心实时监控人工智能应用程序，以阻止有害的用户输入

人工智能监测初创公司WhyLabs推出了一款新的AI产品，该产品能够实时控制其AI应用的输出结果。该平台名为AI控制中心，旨在监控和控制AI解决方案的运行，以确保其可靠性和安全性，因为传统的监控系统无法可靠地监测AI。.

WhyLabs推出AI控制中心

该公司表示，企业目前面临诸多挑战，尤其是在LLM（生命周期管理）方面。企业团队必须确保其LLM不会因快速注入攻击而变得脆弱，从而避免产生有害或不准确的输出，损害企业声誉。.

该公司的解决方案可以通过实时评估学习型学习模型（LLM）的运行情况来帮助解决这些问题。它可以matic LLM可能遇到的所有问题，例如用户提示、生成响应（红黄绿）的过程以及生成的反馈。WhyLabs的首席执行官兼联合创始人Alessya Visnjic提到：

“我们的客户正在将生成式人工智能项目从原型阶段推进到生产阶段，而安全性和质量是其中最重要的因素。”

她还提到，传统的观测工具只能进行被动监测。

“仅靠被动可观测性工具不足以实现这一飞跃，因为您无法承受5分钟的延迟才能得知应用程序中发生了越狱dent 。我们全新的安全功能为人工智能团队提供了安全保障，可在300毫秒内阻止不安全的交互，威胁检测准确率高达93%。”

来源： Businesswire。

传统监控与基于人工智能的监控

维斯尼奇认为，传统监测与人工智能可观测性的区别在于，关键在于指出需要衡量的风险因素以及衡量这些因素所采用的程序，并确保衡量过程的一致性。她说：

“LLM 和基因工程人工智能应用带来了一系列我们以前从未解决过的全新安全挑战。”

来源： Siliconangle。

她解释了系统如何精准识别恶意注入或越狱行为所面临的挑战，包括最终用户任何恶意输入。WhyLabs 声称，AI 控制中心能够为企业提供对 AI 应用性能的实时控制，从而帮助网络安全和业务团队应对诸多风险。企业可以微调可观测性系统，并设置自己的高级威胁检测规则，以实现更精准的控制，而这也可以随着新威胁的出现而持续进行。.

通过这种方式，团队可以基于其 人工智能应用 与用户的交互构建高质量的数据集，因为该平台还支持对随着时间推移而出现的问题进行调查。这些功能以及许多其他用于提升人工智能模型性能的工具，现在都可以在 WhyLabs AI 控制平台上使用。该公司正在扩展其产品和服务，并获得了 1400 万美元的投资。主要投资者包括贝佐斯探险基金、人工智能基金和 Madrona Venture Group。