人工智能观察初创公司 WhyLabs 推出了一款新的人工智能产品，该产品将提供对其人工智能应用程序输出的实时控制。 该平台名为“人工智能控制中心”，旨在监控和控制人工智能解决方案的运行，以确保其可靠性和安全性，因为传统监控系统无法可靠地观察人工智能。
WhyLabs 推出人工智能控制中心
该公司表示，当今企业面临着许多挑战，尤其是法学硕士方面。 由于公司的团队必须确保即时注入攻击不会使他们的法学硕士容易受到影响，这样他们就不会提供可能损害其声誉的有害或不准确的输出。
该公司的解决方案可以通过实时评估法学硕士的运营情况来帮助解决这些问题。 因为它可以处理法学硕士可能matic的所有方面，例如用户提示、生成响应 (RAG) 的过程以及它生成的反馈。 WhyLabs 首席执行官兼联合创始人 Alessya Visnjic 提到
“我们的客户正在将生成式人工智能计划从原型转向生产，其中安全性和质量至关重要。”
她补充说，提到仅执行被动监控的传统可观察工具，
“仅靠被动可观察工具不足以实现这一飞跃，因为您无法承受 5 分钟的延迟dent得知应用程序中发生了越狱事件。 我们的新安全功能为 AI 团队提供了保障措施，可在 300 毫秒内防止不安全的交互，威胁检测准确率达 93%。”
资料来源：美国商业资讯。
传统监控与基于人工智能的监控
Visnjic 认为，传统监测与人工智能可观测性的区别在于，寻找的关键点是指出要衡量的风险因素以及以一致的方式衡量这些风险因素所采用的程序。 她说，
“法学硕士和新一代人工智能应用程序带来了一系列我们以前尚未解决过的全新安全挑战。”
资料来源： Siliconangle 。
她解释了系统如何精确定位即时注入或越狱的挑战，包括来自最终用户的任何类型的恶意输入。 WhyLabs 声称，AI 控制中心可以为企业提供对 AI 应用性能的实时控制，这有助于网络安全和业务团队应对许多风险。 企业可以微调可观测系统，还可以设置自己的一套高级威胁检测规则，以实现更精确的控制，这也可以是针对新威胁的持续演练。
通过这种方式，团队可以根据人工智能应用程序与用户的交互构建高质量的数据集，因为该平台还允许调查随着时间的推移出现的问题。 随着 WhyLabs 获得 1400 万美元的支持，该公司正在扩大其产品范围，现在可以在 WhyLabs AI 控制平台上使用这些功能以及许多其他用于 AI 模型性能的工具。 主要投资者是 Bezos Expeditions 和 AI Funds 以及 Madrona Venture Group。
原始故事可以在这里。
