随着 Howso 着手解决人工智能“黑箱”问题，人们对人工智能透明度的需求日益增长。

在人工智能（AI）日益驱动的世界中，决策过程的透明度已成为许多人迫切关注的问题。总部位于罗利市、专注于可解释人工智能的Howso公司联合创始人迈克·卡普斯（Mike Capps）认为，正如人们会仔细查看早餐食品的成分一样，他们也应该要求影响其生活关键方面（例如医疗保健和教育）的人工智能系统具备透明度。

黑箱人工智能的兴起

人工智能在我们生活中无处不在，它已被应用于诸多关键决策过程，从医疗程序、信贷审批到假释裁定，无所不包。然而，卡普斯指出，许多现有人工智能系统存在一个重大问题，即其不透明性，通常被称为“黑箱人工智能”。 

这些系统在做出最终判断时，不会提供清晰的结论得出过程，导致用户和利益相关者对决策标准一无所知。.

Howso（前身为 Diveplane）由 Mike Capps 于 2018 年创立，旨在挑战黑箱式人工智能的普遍现状。该公司独特的 AI 方法，即“可归因 AI”，使其脱颖而出。. 

可归因人工智能使用户能够将决策 trac特定的数据点，从而使决策过程透明且易于理解。例如，如果医生提出了一项手术建议，Howso 的系统可以精确定位影响该决策的 17 个最关键数据点，从而提供清晰的决策依据和问责机制。.

Howso 的人工智能引擎已在多个领域得到应用。其客户之一 Scanbuy 与多家大型零售商合作，利用 Howso 的客户洞察工具。这使得零售商能够以既准确又可解释的方式预测客户偏好。. 

值得注意的是，北卡罗来纳州立大学和北卡罗来纳大学等教育机构也已在特定项目中采用了 Howso 的技术，这凸显了学术界对透明人工智能日益增长的需求。.

Howso 于 9 月决定开源其人工智能引擎，这凸显了该公司致力于提升透明度的决心。此举使用户能够设计自己的可解释人工智能驱动平台，进一步扩大透​​明人工智能 技术的。

值得关注的客户和合作伙伴

Howso 的客户名单令人瞩目，其中包括万事达卡和西班牙保险公司 Mutua de Madrileña 等行业巨头。此外，弗吉尼亚州行为健康与发育服务部也利用 Howso 的技术来优化决策流程。这些合作关系表明，注重透明度和问责制的 AI 系统具有广泛的应用前景和市场需求。.

卡普斯强调了人工智能透明度的关键重要性，并以食品标签为例进行了类比。正如消费者依靠营养标签来做出明智的食品选择一样，人们也应该要求人工智能驱动的、影响其生活的决策具有类似的透明度。这不仅关乎信任，更是负责任的软件开发的基本要求。.

黑箱人工智能的陷阱

正如卡普斯所强调的，黑箱人工智能存在几个固有的问题。首先，它引发了人们对人工智能系统可靠性和可追溯性的质疑。如果人工智能系统的内部运作机制是隐藏的，那么dent和纠正漏洞或错误就变得非常困难。因此，潜在的意外后果或偏见无法得到解决，最终导致高昂的更换成本。.

人工智能在假释决定中有着一项至关重要的应用，而透明度在其中扮演着举足轻重的角色。这些决定往往依赖于历史数据，而历史数据可能包含偏见。为了提高效率而扩大数据规模，这些偏见可能会被放大，从而导致不公平和歧视性的结果。卡普斯强调，虽然人们希望简化和加快法院程序，但这不应以延续种族偏见为代价。.