随着Howso解决“黑盒”AI问题，对AI透明度的需求日益增长

在一个日益由人工智能（AI）驱动的世界里，决策过程的透明度已成为许多人迫切关注的问题。Howso的联合创始人Mike Capps表示，正如人们仔细审视早餐食物的成分一样，他们应该要求影响其生活关键方面（如医疗和教育）的AI系统提供透明度。Howso是一家位于罗利（Raleigh）的公司，专门从事可解释AI的研究。

黑盒AI的兴起

AI在我们生活中的普遍存在使其被用于关键的决策过程，从医疗程序、信贷批准到假释决定。然而，Capps认为，许多现有AI系统的一个主要问题是它们的黑箱性质，通常被称为“黑盒AI”。 

这些系统在做出最终判断时，并未提供清晰的见解来说明如何得出这些结论，使用户和利益相关者对决策标准一无所知。

Howso（前身为Diveplane）由Mike Capps于2018年创立，旨在挑战黑盒AI的普遍性。该公司独特的AI方法被称为“可归因AI”（attributable AI），使其与众不同。 

可归因AI允许用户将决策追溯到特定的数据点，使决策过程透明且易于理解。例如，如果做出医疗手术建议，Howso的系统可以指出影响该决策的17个最关键数据点，提供清晰度和问责制。

Howso的AI引擎已在各个领域找到应用。其客户之一Scanbuy与主要零售商合作，利用Howso的工具进行客户情报分析。这使得零售商能够以准确且可解释的方式预测客户偏好。 

值得注意的是，像北卡罗来纳州立大学（N.C. State）和北卡罗来纳大学（UNC）这样的教育机构也已在其特定项目中采用Howso的技术，强调学术界对透明AI日益增长的需求。

今年9月决定将Howso的AI引擎开源，凸显了该公司促进透明度的承诺。这一举措使用户能够设计自己的可解释AI驱动平台，进一步扩大透明AI 技术的影响力。

值得注意的客户和合作伙伴

Howso令人印象深刻的客户名单包括行业巨头万事达卡（Mastercard）和西班牙保险公司Mutua de Madrileña。此外，弗吉尼亚州行为健康与发展服务部门也利用Howso的技术来增强决策过程。这些合作伙伴关系证明了优先考虑透明度和问责制的AI系统的广泛适用性和需求。

Capps强调了AI透明度的至关重要性，并将其与食品标签相提并论。正如消费者依靠营养标签来做出关于食物的明智选择一样，个人也应该要求对其生活产生影响的AI驱动决策提供类似的透明度。这不仅仅是信任问题，也是负责任软件开发的基本要求。

黑盒AI的陷阱

正如Capps所指出的，黑盒AI存在几个固有问题。首先，它引发了关于AI系统可靠性和问责制的问题。如果AI系统的内部运作被隐藏，就很难识别和纠正错误或漏洞。因此，意外后果或偏见的可能性仍未得到解决，导致高昂的更换成本。

AI的一个特别关键的应用领域是假释决定，其中透明度至关重要。这些决定通常依赖于历史数据，其中可能包含偏见。当为了提高效率而扩大规模时，这些偏见可能会被延续，可能导致不公平和歧视性的结果。Capps强调，虽然人们希望简化和加快法院程序，但这不应以延续种族偏见为代价。