Veritas 工具包 2.0 赋能金融机构评估人工智能的负责任使用

软件工具包 Veritas Toolkit 已更新，以协助金融机构评估人工智能（AI）的负责任使用。该工具包由新加坡金融管理局（MAS）领导的财团开发，旨在通过提供问责制和透明度的评估方法，指导金融行业的组织，除了其现有的对公平性和伦理学的关注外。Veritas 财团由 31 家行业参与者组成，包括中国银行、Google Cloud、Microsoft、高盛、Visa 和 IBM 等知名机构。

扩展评估组成部分

Veritas 工具包的第二个版本建立在去年 2 月首次发布的基础上。更新后的版本现在涵盖了公平性、伦理学、问责制和透明度的评估方法，统称为 FEAT。通过利用该工具包，金融机构可以定义其人工智能和数据分析实施的目标，识别潜在偏见，并确保遵守这些基本原则。

MAS 强调，Veritas 工具包的第二次发布引入了 FEAT 中公平性组成部分的改进评估方法，并包括对剩余三个原则的审查方法。这一全面的更新解决了负责任采用人工智能的各个方面，促进了一个重视公平性、伦理学、问责制和透明度的生态系统。财团内的几家银行已经测试了该工具包，证实了其实用性和有效性。

Veritas 工具包 2.0 开源和集成能力

Veritas 工具包是一个开源解决方案，可在 GitHub 上获得，为金融机构提供了定制和将其集成到现有 IT 系统中的灵活性。该工具包可以通过插件进行增强，促进无缝集成，并使组织能够根据其特定要求定制评估流程。

该财团开发了新的用例来展示 Veritas 工具包的实际应用。其中一个例子涉及瑞士再保险（Swiss Reinsurance），它对基于预测性人工智能的承保功能进行了透明度评估。Google 还分享了其在印度欺诈检测支付系统中实施 FEAT 方法并将其人工智能原则和流程映射的经验。这些用例为其他希望采用负责任人工智能实践的金融机构提供了宝贵的见解和实施经验教训。

白皮书见解

除了工具包外，Veritas 还发布了一份白皮书，概述了包括渣打银行和汇丰银行在内的七家金融机构分享的经验教训。该文件揭示了将人工智能评估方法与其内部治理框架整合的情况。它强调了一个跨越不同地理区域的负责任人工智能框架的重要性，并强调需要一种基于风险的模型来确定各种人工智能用例的适当治理措施。白皮书还涵盖了负责任的人工智能实践以及在该行业培训新一代人工智能专业人员的重要性。

MAS 首席金融科技官 Sopnendu Mohanty 强调，由于人工智能发展的快速步伐，金融机构有必要建立强大的框架以负责任地使用人工智能。根据 Mohanty 的说法，Veritas 工具包 2.0 版本使组织能够有效评估其人工智能用例的公平性、伦理学、问责制和透明度。该工具包促进负责任的人工智能实践，并开发优先考虑伦理考量的 AI 生态系统。

应对风险及 OpenAI 的观点

新加坡政府确定了与生成式人工智能相关的六大关键风险，并提出了解决这些问题的框架。OpenAI 首席执行官 Sam Altman 在最近访问新加坡期间，强调了通过公众咨询开发生成式人工智能的重要性，确保人类控制以减轻与采用人工智能相关的潜在风险和危害。Altman 还强调了与偏见和数据本地化相关的挑战，主张在包含各种文化、语言和价值观的多样化数据集上训练人工智能平台。

Veritas 工具包 2.0 代表了金融机构负责任使用人工智能的重要一步。凭借其涵盖公平性、伦理学、问责制和透明度的全面评估方法，该工具包使组织能够评估其人工智能实施并确保遵守重要原则。通过利用这一开源解决方案和随附白皮书中分享的见解，金融机构可以驾驭人工智能技术的不断变化的格局，促进负责任的人工智能实践，并为开发伦理和透明的人工智能生态系统做出贡献。