El Kit de Herramientas Veritas 2.0 Empodera a las Instituciones Financieras para Evaluar el Uso Responsable de la IA

Se ha actualizado el kit de software Veritas Toolkit para ayudar a las instituciones financieras a evaluar el uso responsable de la inteligencia artificial (IA). Desarrollado por un consorcio liderado por la Autoridad Monetaria de Singapur (MAS), el kit tiene como objetivo guiar a las organizaciones del sector financiero proporcionando metodologías de evaluación para la responsabilidad y la transparencia, además de su enfoque existente en equidad y ética. El consorcio Veritas está compuesto por 31 actores de la industria, incluidas organizaciones destacadas como el Banco de China, Google Cloud, Microsoft, Goldman Sachs, Visa e IBM.

Ampliación de los componentes de evaluación

La segunda iteración del Kit de herramientas Veritas se basa en su lanzamiento inicial en febrero del año anterior. La versión actualizada ahora abarca metodologías de evaluación para la equidad, la ética, la responsabilidad y la transparencia, conocidas colectivamente como FEAT. Al aprovechar el kit de herramientas, las instituciones financieras pueden definir los objetivos de sus implementaciones de inteligencia artificial y análisis de datos, identificar posibles sesgos y garantizar el cumplimiento de estos principios esenciales.

La MAS destaca que la segunda versión del Kit de herramientas Veritas introduce una metodología de evaluación mejorada para el componente de equidad de FEAT e incluye metodologías de revisión para los otros tres principios. Esta actualización integral aborda las diversas facetas de la adopción responsable de la IA, promoviendo un ecosistema que valora la equidad, la ética, la responsabilidad y la transparencia. Varias bancas dentro del consorcio ya han probado el kit de herramientas, confirmando su practicidad y eficacia.

Kit de herramientas Veritas 2.0 Código abierto y capacidades de integración

El Kit de herramientas Veritas es una solución de código abierto disponible en GitHub, que ofrece a las instituciones financieras la flexibilidad de personalizarlo e integrarlo en sus sistemas TI existentes. El kit de herramientas puede mejorarse con complementos, facilitando una integración fluida y permitiendo a las organizaciones adaptar los procesos de evaluación a sus requisitos específicos.

El consorcio desarrolló nuevos casos de uso para demostrar la aplicación práctica del Kit de herramientas Veritas. Un ejemplo destacado involucró a Swiss Reinsurance, que realizó una evaluación de transparencia de su función de suscripción basada en IA predictiva. Google también compartió su experiencia al implementar las metodologías FEAT en sistemas de detección de fraude de pagos en India y al mapear sus principios y procesos de IA. Estos casos de uso ofrecen valiosas perspectivas y lecciones de implementación para otras instituciones financieras que buscan adoptar prácticas de IA responsable.

Perspectivas del documento técnico

Además del kit de herramientas, Veritas publicó un documento técnico que resume las experiencias y lecciones compartidas por siete instituciones financieras, entre ellas Standard Chartered Bank y HSBC. El documento aclara cómo integrar la metodología de evaluación de IA con sus marcos de gobernanza interna. Hace hincapié en la importancia de un marco de IA responsable que abarque diferentes geografías y destaca la necesidad de un modelo basado en riesgos para determinar las medidas de gobernanza adecuadas para diversos casos de uso de IA. El documento también aborda las prácticas de IA responsable y la relevancia de formar a una nueva generación de profesionales de IA en el sector financiero.

Sopnendu Mohanty, Oficial Principal de Fintech de MAS, subraya la necesidad de que las instituciones financieras establezcan marcos sólidos para el uso responsable de la IA debido al rápido avance de esta tecnología. Según Mohanty, la versión 2.0 del Kit de Herramientas Veritas permite a las organizaciones evaluar eficazmente sus casos de uso de IA en términos de equidad, ética, responsabilidad y transparencia. El kit promueve prácticas de IA responsables y fomenta un ecosistema de IA que prioriza las consideraciones éticas.

Abordar los riesgos y la perspectiva de OpenAI

El gobierno de Singapur ha identificado seis riesgos clave asociados con la IA generativa y ha propuesto un marco para mitigar estos problemas. Sam Altman, CEO de OpenAI, durante su reciente visita a Singapur, enfatizó la importancia de desarrollar la IA generativa mediante consultas públicas, asegurando el control humano para mitigar los riesgos y daños potenciales asociados con la adopción de la IA. Altman también destacó los desafíos relacionados con el sesgo y la localización de datos, abogando por entrenar plataformas de IA con conjuntos de datos diversos que abarquen diversas culturas, idiomas y valores.

El Kit de herramientas Veritas 2.0 representa un avance significativo en el uso responsable de la IA para las instituciones financieras. Con sus metodologías integrales de evaluación que abarcan equidad, ética, responsabilidad y transparencia, el kit permite a las organizaciones evaluar sus implementaciones de IA y garantizar el cumplimiento de principios vitales. Al aprovechar esta solución de código abierto y los conocimientos compartidos en el documento blanco adjunto, las instituciones financieras pueden navegar el panorama en evolución de la tecnología de IA, fomentando prácticas responsables de IA y contribuyendo al desarrollo de un ecosistema de IA ético y transparente.