La demanda de transparencia en la IA crece a medida que Howso aborda la IA de "caja negra"

En un mundo cada vez más impulsado por la inteligencia artificial (IA), la transparencia en los procesos de toma de decisiones se ha convertido en una preocupación apremiante para muchos. Mike Capps, cofundador de Howso, una empresa con sede en Raleigh especializada en IA explicable, afirma que, así como las personas examinan con atención los ingredientes de su desayuno, deberían exigir transparencia en los sistemas de IA que influyen en aspectos cruciales de sus vidas, como la atención médica y la educación.

El auge de la IA de caja negra

La omnipresencia de la IA en nuestras vidas ha propiciado su uso en procesos cruciales de toma de decisiones, desde procedimientos médicos y aprobaciones de crédito hasta la determinación de la libertad condicional. Sin embargo, Capps argumenta que un problema importante de muchos sistemas de IA existentes es su opacidad, a menudo denominada "IA de caja negra" 

Estos sistemas emiten juicios finales sin ofrecer información clara sobre cómo se llegan a esas conclusiones, dejando a los usuarios y a las partes interesadas en la oscuridad respecto de los criterios de toma de decisiones.

Howso, anteriormente conocida como Diveplane, fue fundada por Mike Capps en 2018 con la misión de combatir la prevalencia de la IA de caja negra. Su enfoque único en IA, conocido como "IA atribuible", la distingue. 

La IA atribuible permite a los usuarios tracuna decisión hasta puntos de datos específicos, lo que hace que el proceso de toma de decisiones sea transparente y comprensible. Por ejemplo, si se recomienda una cirugía, el sistema de Howso puede identificar los 17 puntos de datos más cruciales que influyeron en esa decisión, ofreciendo claridad y transparencia.

El motor de IA de Howso se ha aplicado en diversos ámbitos. Uno de sus clientes, Scanbuy, colabora con importantes minoristas para aprovechar la herramienta de inteligencia del cliente de Howso. Esto permite a los minoristas predecir las preferencias de los clientes de forma precisa y explicable. 

Cabe destacar que instituciones educativas como NC State y UNC también han adoptado la tecnología de Howso para proyectos específicos, lo que enfatiza la creciente demanda de IA transparente en el ámbito académico.

La decisión de liberar el código fuente del motor de IA de Howso en septiembre subraya el compromiso de la empresa con el fomento de la transparencia. Esta medida permite a los usuarios diseñar sus propias plataformas explicables basadas en IA, ampliando aún más el alcance de la tecnología.

Clientes y asociaciones destacados

La impresionante lista de clientes de Howso incluye a gigantes del sector como Mastercard y Mutua de Madrileña, una aseguradora española. Además, el Departamento de Salud Conductual y Servicios de Desarrollo de Virginia ha aprovechado la tecnología de Howso para optimizar los procesos de toma de decisiones. Estas colaboraciones demuestran la amplia aplicabilidad y demanda de sistemas de IA que priorizan la transparencia y la rendición de cuentas.

Capps subraya la importancia crucial de la transparencia en la IA, estableciendo un paralelo con las etiquetas de los alimentos. Así como los consumidores confían en las etiquetas nutricionales para tomar decisiones informadas sobre sus alimentos, las personas deberían exigir una transparencia similar con respecto a las decisiones basadas en la IA que impactan sus vidas. No se trata solo de una cuestión de confianza, sino también de un requisito fundamental para el desarrollo responsable de software.

Las trampas de la IA de caja negra

La IA de caja negra, como destaca Capps, plantea varios problemas inherentes. En primer lugar, cuestiona la fiabilidad y la responsabilidad de los sistemas de IA. Si el funcionamiento interno de un sistema de IA está oculto, resulta difícildenty corregir errores. En consecuencia, no se aborda la posibilidad de consecuencias o sesgos no deseados, lo que genera importantes costes de sustitución.

Una aplicación particularmente crucial de la IA, donde la transparencia es vital, es en las decisiones sobre libertad condicional. Estas determinaciones a menudo se basan en datos históricos, que pueden contener sesgos. Estos sesgos pueden perpetuarse al ampliarse para lograr eficiencia, lo que podría conducir a resultados injustos y discriminatorios. Capps enfatiza que, si bien existe el deseo de agilizar y acelerar los procesos judiciales, esto no debe ir en detrimento de la perpetuación de los sesgos raciales.