La demanda de transparencia en la IA crece mientras Howso aborda la IA de "caja negra"
- Howso ofrece una IA transparente, mientras que otras utilizan una IA opaca de caja negra.
- La IA transparente beneficia al comercio minorista, la atención médica y la educación, con clientes como Mastercard.
- Mike Capps enfatiza la transparencia de la IA para garantizar la equidad y la responsabilidad.
En un mundo cada vez más impulsado por la inteligencia artificial (IA), la transparencia en los procesos de toma de decisiones se ha convertido en una preocupación urgente para muchos. Mike Capps, cofundador de Howso, una empresa con sede en Raleigh especializada en IA explicable, afirma que, al igual que las personas escudriñan los ingredientes de su comida del desayuno, deberían exigir transparencia en los sistemas de IA que influyen en aspectos críticos de sus vidas, como la atención médica y la educación.
El auge de la IA de caja negra
La presencia omnipresente de la IA en nuestras vidas ha llevado a su utilización en procesos de toma de decisiones fundamentales, que van desde procedimientos médicos y aprobaciones de créditos hasta determinaciones de libertad condicional. Sin embargo, Capps argumenta que un problema significativo con muchos sistemas de IA existentes es su opacidad, a menudo denominada "IA de caja negra".
Estos sistemas emiten juicios finales sin proporcionar información clara sobre cómo se alcanzan esas conclusiones, dejando a los usuarios y partes interesadas en la oscuridad sobre los criterios de toma de decisiones.
Howso, anteriormente conocida como Diveplane, fue fundada por Mike Capps en 2018 con la misión de desafiar la prevalencia de la IA de caja negra. El enfoque único de la empresa con la IA, conocido como "IA atribuible", la distingue.
La IA atribuible permite a los usuarios rastrear una decisión hasta puntos de datos específicos, haciendo que el proceso de toma de decisiones sea transparente y comprensible. Por ejemplo, si se recomienda una cirugía médica, el sistema de Howso puede señalar los 17 puntos de datos más cruciales que influyeron en esa decisión, ofreciendo claridad y responsabilidad.
El motor de IA de Howso ha encontrado aplicaciones en varios dominios. Uno de sus clientes, Scanbuy, colabora con grandes minoristas para aprovechar la herramienta de Howso para la inteligencia del cliente. Esto permite a los minoristas predecir las preferencias de los clientes de una manera que es tanto precisa como explicable.
Notablemente, instituciones educativas como la Universidad Estatal de Carolina del Norte (N.C. State) y la Universidad de Carolina del Norte (UNC) también han adoptado la tecnología de Howso para proyectos específicos, enfatizando la creciente demanda de IA transparente en el ámbito académico.
La decisión de abrir el código fuente del motor de IA de Howso en septiembre subraya el compromiso de la empresa con la transparencia. Este movimiento empodera a los usuarios para diseñar sus propias plataformas impulsadas por IA explicable, expandiendo aún más el alcance de la tecnología de IA transparente .
Clientes y asociaciones destacadas
La impresionante lista de clientes de Howso incluye gigantes de la industria como Mastercard y Mutua de Madrileña, una compañía de seguros española. Además, el Departamento de Salud Conductual y Servicios de Desarrollo de Virginia ha aprovechado la tecnología de Howso para mejorar los procesos de toma de decisiones. Estas asociaciones demuestran la amplia aplicabilidad y la demanda de sistemas de IA que priorizan la transparencia y la responsabilidad.
Capps subraya la importancia crítica de la transparencia en la IA, trazando un paralelo con las etiquetas de los alimentos. Al igual que los consumidores dependen de las etiquetas nutricionales para tomar decisiones informadas sobre su comida, las personas deberían exigir una transparencia similar con respecto a las decisiones impulsadas por la IA que impactan sus vidas. No se trata simplemente de una cuestión de confianza, sino también de un requisito fundamental para el desarrollo de software responsable.
Los peligros de la IA de caja negra
La IA de caja negra, como destaca Capps, plantea varios problemas inherentes. En primer lugar, plantea preguntas sobre la fiabilidad y la responsabilidad de los sistemas de IA. Si el funcionamiento interno de un sistema de IA está oculto, resulta difícil identificar y corregir errores o fallos. En consecuencia, el potencial de consecuencias no deseadas o sesgos permanece sin abordar, lo que lleva a costos de reemplazo significativos.
Una aplicación particularmente crucial de la IA donde la transparencia es vital es en las decisiones de libertad condicional. Estas determinaciones a menudo se basan en datos históricos, que pueden contener sesgos. Estos sesgos pueden perpetuarse cuando se escalan para la eficiencia, lo que potencialmente conduce a resultados injustos y discriminatorios. Capps enfatiza que, aunque existe el deseo de agilizar y acelerar los procesos judiciales, esto no debe ocurrir a expensas de perpetuar los sesgos raciales.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brian Koome
Brian Koome cuenta con más de siete años de experiencia en la cobertura de blockchain y criptomonedas, habiendo estado activo en el sector desde 2017. Ha colaborado con publicaciones líderes, entre ellas BlockToday.com. Además, desarrolló el curso Ethereum 101 para BitDegree.org antes de unirse a Cryptopolitan como escritor a tiempo completo. Brian cubre guías perennes (EGs), análisis profundos, entrevistas y análisis de precios. Su enfoque en DeFi, innovación en blockchain y proyectos emergentes de criptomonedas deleita a los lectores.
