A demanda por transparência em IA cresce à medida que a Howso aborda a IA de "caixa preta"

Em um mundo cada vez mais impulsionado pela inteligência artificial (IA), a transparência nos processos de tomada de decisão tornou-se uma preocupação premente para muitos. Mike Capps, cofundador da Howso, uma empresa sediada em Raleigh especializada em IA explicável, afirma que, assim como as pessoas examinam os ingredientes de seus alimentos no café da manhã, elas devem exigir transparência nos sistemas de IA que influenciam aspectos críticos de suas vidas, como saúde e educação.

A ascensão da IA ​​de caixa preta

A presença generalizada da IA ​​em nossas vidas levou à sua utilização em processos decisórios cruciais, desde procedimentos médicos e aprovações de crédito até decisões sobre liberdade condicional. No entanto, Capps argumenta que um problema significativo com muitos sistemas de IA existentes é a sua opacidade, frequentemente referida como "IA de caixa preta" 

Esses sistemas emitem pareceres finais sem fornecer informações claras sobre como essas conclusões são alcançadas, deixando usuários e partes interessadas sem conhecimento dos critérios de tomada de decisão.

A Howso, anteriormente conhecida como Diveplane, foi fundada por Mike Capps em 2018 com a missão de desafiar a prevalência da IA ​​de caixa preta. A abordagem única da empresa para IA, conhecida como "IA atribuível", a diferencia das demais. 

A IA atribuível permite que os usuários tracuma decisão até pontos de dados específicos, tornando o processo de tomada de decisão transparente e compreensível. Por exemplo, se uma recomendação de cirurgia médica for feita, o sistema da Howso pode identificar os 17 pontos de dados mais cruciais que influenciaram essa decisão, oferecendo clareza e responsabilidade.

O mecanismo de IA da Howso encontrou aplicações em diversos setores. Um de seus clientes, a Scanbuy, colabora com grandes varejistas para aproveitar a ferramenta da Howso para inteligência de clientes. Isso permite que os varejistas prevejam as preferências dos clientes de maneira precisa e compreensível. 

Vale destacar que instituições de ensino como a NC State e a UNC também adotaram a tecnologia da Howso para projetos específicos, o que evidencia a crescente demanda por IA transparente no meio acadêmico.

A decisão de disponibilizar o código-fonte do mecanismo de IA da Howso em setembro reforça o compromisso da empresa em promover a transparência. Essa iniciativa permite que os usuários criem suas próprias plataformas de IA explicáveis, ampliando ainda mais o alcance da tecnologia.

Clientes e parcerias notáveis

A impressionante lista de clientes da Howso inclui gigantes do setor como Mastercard e Mutua de Madrileña, uma seguradora espanhola. Além disso, o Departamento de Saúde Comportamental e Serviços de Desenvolvimento da Virgínia utilizou a tecnologia da Howso para aprimorar seus processos de tomada de decisão. Essas parcerias demonstram a ampla aplicabilidade e a demanda por sistemas de IA que priorizam a transparência e a responsabilidade.

Capps destaca a importância crucial da transparência na IA, traçando um paralelo com os rótulos dos alimentos. Assim como os consumidores confiam nos rótulos nutricionais para fazer escolhas informadas sobre seus alimentos, os indivíduos devem exigir transparência semelhante em relação às decisões baseadas em IA que impactam suas vidas. Não se trata apenas de uma questão de confiança, mas também de um requisito fundamental para o desenvolvimento responsável de software.

Os perigos da IA ​​de caixa preta

Como Capps destaca, a IA de caixa preta apresenta diversos problemas inerentes. Em primeiro lugar, levanta questões sobre a confiabilidade e a responsabilidade dos sistemas de IA. Se o funcionamento interno de um sistema de IA é oculto, torna-se difícildente corrigir falhas ou erros. Consequentemente, o potencial para consequências não intencionais ou vieses permanece sem solução, levando a custos significativos de substituição.

Uma aplicação particularmente crucial da IA, onde a transparência é vital, diz respeito às decisões de liberdade condicional. Essas decisões frequentemente se baseiam em dados históricos, que podem conter vieses. Esses vieses podem ser perpetuados quando ampliados para fins de eficiência, potencialmente levando a resultados injustos e discriminatórios. Capps enfatiza que, embora haja o desejo de simplificar e agilizar os processos judiciais, isso não deve ocorrer à custa da perpetuação de preconceitos raciais.