A demanda por transparência na IA cresce à medida que a Howso aborda a IA de “Caixa Preta”

Em um mundo cada vez mais impulsionado pela inteligência artificial (IA), a transparência nos processos de tomada de decisão tornou-se uma preocupação premente para muitos. Mike Capps, co-fundador da Howso, uma empresa sediada em Raleigh especializada em IA explicável, afirma que, assim como as pessoas analisam os ingredientes de seu café da manhã, elas devem exigir transparência nos sistemas de IA que influenciam aspectos críticos de suas vidas, como saúde e educação.

A ascensão da IA de caixa preta

A presença onipresente da IA em nossas vidas levou à sua utilização em processos decisivos cruciais, variando de procedimentos médicos e aprovações de crédito a determinações de liberdade condicional. No entanto, Capps argumenta que um problema significativo com muitos sistemas de IA existentes é sua opacidade, frequentemente referida como “IA de caixa preta”. 

Esses sistemas fazem julgamentos finais sem fornecer insights claros sobre como essas conclusões são alcançadas, deixando os usuários e partes interessadas no escuro sobre os critérios de tomada de decisão.

A Howso, anteriormente conhecida como Diveplane, foi fundada por Mike Capps em 2018 com a missão de desafiar a prevalência da IA de caixa preta. A abordagem única da empresa para a IA, conhecida como “IA atribuível”, a diferencia. 

A IA atribuível permite que os usuários rastreiem uma decisão de volta a pontos de dados específicos, tornando o processo de tomada de decisão transparente e compreensível. Por exemplo, se uma recomendação de cirurgia médica for feita, o sistema da Howso pode apontar os 17 pontos de dados mais cruciais que influenciaram essa decisão, oferecendo clareza e responsabilidade.

O mecanismo de IA da Howso encontrou aplicações em vários domínios. Um de seus clientes, a Scanbuy, colabora com grandes varejistas para aproveitar a ferramenta da Howso para inteligência do cliente. Isso permite que os varejistas prevejam as preferências dos clientes de uma maneira que é tanto precisa quanto explicável. 

Notavelmente, instituições educacionais como a N.C. State e a UNC também adotaram a tecnologia da Howso para projetos específicos, enfatizando a crescente demanda por IA transparente no meio acadêmico.

A decisão de abrir o código-fonte do mecanismo de IA da Howso em setembro sublinha o compromisso da empresa com a promoção da transparência. Este movimento capacita os usuários a projetarem suas próprias plataformas impulsionadas por IA explicável, expandindo ainda mais o alcance da tecnologia de IA transparente.

Clientes e parcerias notáveis

A impressionante lista de clientes da Howso inclui gigantes da indústria como a Mastercard e a Mutua de Madrileña, uma seguradora espanhola. Além disso, o Departamento de Saúde Comportamental e Serviços de Desenvolvimento da Virgínia aproveitou a tecnologia da Howso para aprimorar os processos de tomada de decisão. Essas parcerias demonstram a ampla aplicabilidade e a demanda por sistemas de IA que priorizam transparência e responsabilidade.

Capps sublinha a importância crítica da transparência na IA, estabelecendo um paralelo com os rótulos dos alimentos. Assim como os consumidores confiam nos rótulos nutricionais para tomar decisões informadas sobre seus alimentos, os indivíduos devem exigir transparência semelhante em relação às decisões impulsionadas por IA que impactam suas vidas. Não se trata apenas de uma questão de confiança, mas também de um requisito fundamental para o desenvolvimento responsável de software.

As armadilhas da IA de caixa preta

A IA de caixa preta, conforme destacado por Capps, apresenta vários problemas inerentes. Em primeiro lugar, levanta questões sobre a confiabilidade e a responsabilidade dos sistemas de IA. Se o funcionamento interno de um sistema de IA estiver oculto, torna-se difícil identificar e corrigir bugs ou erros. Consequentemente, o potencial de consequências não intencionais ou vieses permanece sem solução, levando a custos significativos de substituição.

Uma aplicação particularmente crucial da IA em que a transparência é vital é nas decisões de liberdade condicional. Essas determinações frequentemente dependem de dados históricos, que podem conter vieses. Esses vieses podem ser perpetuados quando escalados para eficiência, potencialmente levando a resultados injustos e discriminatórios. Capps enfatiza que, embora haja um desejo de simplificar e acelerar os processos judiciais, isso não deve ocorrer às custas da perpetuação de vieses raciais.