La domanda di trasparenza nell'IA cresce mentre Howso affronta l'IA "scatola nera"

In un mondo sempre più guidato dall'intelligenza artificiale (IA), la trasparenza nei processi decisionali è diventata una preoccupazione pressante per molti. Mike Capps, co-fondatore di Howso, una società con sede a Raleigh specializzata in IA spiegabile, afferma che proprio come le persone scrutinano gli ingredienti del loro cibo per la colazione, dovrebbero esigere trasparenza nei sistemi IA che influenzano aspetti critici delle loro vite, come la sanità e l'educazione.

L'ascesa dell'IA scatola nera

La presenza pervasiva dell'IA nelle nostre vite ha portato al suo utilizzo in processi decisionali cruciali, che vanno dalle procedure mediche e alle approvazioni di credito fino alle determinazioni sulla libertà vigilata. Tuttavia, Capps sostiene che un problema significativo con molti sistemi IA esistenti è la loro opacità, spesso definita "IA scatola nera". 

Questi sistemi emettono giudizi finali senza fornire intuizioni chiare su come vengono raggiunte quelle conclusioni, lasciando utenti e stakeholder al buio sui criteri decisionali.

Howso, precedentemente nota come Diveplane, è stata fondata da Mike Capps nel 2018 con la missione di sfidare la prevalenza dell'IA scatola nera. L'approccio unico dell'azienda all'IA, noto come "IA attribuibile", la distingue. 

L'IA attribuibile permette agli utenti di tracciare una decisione fino a punti dati specifici, rendendo il processo decisionale trasparente e comprensibile. Ad esempio, se viene fatta una raccomandazione per un intervento chirurgico medico, il sistema di Howso può individuare i 17 punti dati più cruciali che hanno influenzato quella decisione, offrendo chiarezza e responsabilità.

Il motore IA di Howso ha trovato applicazioni in vari settori. Uno dei suoi clienti, Scanbuy, collabora con grandi dettaglianti per sfruttare lo strumento di Howso per l'intelligenza cliente. Questo consente ai dettaglianti di prevedere le preferenze dei clienti in modo accurato e spiegabile. 

In modo notevole, istituzioni educative come N.C. State e UNC hanno anche abbracciato la tecnologia di Howso per progetti specifici, sottolineando la crescente domanda di IA trasparente nel mondo accademico.

La decisione di open-source del motore IA di Howso a settembre sottolinea l'impegno dell'azienda a promuovere la trasparenza. Questa mossa dà agli utenti il potere di progettare le proprie piattaforme basate su IA spiegabile, espandendo ulteriormente la portata della tecnologia IA trasparente.

Clienti e partnership degni di nota

L'elenco impressionante di clienti di Howso include giganti del settore come Mastercard e Mutua de Madrileña, una compagnia di assicurazioni spagnola. Inoltre, il Dipartimento della Salute Comportamentale e dei Servizi per lo Sviluppo della Virginia ha sfruttato la tecnologia di Howso per processi decisionali migliorati. Queste partnership dimostrano l'ampia applicabilità e la domanda di sistemi IA che danno priorità alla trasparenza e alla responsabilità.

Capps sottolinea l'importanza cruciale della trasparenza nell'IA, tracciando un parallelo con le etichette alimentari. Proprio come i consumatori si affidano alle etichette nutrizionali per prendere decisioni informate sul proprio cibo, gli individui dovrebbero esigere una trasparenza simile riguardo alle decisioni guidate dall'IA che impattano le loro vite. Non si tratta solo di una questione di fiducia, ma anche di un requisito fondamentale per uno sviluppo software responsabile.

Le insidie dell'IA a scatola nera

L'IA a scatola nera, come evidenzia Capps, presenta diversi problemi intrinseci. Innanzitutto, solleva interrogativi sull'affidabilità e sulla responsabilità dei sistemi di IA. Se il funzionamento interno di un sistema di IA è nascosto, diventa difficile identificare e correggere bug o errori. Di conseguenza, il potenziale per conseguenze indesiderate o pregiudizi rimane inesplorato, portando a costi di sostituzione significativi.

Una delle applicazioni particolarmente cruciali dell'IA in cui la trasparenza è vitale è nei provvedimenti di libertà condizionale. Queste determinazioni si basano spesso su dati storici, che possono contenere pregiudizi. Tali pregiudizi possono essere perpetuati quando vengono scalati per efficienza, portando potenzialmente a risultati ingiusti e discriminatori. Capps sottolinea che, sebbene vi sia il desiderio di snellire e accelerare i processi giudiziari, ciò non dovrebbe avvenire a scapito della perpetuazione di pregiudizi razziali.