Cresce la domanda di trasparenza nell'intelligenza artificiale mentre Howso affronta l'intelligenza artificiale "Black Box"

In un mondo sempre più guidato dall'intelligenza artificiale (IA), la trasparenza nei processi decisionali è diventata una preoccupazione urgente per molti. Mike Capps, co-fondatore di Howso, un'azienda con sede a Raleigh specializzata in IA spiegabile, sostiene che, proprio come le persone esaminano attentamente gli ingredienti della loro colazione, dovrebbero esigere trasparenza nei sistemi di IA che influenzano aspetti critici della loro vita, come l'assistenza sanitaria e l'istruzione.

L'ascesa dell'intelligenza artificiale della scatola nera

La presenza pervasiva dell'IA nelle nostre vite ha portato al suo utilizzo in processi decisionali cruciali, che spaziano dalle procedure mediche alle approvazioni di crediti fino alle decisioni sulla libertà vigilata. Tuttavia, Capps sostiene che un problema significativo di molti sistemi di IA esistenti sia la loro opacità, spesso definita "IA a scatola nera". 

Questi sistemi emettono giudizi definitivi senza fornire informazioni chiare su come si giunge a tali conclusioni, lasciando gli utenti e le parti interessate all'oscuro sui criteri decisionali.

Howso, precedentemente nota come Diveplane, è stata fondata da Mike Capps nel 2018 con l'obiettivo di contrastare la diffusione dell'intelligenza artificiale basata su "scatola nera". L'approccio unico dell'azienda all'intelligenza artificiale, noto come "intelligenza artificiale attribuibile", la distingue. 

L'intelligenza artificiale attribuibile consente agli utenti di tracuna decisione a specifici punti dati, rendendo il processo decisionale trasparente e comprensibile. Ad esempio, se viene raccomandata una procedura chirurgica, il sistema di Howso può individuare i 17 punti dati più cruciali che hanno influenzato tale decisione, offrendo chiarezza e responsabilità.

Il motore di intelligenza artificiale di Howso ha trovato applicazione in diversi ambiti. Uno dei suoi clienti, Scanbuy, collabora con importanti rivenditori al dettaglio per sfruttare lo strumento di Howso per la customer intelligence. Ciò consente ai rivenditori di prevedere le preferenze dei clienti in modo accurato e spiegabile. 

In particolare, istituti scolastici come la NC State e la UNC hanno adottato la tecnologia di Howso per progetti specifici, sottolineando la crescente domanda di intelligenza artificiale trasparente nel mondo accademico.

La decisione di rendere open source il motore di intelligenza artificiale di Howso a settembre sottolinea l'impegno dell'azienda a promuovere la trasparenza. Questa mossa consente agli utenti di progettare le proprie piattaforme basate su intelligenza artificiale spiegabile, ampliando ulteriormente la portata della tecnologia.

Clienti e partnership degni di nota

L'impressionante lista di clienti di Howso include giganti del settore come Mastercard e Mutua de Madrileña, una compagnia assicurativa spagnola. Inoltre, il Dipartimento di Salute Comportamentale e Servizi per lo Sviluppo della Virginia ha sfruttato la tecnologia di Howso per migliorare i processi decisionali. Queste partnership dimostrano l'ampia applicabilità e la domanda di sistemi di intelligenza artificiale che privilegiano trasparenza e responsabilità.

Capps sottolinea l'importanza cruciale della trasparenza nell'intelligenza artificiale, tracciando un parallelo con le etichette alimentari. Proprio come i consumatori si affidano alle etichette nutrizionali per fare scelte consapevoli sui loro alimenti, gli individui dovrebbero pretendere la stessa trasparenza riguardo alle decisioni guidate dall'intelligenza artificiale che hanno un impatto sulla loro vita. Non è solo una questione di fiducia, ma anche un requisito fondamentale per uno sviluppo software responsabile.

Le insidie ​​dell'intelligenza artificiale della scatola nera

L'intelligenza artificiale "black box", come sottolinea Capps, pone diversi problemi intrinseci. In primo luogo, solleva interrogativi sull'affidabilità e la responsabilità dei sistemi di intelligenza artificiale. Se il funzionamento interno di un sistema di intelligenza artificiale è nascosto, diventa difficiledente correggere bug o errori. Di conseguenza, il rischio di conseguenze indesiderate o distorsioni rimane irrisolto, con conseguenti costi di sostituzione significativi.

Un'applicazione particolarmente cruciale dell'IA, in cui la trasparenza è fondamentale, riguarda le decisioni sulla libertà vigilata. Queste decisioni si basano spesso su dati storici, che possono contenere distorsioni. Tali distorsioni possono perpetuarsi quando vengono implementate per aumentarne l'efficienza, portando potenzialmente a esiti ingiusti e discriminatori. Capps sottolinea che, sebbene vi sia il desiderio di semplificare e accelerare i processi giudiziari, ciò non dovrebbe avvenire a scapito del perpetuarsi di pregiudizi razziali.