Affrontare il pregiudizio algoritmico: l'iniziativa IEEE P7003 promuove lo sviluppo etico dell'IA

Nell'era digitale di oggi, l'intelligenza artificiale (IA) svolge un ruolo sempre più cruciale nelle nostre vite quotidiane, dalle raccomandazioni di streaming personalizzate alle applicazioni sanitarie. Tuttavia, questa proliferazione dell'IA solleva preoccupazioni riguardo al pregiudizio algoritmico, quando i sistemi di IA producono risultati pregiudizievoli a causa di assunzioni sottostanti o dati di addestramento sbilanciati. 

Per affrontare questo problema frontalmente, l'IEEE Standards Association (IEEE SA) ha lanciato il Gruppo di Lavoro P7003 per stabilire un quadro completo per la creazione di sistemi di IA che mitigano il pregiudizio e garantiscono l'equità.

Il pregiudizio algoritmico, una preoccupazione pressante nell'IA, sorge quando gli algoritmi di machine learning producono involontariamente risultati che favoriscono certi gruppi o attributi rispetto ad altri. Questo pregiudizio è spesso radicato nei dati su cui gli algoritmi sono addestrati, e le sue conseguenze possono essere profonde. Ad esempio, il software di riconoscimento facciale addestrato prevalentemente su un singolo gruppo demografico può risultare in una mancata identificazione o esclusione di altri gruppi, portando a conseguenze nel mondo reale come ritardi per i viaggiatori alla sicurezza di frontiera.

Tre fonti di pregiudizio

Il Gruppo di Lavoro IEEE P7003 identifica tre fonti primarie di pregiudizio che possono manifestarsi nei sistemi di IA:

Pregiudizio da parte degli sviluppatori dell'algoritmo: Questo tipo di pregiudizio deriva dagli obiettivi di ottimizzazione imposti dagli sviluppatori. Ad esempio, un algoritmo progettato per massimizzare la produzione dei lavoratori in un sistema aziendale potrebbe involontariamente trascurare la salute dei lavoratori, portando a un pregiudizio.

Pregiudizio all'interno del sistema: Alcuni sistemi presentano intrinsecamente differenze di prestazioni tra varie categorie, come discrepanze nell'accuratezza del riconoscimento facciale basate su razza e genere.

Pregiudizio da parte degli utenti del sistema: Gli utenti possono anche introdurre pregiudizi quando interpretano e agiscono in base alle uscite algoritmiche. Il pregiudizio di conferma, in cui gli utenti accettano informazioni che si allineano con le loro credenze preesistenti senza verificare i fatti, è un esempio di ciò.

Il ruolo di IEEE P7003

Il Gruppo di Lavoro P7003 dell'IEEE SA mira ad affrontare questi problemi fornendo un quadro di sviluppo per i sistemi di IA per evitare risultati dannosi, ingiustificati e differenziali per gli utenti. Il gruppo collabora con i criteri CertifAIEd per la certificazione nel pregiudizio algoritmico, assicurando che i sistemi di IA siano sviluppati con equità ed etica in mente.

Sebbene il bias sia spesso considerato dannoso, esistono scenari in cui un bias intenzionale è accettabile ed essenziale. Ad esempio, un'app per la salute progettata per assistere gli uomini nella gestione della salute della prostata dovrebbe essere naturalmente orientata verso gli utenti maschi, poiché il contesto medico lo richiede. Al contrario, un'app dedicata alla sensibilizzazione sul cancro al seno dovrebbe rimanere imparziale per servire efficacemente entrambi i sessi.

Valutazione e gestione del rischio di bias

Per promuovere la consapevolezza e la comprensione dei bias nei sistemi di IA, lo standard IEEE P7003 offre raccomandazioni per uno sviluppo efficiente dei sistemi di IA:

Utilizzare un profilo di bias: impiegare un profilo di bias per valutare e comprendere l'impatto e il rischio di bias nel sistema.

Considerare intenzione e contesto: definire chiaramente l'intenzione del sistema e comprendere il contesto in cui opera, assicurando l'allineamento con le esigenze delle parti interessate.

Definizione del compito: definire chiaramente i compiti del sistema e assicurarsi che i suoi risultati siano allineati a tali compiti.

Consapevolezza delle parti interessate: comprendere gli utenti e le parti interessate che interagiscono con il sistema o ne sono influenzati.

Valutazione regolare: rivalutare periodicamente il sistema per il bias durante tutto il suo ciclo di vita, poiché l'utilizzo e le parti interessate possono evolversi.

Adattamento contestuale: rivedere il profilo di bias se il sistema viene distribuito in un nuovo contesto, considerando come il suo comportamento potrebbe dover adattarsi.

Sviluppo con team diversificati: incoraggiare team di sviluppatori ed evaluatori diversificati per portare prospettive differenti e ridurre il bias.

Verso uno sviluppo etico dell'IA

IEEE P7003 mira a fornire a individui e organizzazioni metodologie che enfatizzano la responsabilità e la chiarezza nella progettazione, test ed valutazione degli algoritmi. Queste metodologie aiutano a evitare impatti differenziali ingiustificati sugli utenti. Facendo ciò, consente ai creatori di algoritmi di comunicare alle autorità di regolamentazione e agli utenti che vengono adottate le migliori pratiche più aggiornate per dare priorità alle considerazioni etiche nello sviluppo dell'IA.

Questa iniziativa si allinea al movimento più ampio per un'IA etica, come evidenziato dal recente rilascio della pubblicazione IEEE "Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems". Il documento incoraggia i tecnologi a dare priorità alle considerazioni etiche nella creazione di tecnologie autonome e intelligenti, sottolineando ulteriormente l'importanza di uno sviluppo etico dell'IA.