L'OMS pubblica linee guida etiche per l'AI nella sanità

In risposta al rapido avanzamento dell'intelligenza artificiale generativa (AI) nel settore sanitario, l'Organizzazione Mondiale della Sanità (OMS) ha emanato un insieme completo di linee guida. Queste linee guida mirano a orientare l'uso etico dei Modelli Multi-Modali di Grande Dimensione (LMMs) nel settore sanitario.

Guidare l'uso responsabile dell'AI nella sanità

Le nuove linee guida dell'OMS, che comprendono oltre 40 raccomandazioni, si rivolgono a un'ampia gamma di stakeholder, inclusi governi, aziende tecnologiche e fornitori di assistenza sanitaria. L'obiettivo principale è garantire che i LMMs, in grado di elaborare diversi tipi di dati come testo, immagini e video, siano utilizzati in modo responsabile nel settore sanitario per promuovere e proteggere la salute pubblica.

Il Dr. Jeremy Farrar, Scienziato Capo dell'OMS, ha sottolineato il potenziale trasformativo delle tecnologie AI generative nella sanità. Ha tuttavia anche evidenziato la necessità critica di informazioni e politiche trasparenti per gestire efficacemente i rischi associati.

I LMMs sono particolarmente noti per la loro capacità di imitare la comunicazione umana ed eseguire attività oltre la loro programmazione esplicita. L'OMS ha identificato cinque applicazioni chiave per la sanità per questi modelli: diagnosi e assistenza clinica, indagine sui sintomi e sul trattamento guidata dal paziente, attività amministrative nelle cartelle cliniche elettroniche, formazione medica e infermieristica attraverso incontri simulati con i pazienti e ricerca scientifica e sviluppo di farmaci.

Affrontare rischi e sfide

Le linee guida dell'OMS sottolineano i rischi associati ai LMMs, come la generazione di informazioni false, inaccurate o distorte. Questa disinformazione può portare a decisioni sanitarie dannose. La qualità e i pregiudizi nei dati di addestramento, che riflettono fattori come razza, etnia e identità di genere, sono preoccupazioni cruciali che potrebbero impattare l'integrità degli output dei LMMs.

Inoltre, le linee guida riconoscono le sfide più ampie poste ai sistemi sanitari dai LMMs. Queste sfide includono l'accessibilità e l'accessibilità economica dei LMMs avanzati, il potenziale per il 'pregiudizio di automazione' tra i professionisti sanitari e i pazienti e le vulnerabilità della cybersecurity che potrebbero compromettere le informazioni dei pazienti e l'affidabilità degli algoritmi AI nella sanità.

Coinvolgimento degli stakeholder e responsabilità governativa

L'OMS sottolinea l'importanza del coinvolgimento degli stakeholder nello sviluppo e nell'implementazione dei LMMs. La partecipazione attiva di governi, aziende tecnologiche, fornitori di assistenza sanitaria, pazienti e società civile è essenziale per un uso responsabile dell'AI.

I governi hanno la responsabilità primaria di stabilire standard per lo sviluppo, l'implementazione e l'integrazione dei LMMs nelle pratiche sanitarie e mediche. Le linee guida esortano i governi a investire o fornire infrastrutture come potenza di calcolo e set di dati pubblici, subordinatamente all'adesione ai principi etici. Inoltre, l'istituzione di leggi, politiche e regolamenti è cruciale per garantire che i LMMs nella sanità soddisfino gli obblighi etici e gli standard sui diritti umani.

Le linee guida raccomandano che i governi assegnino agenzie di regolamentazione per valutare e approvare i LMMs per l'uso sanitario. Sono inoltre consigliati audit obbligatori post-lancio e valutazioni d'impatto da parte di parti indipendenti per i deploy su larga scala di LMMs. Queste valutazioni dovrebbero concentrarsi sulla protezione dei dati e sui diritti umani, con risultati disaggregati per caratteristiche degli utenti come età, razza o disabilità.

Responsabilità degli sviluppatori e design etico dell'AI

Gli sviluppatori di LMMs sono incaricati di garantire il coinvolgimento degli stakeholder fin dalle prime fasi dello sviluppo dell'AI. Il processo di progettazione dovrebbe essere trasparente, inclusivo e strutturato, consentendo agli stakeholder di sollevare questioni etiche e fornire input.

I LMMs dovrebbero essere progettati per eseguire compiti ben definiti con la precisione e l'affidabilità necessarie per migliorare i sistemi sanitari e beneficiare i pazienti. Gli sviluppatori devono anche anticipare e comprendere i potenziali risultati secondari delle loro applicazioni AI.

Le linee guida dell'OMS rappresentano un passo significativo verso la garanzia che l'integrazione dell'AI nella sanità sia governata da principi etici. Affrontando i rischi e stabilendo standard per il coinvolgimento degli stakeholder e la responsabilità governativa, l'OMS mira a sfruttare i benefici dell'AI nella sanità mitigandone i potenziali danni.