Uno studio cautelativo rivela i limiti di ChatGPT nel fornire informazioni accurate sui farmaci

Uno studio recente ha sollevato preoccupazioni circa l'affidabilità della versione gratuita di ChatGPT, il popolare chatbot di OpenAI, nel fornire informazioni accurate sui farmaci. Una ricerca condotta dai farmacisti della Facoltà di Farmacia della Long Island University rivela che le risposte di ChatGPT alle domande relative ai farmaci sono spesso imprecise o incomplete. I risultati sottolineano la necessità di cautela tra i pazienti e gli operatori sanitari che si affidano a ChatGPT per informazioni farmaceutiche.

Lo studio ha previsto la presentazione di 39 domande relative ai farmaci a ChatGPT, di cui solo 10 hanno ricevuto risposte soddisfacenti. Le restanti 29 domande sono state fornite in modo impreciso, incompleto o entrambe le cose. Questa incoerenza nelle risposte evidenzia una lacuna significativa nella capacità del chatbot di fornire informazioni affidabili sui farmaci.

Inadeguatezza nel rispondere alle richieste farmaceutiche

Il team di ricerca, guidato da Sara Grossman, ha valutato le prestazioni di ChatGPT confrontando le sue risposte con quelle dei farmacisti che hanno risposto alla stessa serie di domande. Le domande erano richieste reali ricevute dal servizio di informazione sui farmaci della Facoltà di Farmacia della Long Island University da gennaio 2022 ad aprile 2023. Delle 45 domande iniziali, sei sono state escluse a causa della mancanza di risposte basate sulla letteratura scientifica.

ChatGPT non ha risposto direttamente a 11 domande, ha fornito risposte inaccurate a 10 e risposte errate o incomplete ad altre 12. I ricercatori hanno anche notato che ChatGPT, quando interrogato, ha fornito riferimenti solo in otto risposte, tutte citando fonti inesistenti. Ciò solleva preoccupazioni circa i processi di riferimento e verifica del chatbot.

Un caso particolarmente allarmante è stata l'errata affermazione di ChatGPT secondo cui non esiste alcuna interazione farmacologica tra il farmaco antivirale Paxlovid e il farmaco antipertensivo Verapamil. In realtà, la combinazione di questi farmaci può portare a un eccessivo abbassamento della pressione sanguigna, con un grave rischio per la salute. Questo errore è particolarmente preoccupante, dato che molti utenti potrebbero non essere a conoscenza delle limitazioni dei dati di ChatGPT, con potenziali conseguenze dannose.

Implicazioni per l'intelligenza artificiale nell'assistenza sanitaria

I risultati dello studio sono fondamentali nel contesto della popolarità e dell'ampio utilizzo di ChatGPT. Lanciata nel 2022, ChatGPT è rapidamente diventata una delle applicazioni Internet consumer in più rapida crescita, con circa 1,7 miliardi di visite a livello globale solo a ottobre. La sua versione gratuita, tuttavia, è limitata ai dati disponibili fino a settembre 2021, il che la rende potenzialmente estranea ai recenti sviluppi e innovazioni in campo medico.

Sebbene la versione a pagamento di ChatGPT ora includa funzionalità di navigazione Internet in tempo reale, lo studio si è concentrato principalmente sulla versione gratuita per riflettere l'esperienza della popolazione generale. I ricercatori sottolineano l'importanza di verificare le risposte di ChatGPT con professionisti sanitari di fiducia o fonti mediche attendibili.

Questo studio serve a ricordare in modo cruciale i limiti dell'intelligenza artificiale in ambiti delicati come l'assistenza sanitaria. Sebbene tecnologie di intelligenza artificiale come ChatGPT offrano vantaggi significativi in ​​termini di accessibilità e praticità, il loro stato attuale richiede un attento esame, soprattutto quando si tratta di questioni di salute e benessere. Si consiglia agli utenti di trattare le informazioni provenienti da tali fonti con cautela e di consultare sempre professionisti sanitari qualificati per un consulto medico.

Lo studio del College of Pharmacy della Long Island University rappresenta un campanello d'allarme fondamentale sui limiti dell'intelligenza artificiale in ambito sanitario, in particolare nel fornire informazioni accurate sui farmaci. Con la continua integrazione dell'intelligenza artificiale in vari aspetti della nostra vita, è essenziale rimanere consapevoli dei suoi limiti e approcciarne l'utilizzo, soprattutto in ambiti critici come l'assistenza sanitaria, con consapevole cautela.