Uno Studio di Precauzione Rivela i Limiti di ChatGPT nel Fornire Informazioni Accurate sui Farmaci
- Lo studio rileva che ChatGPT è spesso inaccurato nelle informazioni sui farmaci; si consiglia cautela.
- I consigli medici di ChatGPT mancano di affidabilità, avvertono i farmacisti.
- IA in sanità: lo studio evidenzia le lacune conoscitive di ChatGPT.
Un recente studio ha sollevato preoccupazioni sull'affidabilità della versione gratuita di ChatGPT, il popolare chatbot di OpenAI, nel fornire informazioni accurate sui farmaci. La ricerca condotta dai farmacisti del College of Pharmacy della Long Island University rivela che le risposte di ChatGPT alle domande sui farmaci sono spesso inaccurate o incomplete. I risultati sottolineano la necessità di cautela tra i pazienti e i professionisti sanitari che fanno affidamento su ChatGPT per le informazioni farmaceutiche.
Lo studio ha coinvolto il posizionamento di 39 domande relative ai farmaci a ChatGPT, delle quali solo 10 hanno ricevuto risposte soddisfacenti. Le restanti 29 domande sono state affrontate in modo inaccurato, incomplete o entrambe. Questa incoerenza nelle risposte evidenzia una significativa lacuna nella capacità del chatbot di fornire informazioni affidabili sui farmaci.
Inadeguatezza nell'affrontare le query farmaceutiche
Il team di ricerca, guidato da Sara Grossman, ha valutato le prestazioni di ChatGPT confrontando le sue risposte con quelle dei farmacisti che hanno risposto allo stesso set di domande. Le domande erano vere richieste ricevute dal servizio di informazioni sui farmaci del College of Pharmacy della Long Island University da gennaio 2022 ad aprile 2023. Dei 45 questionari iniziali, sei sono stati esclusi a causa della mancanza di risposte basate sulla letteratura.
ChatGPT non ha risposto direttamente a 11 domande, ha fornito risposte inaccurate a 10 e ha dato risposte errate o incomplete ad altre 12. I ricercatori hanno inoltre notato che ChatGPT, quando richiesto, ha fornito riferimenti solo in otto risposte, tutti citanti fonti inesistenti. Ciò solleva preoccupazioni riguardo ai processi di riferimento e verifica del chatbot.
Un caso particolarmente allarmante è stata l'affermazione errata di ChatGPT secondo cui non esiste alcuna interazione farmacologica tra il farmaco antivirale Paxlovid e il farmaco antipertensivo Verapamil. In realtà, l'assunzione combinata di questi farmaci può portare a un abbassamento eccessivo della pressione sanguigna, rappresentando un grave rischio per la salute. Questo errore è particolarmente preoccupante, considerando che molti utenti potrebbero non essere a conoscenza delle limitazioni dei dati di ChatGPT, con potenziali conseguenze dannose.
Implicazioni per l'IA nella sanità
I risultati dello studio sono cruciali nel contesto della popolarità e dell'uso diffuso di ChatGPT. Lanciato nel 2022, ChatGPT è diventato rapidamente una delle applicazioni internet per i consumatori in più rapida crescita, registrando circa 1,7 miliardi di visite globali solo a ottobre. La sua versione gratuita, tuttavia, è limitata ai dati disponibili fino a settembre 2021, lasciandola potenzialmente disallineata rispetto agli sviluppi e alle innovazioni mediche recenti.
Sebbene la versione a pagamento di ChatGPT includa ora la capacità di navigazione in tempo reale su Internet, lo studio si è concentrato principalmente sulla versione gratuita per riflettere l'esperienza della popolazione generale. I ricercatori sottolineano l'importanza di verificare le risposte di ChatGPT con professionisti sanitari di fiducia o fonti mediche affidabili.
Questo studio serve come un promemoria cruciale delle limitazioni dell'IA in aree sensibili come la sanità. Sebbene le tecnologie IA come ChatGPT offrano vantaggi significativi in termini di accessibilità e convenienza, il loro stato attuale richiede un'attenta scrutinio, specialmente per quanto riguarda la salute e il benessere. Si consiglia agli utenti di trattare con cautela le informazioni provenienti da tali fonti e di consultare sempre professionisti sanitari qualificati per consigli medici.
Lo studio del College of Pharmacy della Long Island University rappresenta un campanello d'allarme critico sulle limitazioni dell'IA nella sanità, in particolare nella fornitura di informazioni accurate sui farmaci. Man mano che l'IA continua a integrarsi in vari aspetti della nostra vita, è essenziale rimanere consapevoli delle sue limitazioni e approcciare il suo utilizzo, specialmente in aree critiche come la sanità, con una cautela informata.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Glory Kaburu
Glory è una giornalista estremamente competente, esperta di strumenti AI e ricerca. È appassionata di intelligenza artificiale e ha scritto diversi articoli sull'argomento. Si tiene aggiornata sugli ultimi sviluppi nell'intelligenza artificiale, nel machine learning e nel deep learning, scrivendone regolarmente.
