L'OMS presenta SARAH, un chatbot basato sull'intelligenza artificiale, nonostante i suoi difetti

L'Organizzazione Mondiale della Sanità (OMS) ha ideato un'intelligenza artificiale integrata da un chatbot chiamato SARAH. La missione di SARAH è garantire l'accesso alle informazioni sulla salute globale. Ci teniamo a sottolineare l'approccio innovativo di SARAH. Ciononostante, riesce comunque a diffondere alcune informazioni mediche false e fondamentali.

L'innovazione tecnologica incontra l'educazione sanitaria

RIFLETTENDO gli sforzi compiuti dall'OMS in questa causa, SETHARA è l'acronimo di Smart AI Resource Assistant for Health. Rappresenta l'ultimo strumento di salute digitale utilizzato dall'istituzione. Sviluppato per soddisfare le esigenze di assistenza in qualsiasi momento e ovunque, SARAH può fornire informazioni in otto lingue, tra cui informazioni sulla salute mentale e sulle scelte di vita. 

Questa è una delle azioni che rientrano nella strategia dell'OMS per integrare la tecnologia nell'educazione alla salute pubblica e colmare il divario globale nella copertura sanitaria. Tuttavia, l'OMS ha ammesso che l'embrione presenta dei punti deboli, nonostante sia il prototipo storico. Finora è stato ampiamente adattato dai programmatori per rimanere nell'ambito del mandato dell'OMS e offre informazioni su come trovare assistenza professionale su questioni specifiche. Il bot non può fornire tale servizio in modo continuativo e non può essere paragonato a strumenti come WebMD.

Sfide nell'accuratezza e nella sicurezza dell'IA

SARAH non è stato implementato solo per vie semplici. Il chatbot basato sull'intelligenza artificiale si basa sul modello ChatGPT 3.5 di OpenAI; ha avuto problemi con la fornitura di informazioni obsolete e con alcune risposte errate. Un esempio è la menzione errata dello stato di approvazione di un nuovo farmaco per l'Alzheimer, a causa della mancanza di dati addestrati in corso, che includevano solo dati risalenti a settembre 2021.

L'altro problema che SARAH riscontra spesso è la presentazione di risposte che potrebbero essere al di fuori di un argomento o di uno scopo specifico; il problema noto nello sviluppo dell'intelligenza artificiale è il riferimento ad esse come ad allucinazioni. In sintesi, queste inesattezze potrebbero aumentare il rischio di disinformazione pubblica. L'Organizzazione Mondiale della Sanità (OMS) sta quindi cercando di raccogliere il parere di ricercatori e agenzie governative per migliorare la resilienza, soprattutto nelle emergenze sanitarie umane.

A ciò si accompagnano anche apprensioni circa l'uso dell'IA da parte del personale sanitario. SORAH applica tecniche di riconoscimento facciale per rilevare e dedurre le emozioni degli utenti. L'azienda promette di non mostrare i loro volti garantendo protezione dei dati e privacy. Il modello open source a tempo indeterminato è inoltre caratterizzato da una maggiore esposizione ad attacchi informatici ai fondamenti dell'IA.

Direzioni future e considerazioni etiche

L'OMS sta ancora lavorando a SARAH e presto arriveranno aggiornamenti, come l'introduzione dell'aspetto mutevole dell'avatar e delle capacità interattive. L'OMS ha infatti annunciato principi etici per i suoi stakeholder e ha introdotto i concetti di trasparenza dei dati e sicurezza degli utenti. SARAH, una tecnologia basata sull'intelligenza artificiale, è stata portata a un nuovo livello di progettazione, poiché l'OMS è cauta nell'integrare l'IA nella diffusione di messaggi sanitari. Tuttavia, la tecnologia presenta diverse debolezze che l'organizzazione ha prontamente evidenziato. 

L'organizzazione chiarisce in modo trasparente che SARAH non è un trasformatore di servizi medici, che non è ciò a cui mirava, ma uno strumento di supporto per diffondere la consapevolezza e l'educazione alla salute pubblica in tutto il mondo. Nonostante alcuni ostacoli, l'impegno dell'OMS dimostra progressi significativi nell'uso dell'intelligenza artificiale nell'educazione sanitaria, poiché sarà rivolto a un pubblico più ampio e contribuirà a rendere le informazioni sanitarie più accessibili a livello globale.