A OMS destaca os riscos e benefícios da IA ​​na área da saúde

A Organização Mundial da Saúde ( OMS ) alerta que os profissionais de saúde em todo o mundo precisam ser cautelosos ao adotar tecnologias de Inteligência Artificial (IA), especialmente em países de baixa e média renda.

Embora os Modelos Multimodais de Grande Porte (LMMs, na sigla em inglês), um subconjunto da IA ​​generativa, tenham o potencial de revolucionar a área da saúde, a OMS destaca a necessidade de conscientização e implementação responsável. 

Inteligência artificial na área da saúde: uma ferramenta revolucionária

A OMS reconhece o significativo potencial dos Modelos Multimodais de Grande Porte (LMMs) na área da saúde. Esses sistemas de IA, como as plataformas ChatGPT, Bard e BERT, ganharam destaque rapidamente. Os LMMs podem processar diversas entradas de dados, incluindo texto, vídeos e imagens, para gerar várias saídas. 

Suas aplicações na área da saúde abrangem diagnósticos, pesquisa científica, desenvolvimento de medicamentos, treinamento médico, administração e até mesmo a autoavaliação de sintomas pelos pacientes. Ao analisar grandes quantidades de dados médicos, como imagens, exames e registrostronde saúde, os Modelos de Aprendizado de Máquina (LMMs) podem aprimorar diagnósticos, melhorar tratamentos, prever resultados para os pacientes e aumentar a eficiência.

Uma das vantagens mais significativas da IA ​​na área da saúde é o potencial para salvar vidas, fornecendo diagnósticos precisos e planos de tratamento personalizados. Além disso, ela pode aliviar a carga de trabalho dos profissionais de saúde, permitindo que se concentrem em tarefas mais críticas do que a burocracia rotineira. Em regiões com escassez de profissionais médicos, os modelos de aprendizagem móvel (LMMs) podem desempenhar um papel fundamental na melhoria do acesso à saúde, garantindo um alcance mais amplo e equitativo dos cuidados médicos.

Riscos e desafios

Apesar das perspectivas promissoras, a OMS alerta para o risco de negligenciar os fatores associados. Diagnósticos errôneos e decisões de tratamento inadequadas podem resultar da superestimação das capacidades dos métodos de microscopia de varredura a laser, especialmente se suas limitações não forem devidamente reconhecidas. 

Além disso, é provável que os sistemas de saúde se tornem excessivamentedent de equipamentos de monitoramento remoto, especialmente em países de baixa e média renda, onde a manutenção e as atualizações podem ser inadequadas. Essa dependência também pode levar à perda de empregos e exigir um treinamento significativo para os profissionais de saúde.

Além disso, o custo ambiental do treinamento e da utilização desses modelos de IA é uma preocupação. Sabe-se que os modelos de IA contribuem para as emissões de carbono e o consumo de água. Ademais, o desenvolvimento e a implementação de modelos de aprendizado de máquina estão concentrados principalmente nas mãos de grandes empresas de tecnologia devido aos altos custos financeiros envolvidos, o que pode reforçar seu poder e domínio na área.

Desigualdades no acesso

A OMS levanta questões relacionadas à igualdade de acesso à IA na área da saúde. A exclusão digital e as altas taxas de assinatura podem limitar o acesso a esses modelos, exacerbando as desigualdades em saúde entre países desenvolvidos e em desenvolvimento. Além disso, se os Modelos Linguísticos Marginais (LMMs) forem treinados com dados enviesados, eles podem perpetuar esses vieses dentro dos sistemas de saúde.

Para enfrentar esses desafios, é necessário construir a infraestrutura adequada e implementar regulamentações para o uso da IA ​​nos setores público e privado. Transparência, governança de dados robusta e considerações éticas são fundamentais. 

Iniciativas como a concessão de subsídios, o acesso a recursos compartilhados de computação em nuvem e a conjuntos de dados abertos podem beneficiar significativamente os países de baixa e média renda, criando condições equitativas.

Organizações internacionais podem facilitar a transferência de conhecimento e apoiar os países na obtenção de dados locais, garantindo que esses modelos de IA reflitam com precisão as necessidades regionais. O envolvimento de atores de nações com menos recursos no desenvolvimento e na governança de novas tecnologias de modelagem de mercados locais é crucial para promover o desenvolvimento inclusivo.

Em última análise, a OMS reconhece que alguns danos causados ​​pela IA na área da saúde são inevitáveis. Portanto, as orientações oferecidas pela organização incluem recomendações sobre regimes de responsabilidade e defendem mecanismos de compensação para os casos em que os pacientes sofrem danos devido à IA. Estabelecer normas claras de responsabilidade e uma supervisão regulatória robusta é essencial para garantir que os indivíduos afetados negativamente por medicamentos de uso intensivo recebam compensação adequada e amparo legal.