- OMS emite diretrizes para uso ético de IA na saúde.
- As diretrizes visam os riscos e desafios da IA nos sistemas de saúde.
- Ênfase no engajamento das partes interessadas e na responsabilidade governamental.
Em resposta ao rápido avanço da inteligência artificial (IA) generativa na saúde, a Organização Mundial da Saúde (OMS) emitiu um conjunto abrangente de diretrizes. Essas diretrizes visam orientar o uso ético de Grandes Modelos Multimodais (LMMs) no setor de saúde.
Orientando o uso responsável da IA na saúde
A nova orientação da OMS, composta por mais de 40 recomendações, visa uma ampla gama de partes interessadas, incluindo governos, empresas de tecnologia e provedores de saúde. O objetivo principal é garantir que os LMMs, que podem processar diversos tipos de dados, como texto, imagens e vídeos, sejam usados de forma responsável na saúde para promover e proteger a saúde pública.
O Dr. Jeremy Farrar, Cientista-Chefe da OMS, enfatizou o potencial transformador das tecnologias de IA generativa na saúde. No entanto, ele também destacou a necessidade crítica de informações e políticas transparentes para gerenciar eficazmente os riscos associados.
Os LMMs são particularmente notados por sua capacidade de imitar a comunicação humana e realizar tarefas além de sua programação explícita. A OMS identificou cinco aplicações-chave na saúde para esses modelos: diagnóstico e cuidados clínicos, investigação de sintomas e tratamento guiada pelo paciente, tarefas administrativas em prontuários eletrônicos de saúde, educação médica e de enfermagem por meio de encontros simulados com pacientes e pesquisa científica e desenvolvimento de medicamentos.
Abordando riscos e desafios
As diretrizes da OMS destacam os riscos associados aos LMMs, como a geração de informações falsas, imprecisas ou tendenciosas. Essa desinformação pode levar a decisões de saúde prejudiciais. A qualidade e o viés nos dados de treinamento, refletindo fatores como raça, etnia e identidade de gênero, são preocupações cruciais que podem impactar a integridade das saídas dos LMMs.
Além disso, as diretrizes reconhecem desafios mais amplos aos sistemas de saúde impostos pelos LMMs. Esses desafios incluem a acessibilidade e a acessibilidade financeira de LMMs avançados, o potencial de 'viés de automação' em profissionais de saúde e pacientes e vulnerabilidades de cibersegurança que poderiam comprometer as informações dos pacientes e a confiabilidade dos algoritmos de IA na saúde.
Engajamento das partes interessadas e responsabilidade governamental
A OMS enfatiza a importância do engajamento das partes interessadas no desenvolvimento e implantação de LMMs. A participação ativa de governos, empresas de tecnologia, provedores de saúde, pacientes e sociedade civil é essencial para o uso responsável da IA.
Os governos têm a responsabilidade primária de estabelecer padrões para o desenvolvimento, implantação e integração de LMMs nas práticas de saúde e medicina. As diretrizes instam os governos a investir ou fornecer infraestrutura, como poder de computação e conjuntos de dados públicos, condicionados à adesão aos princípios éticos. Além disso, o estabelecimento de leis, políticas e regulamentos é crucial para garantir que os LMMs na saúde atendam às obrigações éticas e aos padrões de direitos humanos.
As diretrizes recomendam que os governos designem agências reguladoras para avaliar e aprovar LMMs para uso na saúde. Auditorias obrigatórias pós-lançamento e avaliações de impacto por partes independentes também são aconselhadas para implantações de LMMs em grande escala. Essas avaliações devem focar na proteção de dados e nos direitos humanos, com resultados desagregados por características do usuário, como idade, raça ou deficiência.
Responsabilidades dos desenvolvedores e design ético de IA
Os desenvolvedores de LMMs são responsáveis por garantir o engajamento das partes interessadas desde as etapas iniciais do desenvolvimento da IA. O processo de design deve ser transparente, inclusivo e estruturado, permitindo que as partes interessadas levantem questões éticas e forneçam contribuições.
Os LMMs devem ser projetados para realizar tarefas bem definidas com a precisão e confiabilidade necessárias para melhorar os sistemas de saúde e beneficiar os pacientes. Os desenvolvedores também devem antecipar e compreender os possíveis resultados secundários de suas aplicações de IA.
As diretrizes da OMS representam um passo significativo para garantir que a integração da IA na saúde seja governada por princípios éticos. Ao abordar riscos e estabelecer padrões para o engajamento das partes interessadas e a responsabilidade governamental, a OMS visa aproveitar os benefícios da IA na saúde, mitigando ao mesmo tempo seus danos potenciais.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
