Pesquisadores desenvolvem guia inclusivo para chatbots de IA na área da saúde

Cientistas da Universidade de Westminster criaram um projeto pioneiro cujo principal objetivo é o desenvolvimento de um guia de usuário abrangente para desenvolvedores de chatbots de IA em de saúde .

O guia foi concebido para ser imparcial e levar em consideração a diversidade, implementando um plano que garante que todas as etapas do processo de planejamento considerem as necessidades dos diversos pacientes. A abordagem integrada adota medidas preventivas para assegurar que as desigualdades em saúde não se agravem. Além disso, a abordagem é calculada e, muito provavelmente, as reduzirá a longo prazo.

Colaboração em IA e envolvimento da comunidade

A pesquisa, conduzida pelo Instituto Kinsey, pela Universidade de Sussex e pela organização beneficente Positive East, que atua na área de HIV, está sendo financiada pelo NHS AI Lab e pela The Health Foundation. A equipe de pesquisa avaliou as diretrizes formuladas para a criação de ferramentas de IA conversacional em ambientes de saúde, incluindo as do NHS e da OMS, entre outras fontes. A pesquisa revelou que ninguém estava recebendo dados regulares e atualizados para a tomada de decisões e que o design e a implementação adequados não estavam sendo aplicados a pessoas de comunidades sub-representadas.

Nesse sentido, esses profissionais deveriam elaborar um plano detalhado sobre como os chatbots de saúde seriam desenvolvidos de forma inclusiva para os desenvolvedores. Eles defendem que gênero, etnia e sexualidade devem ser considerados questões de participação igualitária com os homens em todos os aspectos da tomada de decisão, design, manutenção e encerramento dos chatbots. O principal objetivo é alcançar ainda mais inclusão, aceitação e engajamento, dando a mais pessoas a oportunidade de superar as desigualdades sociais em saúde.

Desenvolvimento ético de IA

O Dr. Tomasz Nadarzynczki, investigador principal da investigação na Universidade de Westminster, falou sobre uma mudança na forma como a IA é concebida. Ele afirma que o desenvolvimento de ferramentas de IA não deve se limitar a aprimorar sua eficácia operacional e eliminar riscos. Acrescenta que os investigadores compreendem isso perfeitamente e estão em posição de aproveitar as vantagens da "IA para o bem" e, em última análise, concentrar-se em questões críticas como as desigualdades na saúde.

Ele acrescenta que, para alcançar essa nova visão, precisamos de uma mudança geral na forma como as ferramentas de IA são criadas – uma mudança que enfatiza a colaboração com diversas comunidades durante a criação do algoritmo e também quando ele estiver pronto para ser implementado. Adotar essa abordagem inclusiva é o que pode ser a chave para superar preconceitos, conquistar confiança e maximizar o impacto positivo que a IA pode ter em populações desfavorecidas.

Esta pesquisa contribui diretamente para o Objetivo de Desenvolvimento Sustentável (ODS) 3 das Nações Unidas: O Código para a Boa Saúde e o Bem-Estar, a Igualdade de Gênero e as Parcerias para o Avanço de Todos. Na Universidade de Westminster, desde 2019, os ODS têm sido utilizados em uma abordagem holística para orientar escolhas estratégicas que auxiliamdente colegas a se destacarem e a contribuírem para um mundo mais sustentável, equitativo e com melhor saúde.

Esta interessante pesquisa exalta a inclusão em todas as suas formas e incorpora o envolvimento da comunidade no desenvolvimento de chatbots de IA para ambientes de saúde. Ela abre caminho para um futuro equitativo e de fácil acesso na área da tecnologia da saúde.