Ferramenta de correspondência de adoção com IA não atende às expectativas para crianças vulneráveis em acolhimento

Thea Ramirez, uma ex-trabalhadora social, desenvolveu uma ferramenta alimentada por inteligência artificial chamada Family-Match para ajudar agências de serviços sociais a encontrar pais adotivos adequados para algumas das crianças mais vulneráveis do país. Essas crianças frequentemente têm necessidades complexas, deficiências ou sofreram traumas significativos. Agências de proteção à infância têm enfrentado o desafio de encontrar lares permanentes para essas crianças há anos. Ramirez afirmou que seu algoritmo, projetado por ex-pesquisadores de um serviço de encontros online, poderia revolucionar a correspondência de adoção, mas uma investigação da Associated Press revelou limitações e desafios significativos.

A promessa do Family-Match

Ramirez apresentou o Family-Match como uma solução tecnológica que poderia prever o sucesso a longo prazo das colocações adotivas. Ela argumentou que usava a ciência, em vez de meras preferências, para estabelecer uma pontuação preditiva para famílias adotivas em potencial. O algoritmo visava melhorar as taxas de sucesso da adoção em todo os Estados Unidos e aumentar a eficiência das agências de bem-estar infantil com restrições orçamentárias.

Resultados limitados e desafios

Apesar de sua premissa promissora, o desempenho do Family-Match ficou aquém das expectativas nos estados onde foi utilizado. De acordo com dados autorreportados do Family-Match obtidos pela AP por meio de solicitações de registros públicos, a ferramenta de IA produziu resultados limitados.

A experiência da Virgínia e da Geórgia

A Virgínia e a Geórgia adotaram inicialmente o algoritmo, mas o abandonaram após testes piloto, citando sua incapacidade de produzir adoções bem-sucedidas. Apesar disso, ambos os estados retomaram o trabalho com a organização sem fins lucrativos de Ramirez, a Adoption-Share, após algum tempo.

As dificuldades do Tennessee

O Tennessee encontrou dificuldades na implementação do programa e acabou descartando-o, citando incompatibilidade com seus sistemas internos, mesmo após gastar mais de dois anos no projeto.

Experiências mistas na Flórida

Na Flórida, onde o Family-Match expandiu seu uso, os assistentes sociais relataram experiências mistas com o algoritmo. Embora tenha reivindicado o crédito por inúmeras colocações, surgiram dúvidas sobre a precisão dessas afirmações.

Falta de transparência e propriedade dos dados

Funcionários estaduais expressaram preocupações sobre a falta de transparência do Family-Match em relação ao funcionamento interno de seu algoritmo. Além disso, a organização era proprietária de alguns dos dados sensíveis coletados pelo Family-Match, levantando questões de privacidade e segurança de dados.

Imprevisibilidade do comportamento humano

Especialistas em bem-estar infantil enfatizaram que prever o comportamento humano, especialmente quando se trata de adolescentes com necessidades complexas, é inerentemente desafiador. Bonni Goodwin, especialista em dados de bem-estar infantil, ressaltou que não há maneira infalível de prever o comportamento humano.

A formação e motivação de Ramirez

A formação de Thea Ramirez como ex-trabalhadora social e seu desejo de promover a adoção como meio de reduzir os abortos desempenharam um papel significativo em seu desenvolvimento do Family-Match. Ramirez anteriormente lançou um site para conectar mulheres grávidas a pais adotivos em potencial, enfatizando centros de aconselhamento antiaborto. No entanto, ela esclareceu que o Family-Match não está associado a esses centros.

Colaboração com pesquisadores da eharmony

Ramirez colaborou com Gian Gonzaga, um cientista de pesquisa que havia gerenciado algoritmos na eharmony, para criar a ferramenta de correspondência de adoção. Gonzaga e sua esposa, Heather Setrakian, trabalharam no desenvolvimento do modelo Family-Match, que foi inspirado na expertise da eharmony em matchmaking.

Experiências estado a estado com o Family-Match

Os assistentes sociais explicaram como o Family-Match opera: adultos que buscam adotar submetem respostas a um questionário através da plataforma online do algoritmo, enquanto pais de acolhimento ou assistentes sociais inserem as informações de cada criança. O algoritmo então gera uma pontuação para o “ajuste relacional”, exibindo uma lista de pais em potencial para cada criança. Os assistentes sociais avaliam os candidatos e, no melhor dos cenários, uma criança é correspondida e colocada em um lar para uma estadia de teste.

O teste de dois anos da Virgínia com o Family-Match resultou em apenas uma adoção conhecida, e o pessoal local relatou que não acharam a ferramenta particularmente útil.

A Geórgia encerrou seu piloto inicial do Family-Match devido à sua ineficácia, mas mais tarde retomou seu uso.

Na Flórida, onde o programa se expandiu, várias agências de bem-estar infantil deram avaliações mistas do Family-Match. Foi difícil avaliar seu sucesso devido a discrepâncias nos dados relatados.

Funcionários estaduais expressaram preocupações sobre como o Family-Match pontuava famílias com base em variáveis sensíveis e questionaram a necessidade de certos pontos de dados. Algumas versões do questionário do algoritmo incluíam perguntas sobre renda familiar e crenças religiosas.

Defensores do bem-estar social e especialistas em segurança de dados levantaram preocupações sobre a crescente dependência de análises preditivas por agências governamentais, pois essas ferramentas podem perpetuar disparidades raciais e potencialmente discriminar famílias com base em características imutáveis.

Esforços de Expansão

Apesar desses desafios, a Adoption-Share busca oportunidades de expansão, visando implementar o Family-Match em locais como Nova York, Delaware e Missouri. Recentemente, fechou um acordo com o Departamento de Saúde da Flórida para construir um algoritmo que aumente o número de famílias dispostas a acolher e adotar crianças com necessidades médicas complexas.

A ferramenta de correspondência de adoção com IA, Family-Match, desenvolvida por Thea Ramirez, inicialmente tinha promessa como uma solução para encontrar pais adotivos adequados para crianças vulneráveis em acolhimento. No entanto, seu desempenho enfrentou limitações e desafios, com vários estados experimentando resultados mistos. Questões sobre privacidade de dados, transparência e precisão do algoritmo levantaram preocupações entre especialistas e defensores do bem-estar infantil. Apesar desses desafios, a Adoption-Share continua seus esforços para expandir o uso da ferramenta em todo os Estados Unidos.