La herramienta de IA para emparejar adopciones no cumple con las necesidades de los niños vulnerables en el sistema de cuidado foster

Thea Ramirez, una trabajadora social jubilada, desarrolló una herramienta impulsada por inteligencia artificial llamada Family-Match para ayudar a las agencias de servicios sociales a encontrar padres adoptivos adecuados para algunos de los niños más vulnerables del país. Estos niños a menudo tienen necesidades complejas, discapacidades o han experimentado un trauma significativo. Las agencias de servicios de protección infantil han luchado durante años con el desafío de encontrar hogares permanentes para estos niños. Ramirez afirmó que su algoritmo, diseñado por ex investigadores de un servicio de citas en línea, podría revolucionar el emparejamiento para adopciones, pero una investigación de la Associated Press reveló limitaciones y desafíos significativos.

La promesa de Family-Match

Ramirez presentó Family-Match como una solución tecnológica que podría predecir el éxito a largo plazo de las colocaciones adoptivas. Argumentó que utilizaba la ciencia en lugar de meras preferencias para establecer una puntuación predictiva para las familias adoptivas potenciales. El algoritmo tenía como objetivo mejorar las tasas de éxito de las adopciones en todo Estados Unidos y aumentar la eficiencia de las agencias de bienestar infantil con presupuestos ajustados.

Resultados limitados y desafíos

A pesar de su premisa prometedora, el rendimiento de Family-Match ha quedado por debajo de las expectativas en los estados donde se ha utilizado. Según los datos autoinformados de Family-Match obtenidos por la AP a través de solicitudes de registros públicos, la herramienta de IA ha producido resultados limitados.

La experiencia de Virginia y Georgia

Virginia y Georgia adoptaron inicialmente el algoritmo pero lo abandonaron después de pruebas piloto, citando su incapacidad para producir adopciones exitosas. A pesar de esto, ambos estados reanudaron el trabajo con la organización sin fines de lucro de Ramirez, Adoption-Share, después de un tiempo.

Las dificultades de Tennessee

Tennessee encontró dificultades para implementar el programa y finalmente lo descartó, citando la incompatibilidad con sus sistemas internos, incluso después de gastar más de dos años en el proyecto.

Experiencias mixtas en Florida

En Florida, donde Family-Match ha expandido su uso, los trabajadores sociales reportaron experiencias mixtas con el algoritmo. Aunque se atribuyó el crédito por numerosos colocamientos, surgieron dudas sobre la precisión de estas afirmaciones.

Falta de transparencia y propiedad de los datos

Los funcionarios estatales expresaron preocupaciones sobre la falta de transparencia de Family-Match con respecto al funcionamiento interno de su algoritmo. Además, la organización poseía algunos de los datos sensibles recopilados por Family-Match, lo que planteaba problemas de privacidad y seguridad de los datos.

La imprevisibilidad del comportamiento humano

Los expertos en bienestar infantil enfatizaron que predecir el comportamiento humano, especialmente cuando se trata de adolescentes con necesidades complejas, es inherentemente desafiante. Bonni Goodwin, experta en datos de bienestar infantil, destacó que no hay una forma infalible de predecir el comportamiento humano.

El trasfondo y la motivación de Ramirez

El trasfondo de Thea Ramirez como ex trabajadora social y su deseo de promover la adopción como medio para reducir los abortos jugaron un papel significativo en el desarrollo de Family-Match. Ramirez anteriormente lanzó un sitio web para conectar a mujeres embarazadas con padres adoptivos potenciales, enfatizando los centros de asesoramiento antieaborto. Sin embargo, aclaró que Family-Match no está asociado con dichos centros.

Colaboración con investigadores de eharmony

Ramirez colaboró con Gian Gonzaga, un científico de investigación que había gestionado algoritmos en eharmony, para crear la herramienta de emparejamiento para adopciones. Gonzaga y su esposa, Heather Setrakian, trabajaron en el desarrollo del modelo Family-Match, que se inspiró en la experiencia de eharmony en el emparejamiento de parejas.

Experiencias estado por estado con Family-Match

Los trabajadores sociales explicaron cómo funciona Family-Match: los adultos que buscan adoptar envían respuestas a través de la plataforma en línea del algoritmo, mientras que los padres de crianza temporal o los trabajadores sociales ingresan la información de cada niño. El algoritmo luego genera una puntuación para la «compatibilidad relacional», mostrando una lista de padres potenciales para cada niño. Los trabajadores sociales filtran a los candidatos y, en el mejor de los casos, un niño es emparejado y colocado en un hogar para una estancia de prueba.

La prueba de dos años de Virginia con Family Match produjo solo una adopción conocida, y el personal local informó que no encontraron la herramienta particularmente útil.

Georgia terminó su prueba inicial de Family-Match debido a su ineficacia, pero luego reanudó su uso.

En Florida, donde el programa se expandió, varias agencias de bienestar infantil dieron reseñas mixtas sobre Family-Match. Fue difícil evaluar su éxito debido a las discrepancias en los datos reportados.

Los funcionarios estatales expresaron preocupaciones sobre cómo Family-Match puntuaba a las familias basándose en variables sensibles y cuestionaron la necesidad de ciertos puntos de datos. Algunas versiones del cuestionario del algoritmo incluían preguntas sobre los ingresos del hogar y las creencias religiosas.

Los defensores del bienestar social y los expertos en seguridad de datos han expresado preocupaciones sobre la creciente dependencia de la analítica predictiva por parte de las agencias gubernamentales, ya que estas herramientas pueden perpetuar las disparidades raciales y potencialmente discriminar a las familias basándose en características inmutables.

Esfuerzos de expansión

A pesar de estos desafíos, Adoption-Share busca oportunidades de expansión, con el objetivo de implementar Family-Match en lugares como la ciudad de Nueva York, Delaware y Missouri. Recientemente aseguró un acuerdo con el Departamento de Salud de Florida para construir un algoritmo que aumente el número de familias dispuestas a acoger y adoptar médicamente niños complejos.

La herramienta de IA para emparejar adopciones, Family-Match, desarrollada por Thea Ramirez, inicialmente tenía la promesa de ser una solución para encontrar padres adoptivos adecuados para niños vulnerables en el sistema de cuidado foster. Sin embargo, su rendimiento ha enfrentado limitaciones y desafíos, con varios estados experimentando resultados mixtos. Las preguntas sobre la privacidad de los datos, la transparencia y la precisión del algoritmo han generado preocupaciones entre los expertos y defensores del bienestar infantil. A pesar de estos desafíos, Adoption-Share continúa sus esfuerzos para expandir el uso de la herramienta en todo Estados Unidos.