L'outil d'adoption basé sur l'IA ne répond pas aux besoins des enfants vulnérables placés en famille d'accueil

Thea Ramirez, ancienne travailleuse sociale, a développé un outil alimenté par l'intelligence artificielle appelé Family-Match pour aider les agences de services sociaux à trouver des parents adoptifs adaptés pour certains des enfants les plus vulnérables du pays. Ces enfants ont souvent des besoins complexes, des handicaps ou ont subi des traumatismes importants. Les agences de protection de l'enfance luttent depuis des années contre le défi de trouver des foyers permanents pour ces enfants. Ramirez affirmait que son algorithme, conçu par d'anciens chercheurs d'un service de rencontres en ligne, pourrait révolutionner le matching pour l'adoption, mais une enquête de l'Associated Press a révélé des limites et des défis significatifs.

La promesse de Family-Match

Ramirez a présenté Family-Match comme une solution technologique capable de prédire le succès à long terme des placements adoptifs. Elle a soutenu qu'il utilisait la science plutôt que de simples préférences pour établir un score prédictif pour les familles adoptives potentielles. L'algorithme visait à améliorer les taux de réussite de l'adoption aux États-Unis et à accroître l'efficacité des agences de protection de l'enfance aux ressources limitées.

Résultats limités et défis

Malgré son principe prometteur, les performances de Family-Match sont restées en deçà des attentes dans les États où il a été utilisé. Selon les données auto-déclarées de Family-Match obtenues par l'AP via des demandes d'accès aux documents publics, l'outil d'IA a produit des résultats limités.

L'expérience de la Virginie et de la Géorgie

La Virginie et la Géorgie ont initialement adopté l'algorithme mais l'ont ensuite abandonné après des essais, invoquant son incapacité à produire des adoptions réussies. Malgré cela, les deux États ont repris leur collaboration avec l'organisation à but non lucratif de Ramirez, Adoption-Share, après un certain temps.

Les difficultés du Tennessee

Le Tennessee a rencontré des difficultés dans la mise en œuvre du programme et l'a finalement abandonné, invoquant une incompatibilité avec ses systèmes internes, même après avoir passé plus de deux ans sur le projet.

Expériences mitigées en Floride

En Floride, où Family-Match a étendu son utilisation, les travailleurs sociaux ont rapporté des expériences mitigées avec l'algorithme. Bien qu'il se soit attribué le mérite de nombreux placements, des questions se sont posées quant à l'exactitude de ces affirmations.

Manque de transparence et propriété des données

Les responsables de l'État ont exprimé des préoccupations concernant le manque de transparence de Family-Match quant au fonctionnement interne de son algorithme. De plus, l'organisation possédait certaines des données sensibles collectées par Family-Match, soulevant des questions de confidentialité et de sécurité des données.

L'imprévisibilité du comportement humain

Les experts en protection de l'enfance ont souligné que prédire le comportement humain, surtout lorsqu'il s'agit d'adolescents ayant des besoins complexes, est intrinsèquement difficile. Bonni Goodwin, experte en données de protection de l'enfance, a insisté sur le fait qu'il n'existe aucun moyen infaillible de prédire le comportement humain.

Le parcours et la motivation de Ramirez

Le parcours de Thea Ramirez en tant qu'ancienne travailleuse sociale et son désir de promouvoir l'adoption comme moyen de réduire les avortements ont joué un rôle significatif dans le développement de Family-Match. Ramirez avait précédemment lancé un site web pour mettre en relation les femmes enceintes avec des parents adoptifs potentiels, en mettant l'accent sur les centres de conseil anti-avortement. Cependant, elle a précisé que Family-Match n'est pas associé à de tels centres.

Collaboration avec les chercheurs d'eharmony

Ramirez a collaboré avec Gian Gonzaga, un chercheur scientifique qui avait géré des algorithmes chez eharmony, pour créer l'outil de matching pour l'adoption. Gonzaga et sa femme, Heather Setrakian, ont travaillé au développement du modèle Family-Match, qui s'inspirait de l'expertise d'eharmony en matière de matchmaking.

Expériences État par État avec Family-Match

Les travailleurs sociaux ont expliqué le fonctionnement de Family-Match : les adultes souhaitant adopter soumettent des réponses à un questionnaire via la plateforme en ligne de l'algorithme, tandis que les parents d'accueil ou les travailleurs sociaux saisissent les informations de chaque enfant. L'algorithme génère ensuite un score pour l'« adéquation relationnelle », affichant une liste de parents potentiels pour chaque enfant. Les travailleurs sociaux vérifient les candidats et, dans le meilleur des cas, un enfant est apparié et placé dans un foyer pour un séjour d'essai.

Le test de deux ans de Family Match en Virginie n'a donné qu'une seule adoption connue, et le personnel local a signalé qu'il ne trouvait pas l'outil particulièrement utile.

La Géorgie a mis fin à son essai initial de Family-Match en raison de son inefficacité, mais a ensuite repris son utilisation.

En Floride, où le programme s'est étendu, diverses agences de protection de l'enfance ont donné des avis mitigés sur Family-Match. Il était difficile d'évaluer son succès en raison des écarts dans les données rapportées.

Les responsables de l'État ont exprimé des préoccupations concernant la manière dont Family-Match notait les familles en fonction de variables sensibles et ont remis en question la nécessité de certains points de données. Certaines versions du questionnaire de l'algorithme comprenaient des questions sur le revenu du ménage et les croyances religieuses.

Les défenseurs de la protection sociale et les experts en sécurité des données ont exprimé des préoccupations concernant la dépendance croissante des agences gouvernementales à l'égard de l'analyse prédictive, car ces outils peuvent perpétuer les disparités raciales et potentiellement discriminer les familles en fonction de caractéristiques immuables.

Efforts d'expansion

Malgré ces défis, Adoption-Share cherche des opportunités d'expansion, visant à mettre en œuvre Family-Match dans des endroits comme New York, le Delaware et le Missouri. Il a récemment conclu un accord avec le Département de la santé de la Floride pour développer un algorithme afin d'augmenter le nombre de familles disposées à prendre en charge et à adopter des enfants présentant des besoins médicaux complexes.

L'outil d'adoption basé sur l'IA, Family-Match, développé par Thea Ramirez, semblait initialement prometteur comme solution pour trouver des parents adoptifs adaptés pour les enfants vulnérables placés en famille d'accueil. Cependant, ses performances ont fait face à des limites et des défis, divers États ayant connu des résultats mitigés. Des questions sur la confidentialité des données, la transparence et l'exactitude de l'algorithme ont suscité des préoccupations parmi les experts et les défenseurs de la protection de l'enfance. Malgré ces défis, Adoption-Share poursuit ses efforts pour étendre l'utilisation de l'outil à travers les États-Unis.