採用マッチングAIツールは、脆弱な里親家庭の子供たちにとって期待外れ

元ソーシャルワーカーであるThea Ramirez氏は、Family-Matchという人工知能搭載ツールを開発し、社会福祉機関が国の最も脆弱な子供たちのための適切な養親を見つけるのを支援しました。これらの子供たちはしばしば複雑なニーズや障害を持っており、大きなトラウマを経験しています。児童保護サービス機関は長年にわたり、これらの子供たちの恒久的な家庭を見つけるという課題に直面してきました。Ramirez氏は、オンラインデートサービスからの元研究者によって設計された彼女のアルゴリズムが養子縁組のマッチングを革命化する可能性があると主張しましたが、Associated Pressの調査により、重大な制限と課題が明らかになりました。

Family-Matchの約束

Ramirez氏は、Family-Matchを養子縁組の配置の長期的な成功を予測できる技術的ソリューションとして紹介しました。彼女は、これが単なる好みではなく科学を使用して、潜在的な養親家族のための予測スコアを確立すると主張しました。このアルゴリズムは、米国全体の養子縁組の成功率を向上させ、資金難の児童福祉機関の効率を高めることを目的としていました。

限られた結果と課題

有望な前提にもかかわらず、Family-Matchの使用実績は、それが使用された州において期待外れのものでした。APが公文書請求を通じて入手したFamily-Matchからの自己報告データによると、AIツールは限られた結果しか生み出していません。

バージニア州とジョージア州の経験

バージニア州とジョージア州は当初アルゴリズムを採用しましたが、試用期間中に成功した養子縁組を生み出せないことを理由に、後にそれを放棄しました。それでも、両州はしばらくの間、Ramirezの非営利団体であるAdoption-Shareとの作業を再開しました。

テネシー州の struggle

テネシー州はプログラムの実装において困難に直面し、プロジェクトに2年以上費やしたにもかかわらず、内部システムとの互換性の欠如を理由に最終的にそれを廃止しました。

フロリダ州での混合された経験

Family-Matchの使用を拡大したフロリダ州では、ソーシャルワーカーはアルゴリズムに対して混合された経験を抱えていました。それは多数の配置の功績を主張しましたが、これらの主張の正確性について疑問が投げかけられました。

透明性とデータ所有権の欠如

州の当局者は、Family-Matchのアルゴリズムの内部動作に関する透明性の欠如について懸念を表明しました。さらに、組織はFamily-Matchによって収集された機密データのいくつかを所有しており、プライバシーとデータセキュリティの問題を引き起こしました。

人間行動の不確実性

児童福祉の専門家は、複雑なニーズを持つ青少年の場合など、人間行動の予測は本質的に困難であると強調しました。児童福祉データ专家であるBonni Goodwin氏は、人間行動を予測するための確実な方法はないと強調しました。

Ramirezの背景と動機

元ソーシャルワーカーとしてのThea Ramirezの背景と、中絶を減らす手段として養子縁組を促進したいという彼女の欲求は、Family-Matchの開発において重要な役割を果たしました。Ramirez氏は以前、妊娠中の女性を潜在的な養親と結びつけるウェブサイトを開始し、中絶反対カウンセリングセンターを強調しました。しかし、彼女はFamily-Matchがそのようなセンターと関連していないことを明確にしました。

eharmony研究者との協力

Ramirez氏は、eharmonyでアルゴリズムを管理していた研究科学者であるGian Gonzagaと協力して、養子縁組マッチングツールを作成しました。Gonzagaと彼の妻であるHeather Setrakianは、eharmonyのマッチングの専門知識に触発されたFamily-Matchモデルの開発に取り組みました。

州別のFamily-Matchの経験

ソーシャルワーカーは、Family-Matchの操作方法を説明しました。養子縁組を希望する成人は、アルゴリズムのオンラインプラットフォームを通じてアンケートに回答し、里親またはソーシャルワーカーは各子供に関する情報を入力します。アルゴリズムはその後、「関係性の適合性」に対するスコアを生成し、各子供のための潜在的な親のリストを表示します。ソーシャルワーカーは候補者を審査し、最良のシナリオでは、子供がマッチングされ、試用期間のために家庭に配置されます。

バージニア州でのFamily Matchの2年間のテストでは、既知の養子縁組は1件しか生じず、現地のスタッフはツールが特に有用ではないと報告しました。

ジョージア州は、Family-Matchの初期パイロットプログラムをその非効果性のために終了しましたが、後にその使用を再開しました。

プログラムが拡大したフロリダ州では、さまざまな児童福祉機関がFamily-Matchに対して混合されたレビューを行いました。報告されたデータの不整合により、その成功を評価するのは困難でした。

州の当局者は、Family-Matchが機密変数に基づいて家族をどのようにスコアリングするかについて懸念を表明し、特定のデータポイントの必要性に疑問を投げかけました。アルゴリズムのアンケートの一部のバージョンには、世帯収入や宗教的信念に関する質問が含まれていました。

社会福祉擁護者やデータセキュリティの専門家は、政府機関による予測分析への依存度が増加することについて懸念を表明しており、これらのツールが人種的な格差を永続させ、変更不可能な特性に基づいて家族を差別する可能性があるためです。

拡大の取り組み

これらの課題にもかかわらず、Adoption-Shareはニューヨーク市、デラウェア、ミズーリなどでFamily-Matchを実装することを目指し、拡大の機会を模索しています。最近、医療的に複雑な子供を里親および養子として引き受ける家族のプールを増やすためのアルゴリズムを構築するために、フロリダ州保健省と契約を結びました。

Thea Ramirezによって開発された養子縁組マッチングAIツール、Family-Matchは、脆弱な里親家庭の子供たちのための適切な養親を見つけるソリューションとして当初有望視されました。しかし、そのパフォーマンスは制限と課題に直面しており、各州は混合された結果を経験しました。データプライバシー、透明性、アルゴリズムの正確性に関する疑問は、児童福祉の専門家や擁護者の間で懸念を引き起こしました。これらの課題にもかかわらず、Adoption-Shareは米国全体でツールの使用を拡大する取り組みを続けています。