Инструмент подбора ИИ для усыновления не справляется с уязвимыми детьми из системы опеки

Тиа Рамирес, бывший социальный работник, разработала инструмент на базе искусственного интеллекта под названием Family-Match, чтобы помочь агентствам социальных служб находить подходящих приемных родителей для некоторых из самых уязвимых детей в стране. Эти дети часто имеют сложные потребности, инвалидность или пережили значительную травму. Агентства по защите детей годами боролись с проблемой поиска постоянных домов для этих детей. Рамирес утверждала, что ее алгоритм, разработанный бывшими исследователями сервиса онлайн-знакомств, может революционизировать подбор для усыновления, но расследование Associated Press выявило значительные ограничения и проблемы.

Обещание Family-Match

Рамирес представила Family-Match как технологическое решение, которое может предсказать долгосрочный успех приемных размещений. Она утверждала, что оно использует науку, а не просто предпочтения, для установления прогнозного балла для потенциальных приемных семей. Алгоритм был направлен на повышение успешности усыновления по всей территории США и повышение эффективности агентств по охране детства, испытывающих нехватку средств.

Ограниченные результаты и проблемы

Несмотря на многообещающую концепцию, результаты работы Family-Match в штатах, где он использовался, не оправдали ожиданий. Согласно данным, предоставленным AP через запросы о раскрытии информации, инструмент ИИ показал ограниченные результаты.

Опыт Вирджинии и Джорджии

Вирджиния и Джорджия изначально приняли алгоритм, но позже отказались от него после пробных запусков, сославшись на его неспособность обеспечить успешные усыновления. Несмотря на это, оба штата возобновили работу с некоммерческой организацией Рамирес Adoption-Share спустя некоторое время.

Проблемы в Теннесси

Теннесси столкнулся с трудностями при внедрении программы и в конечном итоге отказался от нее, сославшись на несовместимость с внутренними системами, даже после двух лет работы над проектом.

Смешанный опыт во Флориде

Во Флориде, где Family-Match расширил свое использование, социальные работники сообщили о смешанном опыте работы с алгоритмом. Хотя он приписывал себе множество размещений, возникли вопросы о точности этих заявлений.

Отсутствие прозрачности и владение данными

Чиновники штатов выразили обеспокоенность по поводу отсутствия прозрачности Family-Match относительно внутренней работы его алгоритма. Кроме того, организация владела частью конфиденциальных данных, собранных Family-Match, что вызвало вопросы конфиденциальности и безопасности данных.

Непредсказуемость человеческого поведения

Эксперты в области защиты детей подчеркивали, что предсказание человеческого поведения, особенно в случае подростков со сложными потребностями, изначально является сложной задачей. Бонни Гудвин, эксперт по данным в сфере защиты детей, подчеркнула, что не существует надежного способа предсказать поведение человека.

Предыстория и мотивация Рамирес

Прошлое Теи Рамирес как бывшего социального работника и ее стремление продвигать усыновление как способ снижения уровня абортов сыграли значительную роль в разработке Family-Match. Ранее Рамирес запустила веб-сайт для связи беременных женщин с потенциальными приемными родителями, делая акцент на центрах консультирования против абортов. Однако она уточнила, что Family-Match не связан с такими центрами.

Сотрудничество с исследователями eharmony

Рамирес сотрудничала с Гьяном Гонзагой, ученым-исследователем, который управлял алгоритмами в eharmony, чтобы создать инструмент для подбора пар для усыновления. Гонзага и его жена, Хизер Сетракиан, работали над разработкой модели Family-Match, вдохновленной опытом eharmony в области сватовства.

Опыт использования Family-Match в разных штатах

Социальные работники объяснили, как работает Family-Match: взрослые, желающие усыновить, заполняют опрос через онлайн-платформу алгоритма, в то время как приемные родители или социальные работники вводят информацию о каждом ребенке. Затем алгоритм рассчитывает показатель «реляционного соответствия» и выдает список потенциальных родителей для каждого ребенка. Социальные работники проверяют кандидатов, и в лучшем случае ребенок оказывается в семье на испытательный срок.

Двухлетнее испытание Family Match в Вирджинии привело лишь к одному известному случаю усыновления, а местные сотрудники сообщили, что не нашли инструмент особенно полезным.

Джорджия завершила первоначальный пилотный проект Family-Match из-за его неэффективности, но позже возобновила его использование.

Во Флориде, где программа расширила свое присутствие, различные агентства по защите детей дали смешанные отзывы о Family-Match. Оценить его успех было сложно из-за расхождений в представленных данных.

Чиновники штатов выразили обеспокоенность тем, как Family-Match оценивает семьи на основе чувствительных переменных, и поставили под сомнение необходимость некоторых пунктов данных. В некоторых версиях опросника алгоритма присутствовали вопросы о доходе семьи и религиозных убеждениях.

Защитники социального обеспечения и эксперты по безопасности данных выразили обеспокоенность по поводу растущей зависимости государственных учреждений от предиктивной аналитики, поскольку такие инструменты могут закреплять расовое неравенство и потенциально дискриминировать семьи на основе неизменных характеристик.

Усилия по расширению

Несмотря на эти трудности, Adoption-Share ищет возможности для расширения, стремясь внедрить Family-Match в таких местах, как Нью-Йорк, Делавэр и Миссури. Недавно компания заключила сделку с Департаментом здравоохранения Флориды по созданию алгоритма для увеличения числа семей, готовых взять на воспитание и усыновить детей со сложными медицинскими показаниями.

Инструмент для подбора пар для усыновления на базе ИИ, Family-Match, разработанный Теой Рамирес, изначально обещал стать решением проблемы поиска подходящих приемных родителей для уязвимых детей из системы опеки. Однако его работа столкнулась с ограничениями и трудностями, а различные штаты получили смешанные результаты. Вопросы конфиденциальности данных, прозрачности и точности алгоритма вызвали обеспокоенность среди экспертов и защитников прав детей. Несмотря на эти проблемы, Adoption-Share продолжает усилия по расширению использования инструмента по всей территории США.