Инструмент искусственного интеллекта для подбора приемных детей не справляется со своей задачей в отношении уязвимых детей, находящихся в приемных семьях

Теа Рамирес, бывший социальный работник, разработала инструмент на основе искусственного интеллекта Family-Match, чтобы помочь социальным службам найти подходящих приёмных родителей для некоторых из самых уязвимых детей страны. Эти дети часто имеют сложные потребности, инвалидность или перенесли серьёзные травмы. Органы опеки и попечительства годами борются с проблемой поиска постоянного дома для таких детей. Рамирес утверждала, что её алгоритм, разработанный бывшими исследователями из онлайн-сервиса знакомств, может произвести революцию в подборе усыновителей, но расследование Associated Press выявило существенные ограничения и проблемы.

Обещание семейного соответствия

Рамирес представила Family-Match как технологическое решение, способное прогнозировать долгосрочный успех усыновления. Она утверждала, что система использует научные данные, а не просто предпочтения, для определения прогнозируемого рейтинга потенциальных приёмных семей. Целью алгоритма было повышение показателей успешности усыновления в Соединённых Штатах и ​​повышение эффективности работы учреждений по защите детей, испытывающих нехватку cash.

Ограниченные результаты и проблемы

Несмотря на многообещающие перспективы, эффективность Family-Match не оправдала ожиданий в штатах, где она использовалась. Согласно данным, предоставленным Family-Match, полученным агентством Associated Press по запросам в общедоступных источниках, инструмент на основе искусственного интеллекта показал ограниченные результаты.

Опыт Вирджинии и Джорджии

Вирджиния и Джорджия изначально приняли алгоритм, но затем отказались от него после пробного запуска, сославшись на его неспособность обеспечить успешные усыновления. Несмотря на это, оба штата через некоторое время возобновили сотрудничество с некоммерческой организацией Рамиреса Adoption-Share.

Борьба Теннесси

Власти Теннесси столкнулись с трудностями при реализации программы и в конечном итоге отказались от нее, сославшись на несовместимость с внутренними системами, даже потратив на проект более двух лет.

Неоднозначный опыт во Флориде

Во Флориде, где Family-Match расширил своё применение, социальные работники сообщили о неоднозначном опыте использования алгоритма. Хотя алгоритм приписывал себе заслугу в многочисленных трудоустройствах, возникли сомнения в точности этих заявлений.

Отсутствие прозрачности и владения данными

Государственные чиновники выразили обеспокоенность по поводу недостаточной прозрачности Family-Match в отношении внутренней работы алгоритма. Кроме того, организация владела частью конфиденциальных данных, собранных Family-Match, что вызывало вопросы конфиденциальности и безопасности данных.

Непредсказуемость человеческого поведения

Эксперты в области защиты детей подчеркнули, что прогнозирование поведения человека, особенно подростков со сложными потребностями, изначально представляет собой сложную задачу. Бонни Гудвин, эксперт по данным в области защиты детей, подчеркнула, что не существует надёжного способа прогнозирования поведения человека.

Предыстория и мотивация Рамиреса

Опыт Теи Рамирес как бывшего социального работника и её стремление продвигать усыновление как способ сокращения абортов сыграли значительную роль в создании Family-Match. Ранее Рамирес запустила веб-сайт для связи беременных женщин с потенциальными усыновителями, уделяя особое внимание консультационным центрам, выступающим против абортов. Однако она уточнила, что Family-Match не сотрудничает с такими центрами.

Сотрудничество с исследователями eharmony

Рамирес сотрудничал с Джаном Гонзагой, исследователем, который руководил алгоритмами в eharmony, для создания инструмента подбора пары для усыновления/удочерения. Гонзага и его жена Хизер Сетракян работали над разработкой модели Family-Match, вдохновлённой опытом eharmony в подборе пары.

Опыт Family-Match в разных штатах

Социальные работники объяснили, как работает Family-Match: взрослые, желающие усыновить ребёнка, заполняют анкету через онлайн-платформу алгоритма, а приёмные родители или социальные работники вводят информацию о каждом ребёнке. Затем алгоритм оценивает степень соответствия, отображая список потенциальных родителей для каждого ребёнка. Социальные работники проверяют кандидатов, и в лучшем случае ребёнок подбирается и помещается в семью на испытательный срок.

Двухлетнее тестирование Family Match в Вирджинии выявило только один известный случай усыновления, а местные сотрудники сообщили, что считают этот инструмент не особенно полезным.

В Грузии завершился первоначальный пилотный проект Family-Match из-за его неэффективности, но позже он был возобновлен.

Во Флориде, где программа расширилась, различные органы опеки и попечительства дали неоднозначные отзывы о Family-Match. Оценить её эффективность было сложно из-за расхождений в предоставленных данных.

Чиновники штата выразили обеспокоенность по поводу того, как Family-Match оценивает семьи на основе чувствительных переменных, и поставили под сомнение необходимость некоторых данных. Некоторые версии анкеты алгоритма включали вопросы о доходе домохозяйства и религиозных убеждениях.

Сторонники социального обеспечения и эксперты по безопасности данных выражают обеспокоенность по поводу растущей зависимости государственных учреждений от прогнозной аналитики, поскольку эти инструменты могут увековечить расовое неравенство и потенциально дискриминировать семьи на основе неизменных характеристик.

Усилия по расширению

Несмотря на эти трудности, Adoption-Share ищет возможности для расширения, стремясь внедрить Family-Match в таких городах, как Нью-Йорк, Делавэр и Миссури. Недавно компания заключила соглашение с Департаментом здравоохранения Флориды о разработке алгоритма для расширения круга семей, готовых усыновить или взять на воспитание детей с проблемами со здоровьем.

Разработанный Теей Рамирес инструмент на основе искусственного интеллекта Family-Match для подбора подходящих приёмных родителей изначально обещал стать решением для поиска подходящих приёмных родителей для детей из уязвимых групп. Однако его эффективность столкнулась с ограничениями и проблемами, причём в разных штатах результаты были неоднозначными. Вопросы конфиденциальности данных, прозрачности и точности алгоритма вызвали обеспокоенность у экспертов и защитников прав детей. Несмотря на эти трудности, Adoption-Share продолжает расширять использование инструмента по всей территории Соединённых Штатов.