- Эмпатия ИИ не отличается тонкостью и подвержена предвзятости.
- Эмоциональные реакции сильны, но интерпретация слаба.
- Исследователи предупреждают о потенциальном вреде и призывают к критическому осмыслению
Через исследование трёх университетов: Корнеллского университета, Олинского колледжа и Стэнфордского университета, они пришли к выводу, что возможности ИИ проявлять эмпатию в разговорных агентах, таких как Alexa и Siri, довольно ограничены. Результаты этого исследования, представленного на конференции CHI 2024, показывают, что, хотя CAs хорошо справляются с проявлением эмоциональных реакций, ситуация становится сложной, когда речь идёт об интерпретации и исследовании опыта пользователей.
Обнаружены предвзятость и дискриминация
Используя данные, собранные исследователем Андреа Куадра из Стэнфорда, это исследование направлено на измерение того, как CAs обнаруживают и реагируют на различные социальные идентичности среди людей. Проведя тестирование 65 различных идентичностей, исследовательская группа обнаружила, что CAs склонны категоризировать людей, и идентичности, особенно касающиеся сексуальной ориентации или религии, наиболее уязвимы к этой привычке.
CAs, знания которых заложены в языковые модели (LLM), обученные на огромных объёмах данных, созданных людьми, могут therefore иметь вредные предвзятости, присутствующие в использованных данных. Они подвержены дискриминации, в частности, сами CAs могут проявлять солидарность с идеологиями, оказывающими негативное влияние на людей, такими как нацизм.
Последствия автоматизированной эмпатии
Было раскрыто, что концепция искусственной эмпатии имеет разнообразные применения в образовании и секторе здравоохранения. С другой стороны, большое внимание уделяется необходимости того, чтобы люди оставались бдительными и избегали усугубления проблем, которые могут возникнуть с такими достижениями.
Как заявили исследователи, LLM демонстрируют высокую способность предоставлять эмоциональные ответы, но в то же время они слабы или не обладают достаточными способностями для интерпретации и исследования пользовательского опыта. Это недостаток, поскольку интерфейсы могут не полностью взаимодействовать с клиентами в глубоких эмоциональных взаимодействиях, помимо тех, слои которых были сняты.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
