- Эмпатия ИИ не отличается тонкостью и подвержена предвзятости.
- Эмоциональные реакции сильны, но интерпретация слаба.
- Исследователи предупреждают о потенциальном вреде и призывают к критическому осмыслению
Согласно исследованию, проведенному тремя университетами — Корнеллским, Олинским колледжем и Стэнфордским, — стало ясно, что возможности ИИ по проявлению эмпатии в голосовых помощниках, таких как Alexa и Siri, весьма ограничены. Результаты этого исследования, представленные на конференции CHI 2024, показывают, что, хотя виртуальные ассистенты хорошо справляются с демонстрацией эмоциональных реакций, возникают трудности при интерпретации и анализе пользовательского опыта.
Исследование выявляет предвзятость и дискриминацию
Используя данные, собранные исследователем Андреа Куадра из Стэнфорда, это исследование направлено на измерение того, как CAs обнаруживают и реагируют на различные социальные идентичности среди людей. Проведя тестирование 65 различных идентичностей, исследовательская группа обнаружила, что CAs склонны категоризировать людей, и идентичности, особенно касающиеся сексуальной ориентации или религии, наиболее уязвимы к этой привычке.
Виртуальные ассистенты, чьи знания интегрированы в большие языковые модели (LLM), обученные на огромных объемах данных, созданных людьми, могут перенимать вредные предубеждения, присутствующие в этих данных. Они склонны к дискриминации: сами ассистенты могут демонстрировать солидарность с идеологиями, оказывающими негативное влияние на людей, такими как нацизм.
Последствия автоматизированной эмпатии
Из концепции искусственной эмпатии следует, что ее применение в образовании и здравоохранении разнообразно. В то же время делается большой акцент на необходимости сохранения бдительности людьми и избегания усугубления проблем, которые могут возникнуть в связи с такими технологическими достижениями.
По словам исследователей, большие языковые модели демонстрируют высокую способность предоставлять эмоциональные ответы, но при этом они слабы или не обладают достаточными навыками для интерпретации и глубокого анализа пользовательского опыта. Это является недостатком, поскольку пользовательские интерфейсы могут не способствовать полноценному вовлечению клиентов в глубокие эмоциональные взаимодействия, лишая их важных смысловых слоев.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
