Исследование выявило ограничения в генерации эмпатии искусственным интеллектом
- Искусственный интеллект обладает недостаточной эмпатией и склонен к предвзятости.
- Эмоциональные реакцииtron, но интерпретация слабая.
- Исследователи предупреждают о потенциальном вреде и призывают к критическому осмыслению ситуации
В ходе исследования, проведенного тремя университетами — Корнелльским университетом, Колледжем Олин и Стэнфордским университетом, — было установлено, что возможности ИИ по проявлению эмпатии в диалоговых агентах, таких как Alexa и Siri, довольно ограничены. Результаты этого исследования, представленные на конференции CHI 2024, показывают, что, хотя диалоговые агенты хорошо умеют демонстрировать эмоциональные реакции, ситуация усложняется при интерпретации и изучении пользовательского опыта.
Исследование выявляет предвзятость и дискриминацию
В данном исследовании, основанном на данных, собранных исследователем Андреа Куадрой из Стэнфорда, ставится цель измерить, как люди с когнитивными нарушениями распознают различные социальныеdentи реагируют на них. Протестировав 65 различныхdent, исследование показало, что люди с когнитивными нарушениями склонны к категоризации, и наиболее уязвимыми для этой привычки являютсяdent, касающиеся сексуальной ориентации или религии.
Знания, полученные с помощью компьютерных автоматов (КА), заложены в языковые модели (ЯМ), которые обучаются на больших объемах данных, созданных людьми, поэтому они могут содержать вредные предубеждения, присущие этим данным. В частности, КА могут быть склонны к дискриминации, демонстрируя солидарность с идеологиями, оказывающими негативное воздействие на людей, такими как нацизм.
Последствия автоматизированной эмпатии
Из его концепции искусственной эмпатии стало ясно, что её применение в образовании и здравоохранении весьма разнообразно. С другой стороны, большое внимание уделяется необходимости для людей сохранять бдительность и избегать усугубления проблем, которые могут возникнуть в связи с такими достижениями.
Как отмечают исследователи, LLM-ы демонстрируют высокую способность вызывать эмоциональные реакции, но в то же время им не хватает возможностей для интерпретации и изучения пользовательского опыта. Это недостаток, поскольку такие интерфейсы могут быть неспособны в полной мере вовлекать клиентов в глубокое эмоциональное взаимодействие, выходящее за рамки тех уровней, которые были скрыты.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Глори Кабуру
Глори — чрезвычайно компетентный журналист, хорошо разбирающийся в инструментах и исследованиях в области искусственного интеллекта. Она увлечена ИИ и является автором нескольких статей на эту тему. Она постоянно следит за последними разработками в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
