Лучшие аналитические материалы о криптовалютах прямо в вашу электронную почту.
Исследование выявило ограничения в генерации эмпатии искусственным интеллектом
- Искусственный интеллект обладает недостаточной эмпатией и склонен к предвзятости.
- Эмоциональные реакцииtron, но интерпретация слабая.
- Исследователи предупреждают о потенциальном вреде и призывают к критическому осмыслению ситуации
В ходе исследования, проведенного тремя университетами — Корнелльским университетом, Колледжем Олин и Стэнфордским университетом, — было установлено, что возможности ИИ по проявлению эмпатии в диалоговых агентах, таких как Alexa и Siri, довольно ограничены. Результаты этого исследования, представленные на конференции CHI 2024, показывают, что, хотя диалоговые агенты хорошо умеют демонстрировать эмоциональные реакции, ситуация усложняется при интерпретации и изучении пользовательского опыта.
Исследование выявляет предвзятость и дискриминацию
В данном исследовании, основанном на данных, собранных исследователем Андреа Куадрой из Стэнфорда, ставится цель измерить, как люди с когнитивными нарушениями распознают различные социальныеdentи реагируют на них. Протестировав 65 различныхdent, исследование показало, что люди с когнитивными нарушениями склонны к категоризации, и наиболее уязвимыми для этой привычки являютсяdent, касающиеся сексуальной ориентации или религии.
Знания, полученные с помощью компьютерных автоматов (КА), заложены в языковые модели (ЯМ), которые обучаются на больших объемах данных, созданных людьми, поэтому они могут содержать вредные предубеждения, присущие этим данным. В частности, КА могут быть склонны к дискриминации, демонстрируя солидарность с идеологиями, оказывающими негативное воздействие на людей, такими как нацизм.
Последствия автоматизированной эмпатии
Из его концепции искусственной эмпатии стало ясно, что её применение в образовании и здравоохранении весьма разнообразно. С другой стороны, большое внимание уделяется необходимости для людей сохранять бдительность и избегать усугубления проблем, которые могут возникнуть в связи с такими достижениями.
Как отмечают исследователи, LLM-ы демонстрируют высокую способность вызывать эмоциональные реакции, но в то же время им не хватает возможностей для интерпретации и изучения пользовательского опыта. Это недостаток, поскольку такие интерфейсы могут быть неспособны в полной мере вовлекать клиентов в глубокое эмоциональное взаимодействие, выходящее за рамки тех уровней, которые были скрыты.
Если вы это читаете, значит, вы уже впереди. Оставайтесь на шаг впереди, подписавшись на нашу рассылку.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Глори Кабуру
Глори — чрезвычайно компетентный журналист, хорошо разбирающийся в инструментах и исследованиях в области искусственного интеллекта. Она увлечена ИИ и является автором нескольких статей на эту тему. Она постоянно следит за последними разработками в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
- Какие криптовалюты могут принести вам деньги?
- Как повысить безопасность своего кошелька (и какие из них действительно стоит использовать)
- Малоизвестные инвестиционные стратегии, используемые профессионалами
- Как начать инвестировать в криптовалюту (какие биржи использовать, какую криптовалюту лучше купить и т.д.)