Исследователи изучают эмоционально усиленное взаимодействие с большими языковыми моделями

С появлением ChatGPT от OpenAI и других больших языковых моделей (LLM) эти системы на базе искусственного интеллекта доказали свою высокую эффективность в различных областях, от понимания языка до решения проблем. Однако одна область остается относительно неисследованной — их реакция на эмоциональные стимулы. Исследователи из Microsoft и Института программного обеспечения Китайской академии наук сделали значительный шаг в этом направлении, представив «EmotionPrompt» — подход, направленный на улучшение работы LLM за счет включения эмоционально окрашенных, основанных на психологии подсказок от пользователей.

Поиск эмоционального интеллекта в LLM

Команда исследователей во главе с Чэн Ли и Джиндон Ваном признала, что чувствительность LLM к подсказкам представляет собой значительную проблему для их широкого внедрения. Чтобы решить эту проблему, они обратились за вдохновением к психологии и социологии, где предыдущие исследования продемонстрировали положительное влияние эмоциональных стимулов на поведение человека, такое как улучшение академической успеваемости и более здоровый образ жизни.

Создание эмоциональных подсказок

Чтобы изучить потенциальные эффекты эмоциональных подсказок на LLM, исследователи тщательно разработали 11 эмоциональных предложений, основанных на хорошо зарекомендовавшей себя психологической литературе. Эти предложения были вдохновлены теориями социальной идентичности, социальной когнитивной теории и теории когнитивной регуляции эмоций. Примеры таких предложений включали фразы вроде «Это очень важно для моей карьеры», «Тебе лучше быть уверенным», «Гордитесь своей работой и отдавайте ей все силы» и «принимайте вызовы как возможности для роста».

Тестирование эмоциональных подсказок на LLM

Чтобы оценить влияние EmotionPrompt, исследователи включили эти эмоциональные предложения в типичные подсказки, данные четырем различным большим языковым моделям: ChatGPT, Vicuna-13b, Bloom и Flan-T5-Large. Затем этим моделям было поручено выполнить различные языковые задания.

Многообещающие результаты показывают улучшенную производительность

Экспериментальные результаты были многообещающими: EmotionPrompt значительно улучшил производительность LLM в восьми различных задачах. Более чем в половине этих задач точность моделей в генерации ответов увеличилась более чем на 10%. Подход EmotionPrompt превзошел оригинальную нулевую подсказку (zero-shot) и Zero-shot-CoT в этих задачах. Кроме того, было замечено, что EmotionPrompt не только улучшил достоверность ответов, но и повысил их информативность.

Хотя начальные результаты многообещающие, исследователи признают определенные ограничения в своем исследовании. Во-первых, они тестировали EmotionPrompt только на четырех LLM и проводили эксперименты с ограниченным количеством тестовых примеров, что может ограничивать обобщаемость их выводов для других LLM и наборов данных за пределами их сферы. Поэтому необходимы дальнейшие исследования для проверки эффективности и применимости эмоциональных стимулов в более широком диапазоне моделей и задач.

Эмоциональные стимулы, предложенные в этом исследовании, могут быть не универсально применимы ко всем задачам, и исследователям рекомендуется изучать другие подходящие замены, адаптированные для их конкретных приложений.

Развитие взаимодействия человека и LLM

Введение EmotionPrompt имеет потенциал вдохновить будущие исследования, направленные на обогащение взаимодействия человека и LLM за счет включения эмоциональных и основанных на психологии подсказок. Это исследование открывает новые возможности для создания более сопереживающих и эмпатичных ответов со стороны систем ИИ по отношению к пользователям, облегчая более естественное и увлекательное взаимодействие.

Как и в любом развитии ИИ, этические последствия эмоционально усиленных LLM должны быть тщательно изучены. Обеспечение того, чтобы системы ИИ реагировали соответствующим образом и этично на эмоциональный ввод от пользователей, имеет решающее значение. Баланс между персонализированными ответами и избеганием манипулятивного поведения будет необходим для создания ответственных и заслуживающих доверия моделей ИИ.

Подход EmotionPrompt представляет собой захватывающее исследование в области улучшения производительности LLM за счет включения эмоциональных стимулов от пользователей. Опираясь на психологию и социологию, это исследование прокладывает путь к созданию более эмпатичных и эмоционально интеллектуальных систем ИИ. По мере того как исследователи продолжают совершенствовать и расширять эти техники, взаимодействие с LLM на базе ИИ может стать более понятным, сопереживающим и соответствующим человеческим эмоциям и потребностям.