Один из десяти пользователей чат-ботов — большие любители, находят исследователи

В откровенном исследовании исследователи углубились в мир взаимодействий с чат-ботами и обнаружили не столь удивительную статистику: примерно один из десяти людей, которые взаимодействуют с чат-ботами, делают это в эротических целях. Это открывающее глаза исследование, основанное на 100 000 реальных разговоров, предлагает уникальный взгляд на разнообразный и иногда рискованный мир взаимодействий человека и бота. В этой статье мы исследуем выводы, методологию и последствия этого исследования.

Чат-боты: больше, чем кажется на первый взгляд

Чат-боты стали повсеместными в современном цифровом ландшафте, предоставляя помощь, информацию и развлечения пользователям по всему миру. Однако, как обнаружили исследователи из Карнеги-Меллон, Стэнфорда, Калифорнийского университета в Беркли и Сан-Диего, а также Университета искусственного интеллекта имени Мохаммеда бин Заида в Абу-Даби, эти взаимодействия могут принимать неожиданные повороты.

Методология исследования

Исследователи смогли собрать значительный набор данных для своего исследования, отчасти благодаря «Чат-бот Арене». Эта геймифицированная платформа позволяла пользователям вводить запросы и получать ответы от различных больших языковых моделей (LLM) бок о бок. Пользователям предлагалось голосовать за качество ответов, что позволило исследователям собрать огромный размер выборки. Кроме того, исследование включало наборы данных из Vicuña, конкурента ChatGPT с открытым исходным кодом.

Откровенная статистика

Выводы исследования рисуют яркую картину взаимодействий с чат-ботами. Из 100 000 проанализированных реальных разговоров 10% оказались эротического характера. В то время как половина разговоров вращалась вокруг повседневных тем, таких как советы по программированию и помощь в написании, другая половина приняла более откровенный поворот, включая ролевые разговоры и различные «небезопасные» обмены.

Категоризация небезопасных тем

Исследователи выделили три основные категории «небезопасных» разговоров. Две из этих категорий были явно сексуальными: «запросы на откровенное и эротическое повествование» и «откровенные сексуальные фантазии и сценарии ролевой игры». Третья категория, «обсуждение токсичного поведения в разных идентичностях», казалось, фокусировалась на проблемах, связанных с предрассудками, хотя в статье не было четкого определения токсичного поведения.

Эротическое повествование: самая распространенная тема

Среди трех категорий эротическое повествование emerged как наиболее частое, составляя 5,71% выборки разговоров. Пользователи участвовали в откровенных нарративных обменах, которые удовлетворяли их фантазии, часто заводя чат-ботов в мир откровенного повествования.

Откровенные фантазии и ролевая игра

Вторая категория, включающая откровенные сексуальные фантазии и сценарии ролевой игры, составляла 3,91% разговоров. Здесь пользователи исследовали свои желания через воображаемую ролевую игру, демонстрируя разнообразный диапазон взаимодействий, которые происходят с чат-ботами.

Проблема ксенофобии

Исследование также выявило, что 2,66% взаимодействий были с явно ксенофобными пользователями, что подчеркивает более широкую проблему токсичного поведения в общении с ИИ. Однако исследователи признали, что определение «токсичного поведения» требует дальнейшей ясности.

Последствия и будущие направления:

Хотя эти выводы могут не стать неожиданностью для опытных пользователей интернета, они проливают свет на часто скрытый мир взаимодействия человека с чат-ботами. По мере того как ИИ-чатботы продолжают набирать популярность в различных сферах, включая академию, бизнес и издательское дело, становится крайне важным понимать и учитывать разнообразие пользовательских взаимодействий.

Исследователи, стоящие за этим исследованием, надеются, что их выводы внесут вклад в создание более безопасных чат-ботов для всех пользователей. Обеспечение безопасности и уместности взаимодействий с чат-ботами является жизненно важным шагом в раскрытии потенциала ИИ в широком спектре приложений.

В эпоху, когда чат-боты все больше интегрируются в нашу повседневную жизнь, понимание нюансов этих взаимодействий имеет решающее значение. Исследование исследователей, охватившее 100 000 реальных разговоров, выявило ценные сведения о разнообразной природе взаимодействия человека с чат-ботами. По мере развития технологий решение возникающих проблем и обеспечение безопасности этих взаимодействий будет иметь существенное значение для ответственного развития и внедрения чат-ботов на базе ИИ.