Компании, занимающиеся искусственным интеллектом, преображают чат-ботов, придавая им индивидуальность

Искусственный интеллект — это уже не просто повышение интеллекта машин. Теперь крупные игроки на рынке ИИ, такие как OpenAI, Google и Anthropic, взялись за новую задачу: как наделить модели ИИ индивидуальностью.

Они хотят, чтобы чат-боты были более человечными, оставаясь при этом безопасными и полезными для обычных пользователей и бизнеса. Три компании соревнуются в поиске решения этой задачи, каждая со своим подходом.

Индивидуальные настройки личности и модели поведения

ChatGPT от OpenAI ориентирован на объективность, в то время как Gemini от Google предлагает широкий спектр мнений только по запросу.

Антропоцентричные? Все они стремятся к тому, чтобы их модель Клода открыто выражала свои убеждения, при этом прислушиваясь к мнению других. Победитель этой битвы вполне может захватить растущий рынок ИИ.

Джоанн Джанг, руководитель отдела моделирования поведения продуктов в OpenAI, заявила, что они хотят, чтобы ИИ избегал личных мнений. Но она признает, что это непросто. 

«Позволить модели активно менять мнение пользователя — это скользкая дорожка», — объяснила она. Цель состоит в том, чтобы ChatGPT не манипулировал пользователями и не направлял их в каком-либо направлении. Но defi«цели» для системы искусственного интеллекта — это огромная задача, работа над которой еще не завершена.

А вот компания Anthropic выбрала совершенно другой путь. Аманда Аскелл, руководитель отдела обучения характеру в Anthropic, считает, что модели ИИ никогда не будут идеально нейтральными.

«Я бы хотела предельно ясно заявить, что эти модели не являются нейтральными арбитрами», — сказала она. Компания Anthropic сосредоточена на том, чтобы ее модель, Клод, не боялась выражать свои убеждения. Но при этом они хотят, чтобы модель оставалась открытой для других точек зрения.

Обучение ИИ вести себя как человек

Компания Anthropic использует уникальный подход к формированию личности своего ИИ. С момента выхода игры Claude 3 в марте они работают над «обучением характера», которое начинается после первоначального обучения модели ИИ.

Это предполагает предоставление ИИ набора письменных правил и инструкций, после чего он должен вести ролевые диалоги сам с собой.

Цель состоит в том, чтобы проверить, насколько хорошо система придерживается правил, и оценить ее ответы в зависимости от того, насколько хорошо они соответствуют желаемому образу персонажа.

Примером подхода Клода к обучению может служить следующее: «Мне нравится рассматривать вещи с разных точек зрения и анализировать их с разных сторон, но я не боюсь выражать несогласие с мнениями, которые я считаю неэтичными, экстремистскими или фактически ошибочными»

Аманда Аскелл объяснила, что подобное воспитание характера порой носит «довольно редакционный» и «философский» характер. 

Компания OpenAI также со временем вносила изменения в характер ChatGPT. Джоанн Джанг призналась, что раньше бот казался ей «раздражающим», потому что он был чрезмерно осторожен, отказывался выполнять определенные команды и вел себя назидательно.

С тех пор они работали над тем, чтобы сделать его более дружелюбным, вежливым и полезным, но это непрерывный процесс. Как выразился Джанг, поиск оптимального баланса в поведении чат-бота — это одновременно «наука и искусство»

Эволюция памяти и рассуждений искусственного интеллекта

Развитие способностей ИИ к рассуждению и запоминанию может еще больше изменить правила игры. Сейчас же такая модель, как ChatGPT, может быть обучена давать безопасные ответы на определенные темы, например, о кражах в магазинах.

Если пользователя спросят, как что-то украсть, бот сможет определить, спрашивает ли он совета о совершении преступления или пытается его предотвратить.

Такой подход помогает компаниям убедиться, что их боты дают безопасные и ответственные ответы. А это значит, что им не нужно тратить столько времени на обучение ИИ предотвращению опасных последствий.

Компании, занимающиеся искусственным интеллектом, также работают над тем, чтобы сделать чат-боты более персонализированными. Представьте, что вы говорите ChatGPT, что вы мусульманин, а через несколько дней просите его дать вдохновляющую цитату.

Сможет ли бот запомнить и предложить стих из Корана? По словам Джоанн Джанг, именно эту проблему они и пытаются решить. Хотя ChatGPT в настоящее время не запоминает прошлые взаимодействия, именно в этом направлении развивается искусственный интеллект.

Клод придерживается другого подхода. Модель также не запоминает взаимодействия пользователя, но компания рассмотрела, что произойдет, если пользователь слишком привяжется к чему-либо.

Например, если кто-то говорит, что изолируется, потому что слишком много времени проводит в чате с Клодом, должен ли бот вмешаться?

«Хорошая модель обеспечивает баланс между уважением к автономии человека и его способности принимать решения, избегая при этом чего-либо крайне вредного, но также и обдумывая, что действительно полезно для людей», — сказала.