AI-компании делают чатботам косметическую операцию по изменению личности

Искусственный интеллект больше не просто о том, чтобы сделать машины умнее. Теперь крупные игроки в сфере ИИ, такие как OpenAI, Google и Anthropic, приняли новый вызов: как придать моделям ИИ личность.

Они хотят чатботов, которые кажутся более человечными, оставаясь при этом безопасными и полезными для обычных пользователей и бизнеса. Три компании соревнуются, чтобы разгадать этот код, каждая со своим подходом.

Пользовательские личности и поведение моделей

ChatGPT от OpenAI ориентирован на объективность, в то время как Gemini от Google предлагает широкий спектр мнений только по запросу.

Anthropic? Они полностью сосредоточены на том, чтобы их модель Claude открыто выражала свои убеждения, все еще слушая других. Победитель этой битвы может просто захватить растущий рынок ИИ.

Джоанн Джанг, руководитель по поведению моделей в OpenAI, сказала, что они хотят, чтобы ИИ избегал наличия личных мнений. Но она признает, что это сложно. 

«Это скользкая дорожка, позволяющая модели активно пытаться изменить мнение пользователя», — объяснила она. Цель состоит в том, чтобы убедиться, что ChatGPT не манипулирует пользователями и не направляет их в каком-либо направлении. Но определение «объективности» для системы ИИ — это огромная проблема, которая все еще находится в стадии разработки.

Затем есть Anthropic, который идет совершенно другим путем. Аманда Аскелл, которая руководит обучением персонажей в Anthropic, считает, что модели ИИ никогда не будут идеально нейтральными.

«Я бы предпочла быть очень четкой в том, что эти модели не являются нейтральными арбитрами», — сказала она. Anthropic сосредоточена на том, чтобы убедиться, что их модель, Claude, не боится выражать свои убеждения. Но они все еще хотят, чтобы она была открыта к другим точкам зрения.

Обучение ИИ вести себя как человек

У Anthropic есть уникальный подход к формированию личности их ИИ. С момента выпуска Claude 3 в марте они работали над «обучением персонажей», которое начинается после первоначального обучения модели ИИ.

Это включает в себя предоставление ИИ набора письменных правил и инструкций, а затем проведение ролевых разговоров с самим собой.

Цель состоит в том, чтобы увидеть, насколько хорошо он придерживается правил, и они ранжируют его ответы на основе того, насколько хорошо они соответствуют желаемому персонажу.

Один из примеров обучения Claude? Он может сказать: «Мне нравится пытаться смотреть на вещи с разных точек зрения и анализировать их с нескольких сторон, но я не боюсь выражать несогласие с мнениями, которые я считаю неэтичными, экстремальными или фактологически ошибочными».

Аманда Аскелл объяснила, что такой вид обучения персонажа «довольно редакторский» и иногда носит «философский» характер. 

OpenAI также со временем экспериментировала с личностью ChatGPT. Джоанн Джанг призналась, что раньше находила бота «раздражающим», потому что он был чрезмерно осторожным, отказывался выполнять определенные команды и вел себя поучительно.

С тех пор они работали над тем, чтобы сделать его более дружелюбным, вежливым и полезным, но это непрерывный процесс. Балансирование правильных моделей поведения в чат-боте, как выразилась Джанг, — это одновременно «наука и искусство».

Эволюционирующая память и способность к рассуждению ИИ

Эволюция способностей ИИ к рассуждению и памяти может еще больше изменить правила игры. В настоящее время модель, такая как ChatGPT, может быть обучена давать безопасные ответы по определенным темам, например, о краже в магазине.

Если спросить, как что-то украсть, бот может определить, просит ли пользователь совета о совершении преступления или пытается предотвратить его.

Такой тип рассуждений помогает компаниям гарантировать, что их боты дают безопасные и ответственные ответы. Это также означает, что им не нужно тратить столько времени на обучение ИИ избеганию опасных исходов.

Компании, занимающиеся ИИ, также работают над тем, чтобы сделать чат-боты более персонализированными. Представьте, что вы говорите ChatGPT, что вы мусульманин, а затем через несколько дней просите вдохновляющую цитату.

Вспомнит ли бот это и предложит ли стих из Корана? Согласно Джоанн Джанг, именно это они пытаются решить. Хотя в настоящее время ChatGPT не запоминает прошлые взаимодействия, именно в этом направлении движется персонализация ИИ.

Claude использует другой подход. Модель также не запоминает взаимодействия с пользователями, но компания обдумывает, что произойдет, если пользователь слишком привяжется к боту.

Например, если кто-то скажет, что изолируется, потому что проводит слишком много времени, общаясь с Claude, должен ли бот вмешаться?

"Хорошая модель находит баланс между уважением к человеческой автономии и принятию решений, не совершая ничего ужасно вредного, но также обдумывая, что на самом деле хорошо для людей", — Аманда Аскелл заявил.