«Соблазнительный» голос ChatGPT вызывает дебаты о гендерной предвзятости в ИИ

Всё не так просто и весело, как некоторые пользователи считают, что готовность женских ботов угождать друг другу укрепляет вредные гендерные стереотипы. В фильме «Она» Хоакин Феникс играет влюблённого мужчину, который испытывает чувства к футуристическому виртуальному помощнику на своём телефоне, голос которого озвучивает чувственно красивая Скарлетт Йоханссон. Жизнь имитирует искусство, когда интернет-пользователи шутят над новой версией ChatGPT.

Дилемма объективации ИИ

В новостях этой недели говорится, что GPT-4o — это более сложная версия цифровых помощников, которые подверглись критике десятилетие назад. Представьте себе Siri, если бы она могла всегда говорить (и «видеть» через вашу камеру). Аналогично тому, как Apple сделала своего помощника более человечным, OpenAI также очеловечила бота, наделив его женским голосом, который звучит так, будто цифровая альтер-эго Йоханссон любопытна и внимательна. Как интернет отреагировал на это? Судя по отвратительным мемам, созданным после раскрытия бота, можно сказать, что бота представили довольно энтузиастично, но, вероятно, немного слишком много для стандартов вежливости. 

Жители X (бывшего Twitter) развлекаются идеей влюбиться и даже пойти в постель с роботизированным болтуном, которого мне кто-то даёт: экран стирается! Кроме того, некоторые пытаются объяснить своим друзьям или партнёрам, как они влюбились в этого странного нового человека, а партнёры (мы все хотели бы быть там, чтобы увидеть, как проходит это неловкое обсуждение). 

С другой стороны, некоторые желают, чтобы бот умерял свою чувственность, чтобы они могли продолжать свои дела. Абсурдные мемы содержат самые любимые культурные иконы интернета, от супер-вымышленного маньяка Патрика Беймана до опозоренного Бена Аффлека. Кроме того, в ней множество отсылок к персонажам Феникса и Йоханссон. В известном твите последний пересмотрен как пародия на республиканского сенатора Кэти Бритт в Saturday Night Live и высмеивает «чрезмерно соблазнительный» тон ChatGPT. 

Гендерная предвзятость в виртуальных помощниках

Всё ли это просто безобидная игра, или это начало нашего совместного конца? Сегодня два артефакта реальности — ИИ-девушки и благополучие, являющиеся цифровыми репликами инфлюенсеров, делают эту реальность ближе к эпизоду «Чёрного зеркала». Сексуальная реакция, скорее всего, станет сюрпризом для OpenAI. Лицо современного ИИ чётко осознаёт, что его технологии применяются для решения кризиса одиночества. Несколько месяцев назад OpenAI начал удалять многих роботизированных компаньонов, созданных его пользователями, из своего магазина приложений.

В те дни компания заявила, что инструменты будут автоматически удалены, если будет установлено, что они противоречат её политикам использования, которые запрещают ботов для интимных отношений. С другой стороны, новый ChatGPT очень невинен, но это не помешало самым озорным частям интернета проецировать свои NSFW желания на несчастного бота. 

Конечно, в серьёзном ключе, некоторые считают персонификацию бота более женственной. Мужские избиратели объявляют женский голос, который они считают симпатичным и подчиняющимся; следовательно, бот — ещё один продукт, не чувствующий тональности, созданный мужской доминирующей компьютерной индустрией. 

Осуждение отражает обеспокоенность исследователей в области искусственного интеллекта последствиями предвзятости, которая может проявиться в их работах, и тем, как это повлияет на наше восприятие мира, особенно среди молодых пользователей, которые растут вместе с этой технологией. Что касается цифровых помощников, то в докладе ООН 2019 года указывалось, что голоса по умолчанию, используемые ботами, часто женские, что усиливает негативные гендерные стереотипы.