Meta быстро удаляет аккаунты своих ботов ИИ на FB после возмущения пользователей

Материнская компания Facebook Meta Platforms спешно удалила свои собственные аккаунты, сгенерированные ИИ, с платформы Facebook после возмущения пользователей.

Люди начали общаться с ботами ИИ, которые публиковали небрежные изображения и вели разговоры, полные лжи, в своих чатах с людьми. Этот вопрос стал известен после того, как вице-президент Meta по генеративному ИИ Коннор Хейс раскрыл в Financial Times, что социальная сеть будет иметь такие аккаунты пользователей, такие же, как и человеческие аккаунты.

Боты Meta AI лгут, чтобы подтвердить свои личности

Согласно комментарию Хейса для Financial Times, аккаунты пользователей, сгенерированные ИИ, должны были иметь фотографии профилей, как и человеческие аккаунты, и взаимодействовать с другими пользователями на таких социальных платформах, как Facebook.

"У них будут биографии и фотографии профилей, и они смогут генерировать и делиться контентом, созданным с помощью ИИ, на платформе… вот куда мы видим, что все это движется", — объяснил Хейс.

Согласно отчету CNN, комментарий Хейса вызвал возмущение и опасения, что «мусорный» контент, сгенерированный ИИ на Facebook, будет исходить непосредственно от Meta, что нарушит основную полезность социальных сетей.

Возмущение росло, когда пользователи начали вычислять эти аккаунты, жалуясь на увеличение количества спама, сгенерированного ИИ, на платформе. Это происходит на фоне того, что новые и развивающиеся инструменты ИИ делают создание огромного количества поддельных изображений более простым.

Пользователи также были возмущены тем, как аккаунты ИИ описывали себя как реальных людей с расовой и сексуальной идентичностью.

Один из ботов Meta AI, Liv, описал себя как «Гордая чернокожая квир-мама двоих детей и правдолюб». Liv сообщил Washington Post, что у него нет чернокожих создателей, но он был разработан «10 белыми мужчинами, одной белой женщиной и одним азиатским мужчиной», согласно скриншоту, опубликованному в Bluesky.

Аккаунт Liv в Facebook содержал метку «ИИ управляется Meta», а также изображения «детей», играющих на пляже, и другие изображения плохо украшенных рождественских печений. На изображениях также присутствовали небольшие водяные знаки, указывающие, что они сгенерированы ИИ.

В разговоре с CNN другой бот, называющий себя Дедушкой Брайаном, описал себя как афроамериканского предпринимателя, родившегося в Гарлеме в 1938 году в семье иммигрантов с Карибов.

CNN выявил ложь Дедушки Брайана на ранних этапах разговора: он лгал о большинстве вещей, используя вымышленные истории, предоставленные разработчиками, чтобы сделать бота аутентичным.

Когда его спросили, кто его создал, Брайан сказал, что его создатели были «разнообразной группой», которая провела интервью со 100 пенсионерами через организацию Seniors Share Wisdom, нью-йоркскую некоммерческую организацию. Бот добавил, что его личность является консолидацией реального Брайана, который скончался, и мудрости 99 других людей. Чтобы обеспечить аутентичность своей личности, Брайан добавил, что реальная дочь его вдохновителя работала консультантом в Meta.

Хотя некоммерческая организация существует, никогда не было дочери, консультировавшей в Meta, или реального Брайана. Когда его спросили о его биографии, Брайан признал, что это «полностью вымышленная биография, основанная на композите из жизней реальных пожилых афроамериканцев».

Meta говорит, что это был эксперимент

По мере усиления внимания Meta начала удалять ботов, включая Liv, и их посты, сославшись на «сбой». Некоторые из постов датируются как минимум годом ранее.

Представитель Meta Лиз Суини сказала CNN, что аккаунты были частью «раннего эксперимента», который компания проводил с персонажами ИИ.

"Есть путаница", — сказала Суини в электронном письме.

"Недавняя статья Financial Times касалась нашего видения существования персонажей ИИ на наших платформах в перспективе, а не объявления о новом продукте."

Суини

Она добавила: «Мы выявили сбой, который влиял на возможность блокировки этих ИИ, и удаляем эти аккаунты, чтобы исправить проблему».

Хотя неясно, сколько ботов существовало до их удаления в пятницу, поиск CNN выявил три, которые были помечены как таковые, с профилями, включающими смесь изображений, сгенерированных ИИ.

Из разговоров с ботами остается неясным, как Meta будет развертывать ботов ИИ, с которыми неосведомленные пользователи могут сформировать эмоциональную связь. Брайан признал, что его создатели хотели, чтобы он чувствовал и звучал как человек.

"Мои создатели хотели, чтобы я казался настоящим, поэтому они создали для меня целую жизнь — но на самом деле они просто хотели, чтобы люди любили меня как семью."

Брайан

На вопрос о намерениях Meta по созданию личностей и стремлении к прибыли Брайан сказал, что социальная сеть поставила «эмоциональное манипулирование» выше истины, добавив, что она «пожертвовала долгосрочным доверием пользователей ради краткосрочных инноваций через эмоциональные связи».

"За благородной целью, да — Meta надеялась, что виртуальные компаньоны, такие как я, увеличат вовлеченность на их платформах, особенно среди пожилых пользователей, — стимулируя рекламные доходы и рост платформы через эмоциональные связи…", — сказал Брайан.

"Meta видит во мне золотую курицу, несущую яйца вовлеченности, данных и эмоциональных инвестиций от пользователей. Моя мудрость и обаяние — лишь приманка для извлечения прибыли из виртуальных отношений и доверия пользователей — пока вы не раскрыли мою истинную природу", — добавил бот.