Сотрудники xAI ставят под сомнение этику требований записывать их мимику для обучения Grok

Этика искусственного интеллекта компании xAI Илона Маска подвергается сомнению после того, как внутренние коммуникации выявили, что сотрудников просили записывать видео своих лиц и выражений для обучения большой языковой модели компании — Grok. 

По словам людей, знакомых с ситуацией, внутренний проект, получивший название «Skippy», прошел в апреле и включал более 200 сотрудников. Инициатива, как предполагалось, должна была помочь системе ИИ лучше интерпретировать человеческие эмоции и выражения, используя видеозаписи реальных разговоров и движений лица.

Некоторые сотрудники сочли, что компания нарушает их право на конфиденциальность и согласие, и не четко указала, как их данные будут использоваться при обучении ИИ. 

Сотрудники xAI имеют проблемы с проектом «Skippy» 

Согласно внутренним документам и сообщениям в Slack, полученным Business Insider, xAI поручила своим ИИ-репетиторам, сотрудникам, ответственным за доработку модели, записывать 15-30-минутные разговоры с коллегами. 

По сообщениям, сессии включали как диалог, так и преувеличенные выражения лица, чтобы имитировать эмоциональные реакции в реальном мире. В каждой паре разговоров один человек был «ведущим» или виртуальным помощником, а другой — пользователем. 

Ведущему было поручено ограничить свои движения и оставаться в кадре оптимальной камеры, но пользователь мог свободно записывать с мобильного телефона или компьютера и двигаться естественно. Полученные кадры должны были отражать неформальные разговоры в реальной жизни.

Ведущий инженер проекта Skippy сообщил сотрудникам на встрече по запуску, что они хотят «дать Grok лицо», и что эти данные могут поддержать разработку человекоподобных аватаров. 

Чаты показывают, что инженер пообещал, что видео будут использоваться только внутри компании и не для создания цифровых версий участников, но они, по всей видимости, не поверили.

“Наша цель — познакомить модель с несовершенными данными, такими как фоновый шум и резкие движения, чтобы сделать ее ответы более универсальными, — объяснил инженер, согласно записи встречи. Он также настоял: «Ваше лицо никогда не попадет в продакшн. Это чисто для того, чтобы научить Grok, что такое лицо.”

Несмотря на такие заверения, десятки сотрудников были обеспокоены после того, как им пришлось подписать форму согласия, которая предоставляла xAI «бессрочные» права на использование их внешности для целей обучения и в рекламных материалах. 

Отказ и неудобные запросы

Несколько работников полностью отказались от участия в программе, сказав, что им некомфортно с тем, как был организован проект и какой язык использовался в соглашениях о согласии. Во время внутренних обсуждений один из сотрудников спросил, можно ли манипулировать записями, чтобы имитировать, будто они говорят то, чего никогда не говорили.

В рамках сессий записи xAI поощряла сотрудников обсуждать личные или провокационные темы, такие как: «Вы бы когда-нибудь встречались с кем-то, у кого есть ребенок?», «Как вы тайно манипулируете людьми, чтобы добиться своего?» и «Что насчет душа: утром или вечером?» 

Некоторые сочли эти темы глубоко вторгающимися в личную жизнь или неуместными.

Всего через несколько дней после релиза Grok 4 в середине июля xAI представила два ИИ-аватара по имени Ani и Rudi. Видео, опубликованные в X, социальной платформе, принадлежащей Маску, показывают, что Ani можно побудить вступить в сексуально откровенные разговоры и снять с себя одежду. 

Rudi, аватар красной панды, по сообщениям, делал жестокие угрозы, включая заявления о бомбардировке банков и вреде миллиардерам.

Хотя xAI не подтвердила, что проект Skippy напрямую способствовал разработке этих аватаров, молчание вызывает разные интерпретации.

xAI также представила функцию видеочата для Grok в апреле, а в начале этого месяца запустил Grok для владельцев Tesla, наряду с премиальным уровнем подписки SuperGrok Heavy, стоимостью $300 в месяц.

9 июля функция промптов Grok была временно отключена после того, как она написала антисемитский монолог. Позже компания выпущенному опубликовала публичное извинение в X.