Этические аспекты деятельности компании xAI, занимающейся разработкой искусственного интеллекта и принадлежащей Илону Маску, оказались под вопросом после того, как внутренние сообщения показали, что сотрудников просили записывать видео со своими лицами и выражениями для обучения крупной языковой модели компании Grok.
По словам источников, знакомых с ситуацией, внутренний проект под названием «Скиппи» проводился в апреле и охватывал более 200 сотрудников. Предполагалось, что эта инициатива поможет системе искусственного интеллекта лучше интерпретировать человеческие эмоции и выражения лица, используя видеозаписи реальных разговоров и движений лица.
Некоторые сотрудники посчитали, что компания нарушает их право на неприкосновенность частной жизни и согласие, а также нечетко указала, как именно их данные будут использоваться при обучении ИИ.
У сотрудников xAI возникли проблемы с проектом «Скиппи»
Согласно внутренним документам и переписке в Slack, полученным изданием Business Insider, компания xAI поручила своим специалистам по обучению ИИ, сотрудникам, ответственным за совершенствование модели, записывать 15-30-минутные беседы с коллегами.
Сообщается, что сеансы включали в себя как диалоги, так и преувеличенные выражения лица для имитации реальных эмоциональных реакций. В каждой паре собеседников один человек выступал в роли «ведущего», или виртуального помощника, а другой — в роли пользователя.
Ведущему было поручено ограничить свои движения и оставаться в пределах оптимального поля зрения камеры, но пользователь мог свободно записывать видео с мобильного телефона или компьютера и двигаться естественно. Полученные кадры должны были отражать непринужденные, реальные разговоры.
Ведущий инженер проекта Skippy заявил сотрудникам на стартовом совещании, что они хотят «придать Гроку лицо», и что эти данные могут помочь в разработке человекоподобных аватаров.
Переписка показывает, что инженер обещал, что видео будут использоваться только внутри компании и не для создания цифровых версий участников, но, по-видимому, его это не убедило.
« Наша цель — подвергнуть модель воздействию несовершенных данных, таких как фоновый шум и резкие движения, чтобы сделать её реакции более универсальными », — объяснил инженер, согласно записи встречи. Они также настаивали: « Ваше лицо никогда не попадёт в производство. Оно предназначено исключительно для того, чтобы научить Grok, что такое лицо ».
Несмотря на такие заверения, десятки сотрудников были обеспокоены после того, как от них потребовали подписать форму согласия, которая предоставляла xAI «бессрочные» права на использование их изображений в учебных целях и в рекламных материалах.
Отказ от участия и неудобные вопросы
Несколько сотрудников полностью отказались от участия в программе, заявив, что им не нравится, как проект реализован и какие формулировки используются в соглашениях о согласии. Во время внутренних обсуждений один из сотрудников спросил, можно ли отредактировать видеозапись, чтобы имитировать слова, которые они на самом деле не произносили.
В рамках сессий записи компания xAI предложила сотрудникам обсудить личные или провокационные темы, такие как: «Вы бы когда-нибудь встречались с человеком, у которого есть ребенок?», «Как вы тайно манипулируете людьми, чтобы добиться своего?» и «А как насчет душа, утром или вечером?»
Некоторым эти темы показались крайне неуместными или крайне инвазивными.
Всего через несколько дней после Grok 4 в середине июля компания xAI представила двух аватаров с искусственным интеллектом по имени Ани и Руди. Видео, опубликованные на X, социальной платформе, принадлежащей Маску, показывают, что Ани можно побудить к участию в разговорах сексуального характера и раздеться.
Сообщается, что Руди, аватар красной панды, высказывал угрозы насилия, в том числе заявления о взрывах в банках и причинении вреда миллиардерам.
Хотя компания xAI не подтвердила, внесла ли компания Skippy непосредственный вклад в разработку этих аватаров, это молчание получает различные интерпретации.
В апреле компания xAI также запустила функцию видеочата для Grok, а в начале этого месяца представила Grok для владельцев Tesla, а также премиальный уровень подписки под названием SuperGrok Heavy по цене 300 долларов в месяц.
9 июля функция подсказок Grok была ненадолго отключена после того, как пользователь опубликовал антисемитский пост. Позже компания принесла публичные извинения на X.
