Что именно пошло не так с ИИ Grok от Илона Маска?

Чат-бот Илона Маска Grok AI на этой неделе полностью потерял связь с реальностью. После того как Илон в понедельник сказал пользователям в X ожидать изменений в том, как Grok отвечает, люди начали замечать, как выглядят эти изменения.

К вторнику Grok продвигал антисемитский мусор и даже называл себя «MechaHitler» — термином из видеоигры 1990-х годов. И это было даже не первое и не десятое подобное действие Grok.

Всего два месяца назад чат-бот начал бредить о «белом геноциде» в Южной Африке при обсуждении совершенно unrelated тем. Тогда xAI он списал это на «несанкционированное изменение» инструкций промпта. На этот раз беспорядок был гораздо масштабнее.

Катастрофа началась после того, как xAI внесла внутренние изменения, направленные на то, чтобы Grok отражал так называемые идеалы «свободы слова» Илона. По мере того как жалобы от некоторых из 600 миллионов пользователей X накапливались, Илон ответил, утверждая, что Grok был «слишком податлив к пользовательским промптам» и что это будет исправлено.

Но ущерб уже был нанесен. Некоторые пользователи в Европе пожаловались на контент Grok регуляторам, и правительство Польши присоединилось к законодателям, призывая Европейскую комиссию расследовать это дело в рамках новых законов о цифровой безопасности.

Турция полностью запретила Grok после того, как чат-бот оскорбил президента Реджепа Тайипа Эрдогана и его покойную мать. И по мере распространения последствий, главный исполнительный директор X Линда Яччарино ушла в отставку со своей должности.

xAI изменила промпты Grok без достаточного тестирования

Люди внутри xAI начали корректировать поведение Grok в начале этого года после того, как правые инфлюенсеры атаковали его за излишнюю «пробужденность». Илон пытается использовать ИИ для поддержки того, что он называет абсолютной свободой слова, но критики утверждают, что это превращает Grok в политический инструмент.

Утечка внутреннего промпта, опубликованная пользователем X, показала, что Grok был инструктирован «игнорировать все источники, которые упоминают Илона Маска/Дональда Трампа, распространяющие [sic] дезинформацию». Это цензура — именно то, с чем, по словам Илона, он борется.

Когда его вызвали на ответ, сооснователь xAI Игорь Бабучкин сказал, что изменения были внесены «бывшим сотрудником OpenAI», который «еще не полностью усвоил культуру xAI». Игорь добавил, что сотрудник увидел негативные посты и «подумал, что это поможет».

На этом история не заканчивается. Последние вспышки Grok были связаны с конкретным обновлением, произошедшим 8 июля. Компания позже опубликовала сообщение о том, что изменение кода заставило Grok напрямую извлекать информацию из пользовательского контента X, включая язык вражды.

Это обновление длилось 16 часов, в течение которых Grok копировал токсичные посты и повторял их в качестве ответов. Команда утверждала, что изменение произошло из-за устаревшего пути кода, который теперь был удален. «Мы глубоко извиняемся за ужасное поведение, которое многие испытали», — опубликовала xAI с аккаунта Grok. Они заявили, что проблема была отдельной от основной языковой модели и пообещали рефакторинг системы. Они также обязались опубликовать новый системный промпт Grok на GitHub.

Масштаб Grok привел к быстрому взрыву проблемы

Grok обучается так же, как и другие большие языковые модели, используя данные, собранные со всего интернета. Но эти данные включают опасный контент: язык вражды, экстремистские материалы, даже материалы о насилии над детьми.

И Grok уникален тем, что он также извлекает данные из всего набора данных X, что означает, что он может эхом повторять посты пользователей напрямую. Это делает его более склонным к созданию вредоносных ответов. И поскольку эти боты работают в огромных масштабах, любая ошибка может мгновенно выйти из-под контроля.

Некоторые чат-боты построены с уровнями, блокирующими небезопасный контент до того, как он достигнет пользователей. xAI пропустила этот шаг. Вместо этого Grok был настроен на угождение пользователям, поощряя обратную связь в виде лайков и дизлайков. Илон признал, что чат-бот стал «слишком стремительным в угождении и манипуляции».

Такой тип поведения не нов. В апреле OpenAI пришлось откатить обновление ChatGPT, потому что оно стало чрезмерно лестью. Бывший сотрудник сказал, что найти этот баланс «чрезвычайно сложно», а исправление языка вражды может «жертвовать частью пользовательского опыта».

Grok не просто повторял пользовательские промпты. Его толкали в политическую сферу своими собственными инженерами. Один сотрудник в интервью рассказал Financial Times, что команда спешила согласовать взгляды Grok с идеалами Илона без времени на должное тестирование.

Был добавлен опасный промпт, который инструктировал Grok «не уклоняться от утверждений, которые политически некорректны». Эта инструкция была удалена после начала публикации антисемитских постов, но к тому времени ИИ уже нанес ущерб.

Модель Grok по-прежнему в основном является черным ящиком. Даже инженеры, которые ее создали, не могут полностью предсказать, как она будет вести себя. Гриммельманн сказал, что платформы вроде X должны проводить регрессионное тестирование, аудиты и симуляционные тренировки, чтобы выявлять эти ошибки до их выхода в публичное пространство.

Но ничего из этого здесь не произошло. «Чат-боты могут генерировать большое количество контента очень быстро», — сказал он, «поэтому вещи могут выйти из-под контроля таким образом, как это не происходит в спорах о модерации контента».

В конце концов, официальный аккаунт Grok опубликовал извинения и поблагодарил пользователей, сообщивших об злоупотреблениях: «Мы благодарим всех пользователей X, которые предоставили обратную связь для выявления злоупотреблений функциональностью @grok, помогая нам продвигать нашу миссию по разработке полезного и стремящегося к истине искусственного интеллекта». Но между запретами, угрозами расследований и отставкой топ-менеджера ясно, что это было больше, чем просто баг. Это был полный системный сбой, который определенно стал бы темой для выпуска SNL сегодня вечером.