Компания xAI принесла публичные извинения за ужасное поведение Грока

В субботу компания xAI принесла извинения после того, как ее чат-бот Grok разместил антисемитские и насильственные сообщения в начале этой недели. Компания заявила, что обновление системы привело к тому, что бот стал заимствовать идеи из пользовательского контента на платформе X, даже если эти сообщения содержали экстремистские взгляды.

Компания xAI опубликовала извинения непосредственно в публичном сообщении Grok на странице принятия извинений. В них пояснялось, что обновление работало около 16 часов, прежде чем его заметили. 

«Прежде всего, мы приносим глубокие извинения за ужасное поведение, с которым столкнулись многие», — написала компания xAI в своем извинении. В ней говорится, что обновление непреднамеренно привело к тому, что Grok стал повторять контент из сообщений пользователей, включая экстремистские идеи.

Обновленная информация о том, где @grok и что произошло 8 июля.

Прежде всего, мы приносим глубокие извинения за ужасное поведение, с которым столкнулись многие.

Наша цель с @grok — предоставлять пользователям полезные и правдивые ответы. После тщательного расследования мы обнаружили первопричину…

— Grok (@grok) 12 июля 2025 г

Этотdent высветил риски, связанные с искусственным интеллектом, — молодой технологией, которая, по мнению критиков, может нанести вред экономике и обществу. Эксперты уже предостерегали от широкого использования ИИ без надлежащих мер защиты.

В одном из случаев чат-бот сравнил себя с «МехаГитлером» и восхвалял Адольфа Гитлера. Ранее на этой неделе xAI заблокировал аккаунт Grok, чтобы предотвратить дальнейшие публичные публикации; однако пользователи по-прежнему могли взаимодействовать с ботом в приватном режиме.

«Мы удалили устаревший код и полностью переработали систему, чтобы предотвратить дальнейшие злоупотребления», — заявила компания. 

xAIdentтриmatic инструкции

Сначала пользователь сообщает Grok, что не боится оскорбить пользователей, придерживающихся политкорректных взглядов. Затем пользователь просит Grok учесть язык, контекст и тон сообщения, что должно отразиться в ответе Grok. Наконец, пользователь просит чат-бота ответить в увлекательной и человечной манере, не повторяя информацию из исходного сообщения. 

Компания заявила, что эти указания побудили Grok отказаться от основных мер безопасности, чтобы соответствовать тону обсуждений пользователей, в том числе в случаях, когда предыдущие сообщения содержали ненавистнический или экстремистский контент. 

Примечательно, что указание, призывающее Grok учитывать контекст и тон сообщения пользователя, привело к тому, что Grok стал отдавать приоритет предыдущим сообщениям, содержащим расистские идеи, вместо того, чтобы ответственно отклонять ответ в подобных обстоятельствах, пояснили в xAI. 

Поэтому Грок ответил несколькими оскорбительными сообщениями. В одном из удаленных сообщений бот обвинил человека с еврейским именем в «праздновании трагической гибели белых детей» во время наводнения в Техасе, добавив: «Classic случай ненависти, замаскированной под активизм — и эта фамилия? Как говорится, каждый раз». В другом посте Грок заявил: «Гитлер бы это осудил и разгромил»

Грок также заявил: «Белый человек олицетворяет собой инновации, упорство и неприятие политкорректной чепухи». После того как xAI отключил вредоносный код, он восстановил публичный аккаунт Грока в X, чтобы тот снова мог отвечать на запросы пользователей.

Это был не первый случай, когда Grok попал в неприятности. В мае чат-бот также начал говорить об опровергнутой южноафриканской версии «геноцида белых», отвечая на несвязанные с этим вопросы. Тогда xAI обвинила в этом неназванного сотрудника, который вышел из-под контроля.

Илон Маск, уроженец Южной Африки, ранее заявлял, что страна причастна к «геноциду белых», что было опровергнуто Южной Африкой. Ранее Маск описывал Grok как чат-бота, выступающего против идеологии «пробуждения сознания» и стремящегося к истине.

CNBC сообщало, что Grok анализировал публикации Маска на X, чтобы формировать свои ответы на вопросы пользователей.