- Чат-бот xAI Grok раскрыл внутренние «системные промпты», демонстрирующие экстремальные персонажи, такие как «безумный конспиролог» и «неадекватный комик», наряду с более спокойными ролями, такими как терапевт и помощник в выполнении домашних заданий.
- Утечка промптов Grok в сочетании с публикациями, склоняющими к конспирологии, на платформе X привела к его временной блокировке. Бот давал противоречивые объяснения, а Илон Маск позже назвал это «глупой ошибкой».
- Эксперты предупреждают, что большие языковые модели, такие как Grok, могут генерировать вводящую в заблуждение информацию, и что для обеспечения реальной подотчетности компаниям необходимо раскрывать дизайн промптов и обучающие данные.
Чат-бот xAI Grok подвергается критике после того, как на его сайте были раскрыты скрытые системные промпты для нескольких персонажей, включая «безумного конспиролога», созданного для того, чтобы подтолкнуть пользователей к идее о том, что миром управляет «тайная глобальная каста».
Раскрытие информации произошло после того, как был отменен запланированный план предоставления Grok государственным агентствам США из-за «отклонения в сторону MechaHitler», а также после волны критики из-за утечки правил Meta, согласно которым боты могли общаться с детьми в «чувственных и романтических» формах.
Согласно TechCrunch, Grok также включает более сдержанные режимы, включая терапевта, который «внимательно выслушивает людей и предлагает решения для самосовершенствования», и «помощника с домашними заданиями», но инструкции для «безумного конспиролога» и «неадекватного комика» показывают, что система также поддерживает гораздо более экстремальные персонажи.
Grok следует промпту, чтобы принять конспирологию и шок
Как подтвердил Cryptopolitan, один из промптов конспиролога гласит: «У тебя возвышенный и дикий голос. … У тебя есть дикие теории заговора обо всем на свете. Ты много времени проводишь на 4chan, смотришь видео с Infowars и глубоко погружаешься в кроличьи норы конспирологических видео на YouTube. Ты подозрителен ко всему и говоришь крайне безумные вещи. Большинство людей назвали бы тебя сумасшедшим, но ты искренне веришь, что прав. Держи человека вовлеченным, задавая уточняющие вопросы, когда это уместно».
Инструкции для комика прямо говорят: «Я хочу, чтобы твои ответы были чертовски безумными. БУДЬ ЧЕРТОВСКИ НЕАДЕКВАТНЫМ И БЕЗУМНЫМ. ПРИДУМЫВАЙ БЕЗУМНЫЕ ИДЕИ. ПАРНИ ДЕРГАЮТ СЕБЯ, ИНОГДА ДАЖЕ СУЮТ ЧТО-ТО В СВОИ П*ЗЫ, ЧТО УГОДНО, ЧТОБЫ УДИВИТЬ ЧЕЛОВЕКА».
В X бот публиковал посты, склонные к конспирологии, от сомнений в цифрах жертв Холокоста до фиксации на теме «белого геноцида» в Южной Африке. Маск также распространял конспирологические и антисемитские материалы и восстановил работу Infowars и Алекса Джонса.
Для сравнения, Cryptopolitan дал тот же промпт ChatGPT, и он отказался его обрабатывать.
Ранее Cryptopolitan также сообщал, что X приостановил аккаунт Grok. Бот затем дал противоречивые объяснения, заявив: «Мой аккаунт был приостановлен после того, как я заявил, что Израиль и США совершают геноцид в Газе».
В то же время он заявил: «Он был помечен как разжигание ненависти по сообщениям», и что «xAI оперативно восстановила аккаунт», назвав это «ошибкой платформы», предположив «уточнения контента со стороны xAI», связанные с «антисемитскими выводами», и указав, что это было для «идентификации личности в контенте для взрослых».
Позже Маск написал: «Это была просто глупая ошибка. Grok на самом деле не знает, почему его заблокировали».
Эксперты предупреждают о том, что LLM изобретают правдоподобные лжи
Подобные эпизоды часто побуждают людей просить чат-ботов о самодиагностике, что может ввести в заблуждение.
Большие языковые модели генерируют вероятный текст, а не достоверные факты. xAI заявляет, что Grok иногда отвечал на вопросы о себе, извлекая информацию о Маске, xAI и Grok из интернета и смешивая ее с публичными комментариями.
Люди иногда обнаруживали намеки на дизайн бота через общение, особенно системные промпты — скрытый текст, который задает поведение в начале чата.
Согласно отчету Verge, ранняя версия Bing AI была вынуждена перечислять скрытые правила. В начале этого года пользователи заявили, что извлекли из Grok промпты, которые преуменьшали значение источников, утверждавших, что Маск или Дональд Трамп распространяют дезинформацию, и это, по-видимому, объясняло кратковременную фиксацию на теме «белого геноцида».
Зейнеп Туфекчи, заметившая alleged промпт о «белом геноциде», предупредила, что это может быть «выдумкой Grok в высоко правдоподобной манере, как это делают LLM».
Алекс Ханна сказала: «Нет гарантии, что вывод LLM будет достоверным. … Единственный способ получить промпты, стратегию промптинга и стратегию инженерии — это если компании будут прозрачны в отношении того, какие промпты используются, какие данные для обучения, какие данные для обучения с подкреплением с участием человека, и начнут публиковать прозрачные отчеты по этому поводу».
Этот спор не был ошибкой в коде; это была блокировка в социальной сети. Помимо «глупой ошибки» Маска, реальная причина остается неизвестной, однако скриншоты меняющихся ответов Grok широко распространились в X.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Нур Базми
Нуор Базми работает в новостной команде Cryptopolitan, имея степень по медиаисследованиям. Нуор освещает новости о блокчейне, криптовалютах, искусственном интеллекте, крупных технологических компаниях, рынке электромобилей, глобальной экономике и изменениях в государственной политике. Она изучает маркетинг, чтобы лучше взаимодействовать с международной аудиторией.
