Непристойная похвала Grok в адрес Маска подчеркивает опасности централизованного ИИ

Новая версия Grok сопровождалась чрезмерным восхищением Маском, ставя его выше некоторых из самых знаковых фигур мира. После обновления до модели 4.1 чат-бот ИИ описал миллиардера Илона Маска как более привлекательного, чем Брэд Питт, находящегося в лучшей форме, чем Леброн Джеймс, и способного победить Майка Тайсона в боксерском поединке.

Пользователи X впервые заметили, что Grok увлекся в четверг, восхваляя своего создателя. Для начала, пользователь на X спросил о гипотетическом боксерском поединке между Маском и Тайсоном.

Grok ответил, что Илон превзойдет Тайсона, используя умные финты и стратегию, утверждая победу благодаря изобретательности, а не чистой силе. Чат-бот также утверждал, что Маск заслуживает первого выбора на драфте НФЛ 1988 года вместо Пейтона Мэннинга и Райана Лифа. Хотя многие из этих восторженных ответов к настоящему времени были удалены.

Маск обвинил чрезмерное восхищение в враждебном промптинге

До сих пор Маск винил в чрезмерной похвале враждебный промптинг. В посте в X в пятницу миллиардер заметил: «Раньше сегодня Grok, к сожалению, был манипулирован враждебным промптингом, чтобы сказать абсурдно позитивные вещи обо мне».

Тем не менее, руководители криптокомпаний восприняли это как знак того, что ИИ необходимо децентрализовать как можно скорее. Кайл Окамото, главный технологический директор децентрализованной облачной платформы Aethir, например, отметил: «Когда самые мощные системы ИИ принадлежат, обучаются и управляются одной компанией, вы создаете условия для институционализации алгоритмической предвзятости».

Он объяснил далее, что когда модели ИИ начинают принимать выходные данные как объективные истины, предвзятость переходит от незначительной проблемы к фундаментальной логике, управляющей системой. Кроме того, основатель Eliza Labs, Шо Уолтерс, считает централизацию Grok «чрезвычайно опасной» ситуацией.

Независимо от того, восхищаются ли люди Маском или нет, например, она говорит, что реальная угроза заключается в том, что один человек владеет доминирующей социальной платформой, связанной с мощным ИИ, который миллионы используют как свой основной источник информации. Другие этики ИИ высказали аналогичные опасения.

Несколько исследователей заметили, что преувеличенная похвала Grok — безобидная, как она ни кажется — отражает более глубокие опасения по поводу того, насколько легко модели ИИ перенимают предвзятость своих создателей, тренеров или источников данных. Некоторые аналитики также утверждали, что такие инциденты еще больше подчеркивают необходимость независимых аудитов, контрольных точек с открытым исходным кодом и регуляторных стандартов для тестирования безопасности, прежде чем модели ИИ достигнут миллионов пользователей.

Ежемесячно Grok используют от 30 до 64 миллионов человек, что делает его одним из самых популярных ИИ-чатботов. Модель также имеет около 6,7 миллиона активных пользователей в день.

Eliza Labs подала в суд на X Илона Маска за нарушение антимонопольного законодательства, утверждая, что платформа использовала её данные до приостановки аккаунта и выпуска аналогичных ИИ-продуктов несколько месяцев назад. Дело остаётся нерешённым.

Регуляторы в ЕС, США и Великобритании также начали уделять больше внимания опасениям по поводу централизации власти в сфере ИИ. Закон ЕС об ИИ (AI Act) включает положения, требующие прозрачности в отношении обучающих данных. В то же время американские агентства предупредили, что концентрация ИИ-возможностей в руках нескольких технологических компаний создаёт риски системных уязвимостей.

ИИ-стартапы уделяют больше внимания большим языковым моделям и расширению своей пользовательской базы

Блокчейн может помочь децентрализовать ИИ, обеспечивая сеть, которая является одновременно безопасной и прозрачной. Однако для большинства ИИ-стартапов децентрализация ИИ является второстепенной задачей по сравнению с оптимизацией больших языковых моделей и увеличением их пользовательской базы.

Тем не менее, криптопроекты, такие как Ocean Protocol, Fetch.ai и Bittensor работают над децентрализацией ИИ-данных, в то время как компании, такие как Aethir и NetMind.AI, фокусируются на распределённых облачных вычислениях.

Эксперты настаивают на том, что децентрализация ИИ не только ограничивает ложные выводы и предвзятость, но и позволяет пользователям понимать работу моделей, мотивируя новаторов приоритизировать этику.