Фаворитизм Илона Маска в отношении ИИ и бесконтрольная автоматизация со стороны X

В социальных сетях распространилась ужасающая новость, когда платформа X Илона Маска вывела на главную страницу новостной ленты раздела Explore информацию о нападении Ирана на Израиль.

В четверг один из заголовков в главной новостной ленте X гласил:

«Иран нанес удар по Тель-Авиву тяжелыми ракетами»

Это было бы довольно тревожным сообщением, учитывая геополитическую ситуацию, недавнее нападение Израиля на посольство Ирана в Сирии, в результате которого погибли высокопоставленные чиновники, и напряженность между двумя странами, которая еще больше обострилась во время израильского вторжения в Газу. Так что, возможно, сейчас не самое подходящее время, но идеальным моментом может быть тот, кто хочет распространять вводящие в заблуждение заголовки по каким бы то ни было причинам, и роль ИИ (искусственного интеллекта) нельзя игнорировать, когда его можно использовать в качестве инструмента для таких чудовищных деяний. 

Заголовок был фейковым, и что еще более тревожно, он был сгенерирован официальным чат-ботом X, Grok, и затем выведен на главную страницу раздела «Популярные новости» в день обновления этой функции до новой версии.

Стремление Илона Маска к автоматизации – почему вообще произошёл этотdent

Если Tracистокиdent, становится очевидно, что сгенерированный Grok вводящий в заблуждение заголовок появился в результате перехода от работы по отбору и отбору критически важного контента, выполняемой людьми, к искусственному интеллекту, который, однако, еще не обладает полным интеллектом.

Ранее на платформе X существовала функция Twitter, предоставлявшая текстовый контекст для актуальных новостных тем. Вероятно, эти описания были написаны людьми. Алгоритм Twitter смог выявить релевантные ключевые слова и поделиться трендом с популярными темами на основе предложенных ключевых слов.

Позже Twitter сформировал команду редакторов-людей для отбора новостей и управления трендами с целью достижения лучших результатов. Таким образом, актуальные темы больше не зависели от алгоритмов, а были подготовлены с участием человека, что обеспечило более надежный подход. Twitter также сотрудничал с ведущими новостными агентствами, такими как Reuters и AP, чтобы еще больше усилить процесс создания контекста для актуальных тем вручную.

Но ситуация изменилась, когда в 2022 году Маск приобрел Twitter, переименовал его в X и заменил контекст новостей, создаваемый людьми. Вся команда редакторов была уволена, поскольку Маск предпочел, чтобы ИИ более эффективно отбирал новости, но у него были свои недостатки. 

Риски, связанные с опорой исключительно на ИИ

Тот факт, что Маск так амбициозен в отношении Grok и продвигает его при каждом удобном случае, несмотря на то, что знает о его ранней стадии развития и недостаточных возможностях, сам по себе вызывает опасения. Замена человеческих редакторов искусственным интеллектом может принести Маску некоторую финансовую выгоду, но она также сопряжена со своими издержками.

Тот факт, что заголовок был взят не из чьей-то ленты, а сгенерирован Grok, встроенным чат-ботом с искусственным интеллектом на платформе X, вызывает наибольшее беспокойство. Но самое главное – даже если Grok изначально сгенерировал такой ложный заголовок, он всё равно был выведен на первое место на странице новостей раздела «Исследовать». 

Это показывает, что между созданием и распространением этой новости, а если она и существовала, то была недостаточной, и компания полностью полагалась на ИИ для выполнения этой работы. Как уже говорилось, ИИ всё ещё недостаточно умён, чтобы обрабатывать деликатные темы, несмотря на то, что он предлагает множество преимуществ в анализе данных и обеспечивает результаты с большей эффективностью, чем это возможно для человека. Тем не менее, есть области, требующие вмешательства человека, и для развития ИИ до этого уровня может потребоваться некоторое время. До тех пор полагаться исключительно на процедуры ИИ — неразумный шаг.