Предвзятость Илона Маска в пользу ИИ и неконтролируемая автоматизация X

На социальных сетях распространились ужасающие новости, когда платформа Илона Маска X продвинула новости об атаке Ирана на Израиль на главную страницу своей новостной ленты Explore.

В четверг один из заголовков в основной новостной ленте X гласил:

«Иран наносит удар по Тель-Авиву тяжелыми ракетами»

Это было бы довольно тревожным обновлением, учитывая геополитическую ситуацию и недавнюю атаку Израиля на посольство Ирана в Сирии, в результате которой погибли высокопоставленные должностные лица, а также эскалацию напряженности между двумя странами во время вторжения Израиля в Газу. Так что, возможно, это не лучшее время, но идеальное время для тех, кто хочет продвигать вводящие в заблуждение заголовки по любым причинам, и роль ИИ (искусственного интеллекта) нельзя игнорировать, когда его можно использовать как инструмент для таких отвратительных действий. 

Заголовок был фальшивым, и что еще более тревожно, он был сгенерирован официальным чат-ботом Илона Маска Grok на платформе X, а затем продвинут на главную страницу трендов Explore в день обновления этой функции до новой версии.

Движение Илона Маска по автоматизации — почему инцидент произошел изначально

Если проследить корни инцидента, становится очевидным, что вводящий в заблуждение заголовок, сгенерированный Grok, стал результатом перехода от критической работы по курированию контента, которую ранее выполняли люди, к искусственному интеллекту, который пока не является полностью интеллектуальным.

Платформа X, ранее известная как Twitter, имела функцию, предоставляющую текстовый контекст для трендовых новостных тем. Вероятно, эти описания писались людьми. Алгоритм Twitter мог выявлять релевантные ключевые слова и делиться трендами на основе предложенных ключевых слов.

Позже Twitter сформировал команду человеческих редакторов для курирования новостей и управления трендами для получения лучших результатов, поэтому трендовые темы больше не оставались на милость алгоритмов; за ними стоял человеческий фактор, поэтому был принят более надежный подход. Twitter также заключил партнерские соглашения с ведущими новостными агентствами, такими как Reuters и AP, чтобы еще больше укрепить процесс создания контекста людьми для трендовых тем.

Но все изменилось, когда Маск приобрел Twitter в 2022 году, переименовал его в X и заменил контекст трендовых новостей, написанный людьми. Вся команда человеческих редакторов была уволена, поскольку Маск предпочел, чтобы ИИ курировал новости более эффективно, но у этого подхода были свои недостатки. 

Риски полагаться исключительно на ИИ

Тот факт, что Маск так амбициозен в отношении Grok и продвигает его при любой возможности, несмотря на то, что знает, что он все еще находится на ранних стадиях и не так надежен, сам по себе вызывает беспокойство. Замена Маском человеческих редакторов на ИИ может иметь некоторые финансовые преимущества, но это также сопряжено со своими издержками.

Тот факт, что заголовок не был взят из чьей-то ленты, а был сгенерирован Grok, нативным ИИ-чатботом на платформе X, но самым тревожным фактом было то, что даже если Grok изначально сгенерировал такой ложный заголовок, он затем был продвинут наверх страницы новостей Explore. 

Это показывает, что между созданием и продвижением этой новости не было системы проверки, и если такая система и существовала, она была недостаточно эффективной, а компания полностью полагалась на ИИ для выполнения работы. Как говорилось ранее, ИИ пока недостаточно умен для работы с чувствительными темами, несмотря на то, что он предлагает множество преимуществ при анализе данных и предоставляет результаты с большей эффективностью, чем это возможно для человека. Тем не менее, есть области, требующие вмешательства человека, и ИИ может потребоваться время, чтобы развиться до этого уровня. До тех пор полагаться исключительно на процедуры ИИ — неразумный шаг.