Тревожный рост контента, созданного с помощью ИИ, в поисковых системах

Когда Google проиндексировал некачественные результаты проектирования инфраструктуры как кода, созданные Pulumi AI, разработчиком искусственного интеллекта, использующим чат-бота для создания шаблонов, мы увидели, что эти искусственные сущности появились в верхней части результатов поиска Google.

Рост популярности контента, созданного с помощью ИИ

Эта история с «Pullumi» заключается в том, чтобы «записывать результаты запроса пользователей, которые будут отображаться на их подсайте AI Answers». Ответы робота индексируются поисковыми роботами Google главным образом потому, что ответы ИИ часто бывают некорректными.

Ариан ван Путтен в своем посте в социальных сетях на выходных процитировал разработчиков: «Это случилось». Первым результатом поиска в Google должен быть официальный справочник Pulumi, содержащий материалы для магистерской программы, в котором также содержится уведомление о том, что контент, созданный в рамках этой программы, будет имитировать несуществующую функцию AWS.

Как отметил Регистратор в 2022 году, контент, созданный с помощью ИИ, присутствует, что ставит под сомнение его качество. Контент, созданный с помощью ИИ, индексируется поисковыми системами быстрее и отображается в результатах поиска как контент, занимающий верхние позиции. 

Поддерживая функциональность и контент Pulumi AI и его репозитория AI Answers, онлайн-ответы представляют собой еще один тип данных, иллюстрирующий такой подход. Инфраструктура как код, реализуемая с помощью таких инструментов, как Pulumi, генерирует результаты работы ИИ, а поисковый робот Google индексирует их и отображает пользователям поиска вместе со ссылками на контент веб-сайта, созданный человеком. Такая документация и фрагменты кода, созданные системой ИИ, способствовали тому, что другие разработчики обнаружили, что многие системы выдавали неточные или, что еще хуже, неработоспособные результаты.

Вопросы ранжирования в поисковой выдаче

Проблема возникла 21 марта 2024 года, и Пит Никянен обнаружил её и опубликовал в ветке обсуждения на GitHub Issues, посвящённой Pulumi AI. «Недавно я искал в Google ключевые слова, связанные с инфраструктурой. Я заметил тревожную тенденцию: ответы Pulumi AI занимают первое место и отображаются на странице результатов поиска Google, независимо от того, задавался ли им когда-либо этот вопрос. Это распространяется даже на несколько запросов, поэтому я уверен, что проблема будет усугубляться со временем». Никянен сообщил The Register в электронном письме, что начал замечать проблемы с поиском Pulumi AI.

Генеральный директор отметил: «Мы, инженеры, тратим много времени на поиск ответов в интернете, и я не мог не заметить, что ночью ИИ занимал верхние строчки в результатах поиска по ключевым словам, которые не имели никакого отношения ни к Pulumi, ни к самому ИИ» 

Нюканен утверждал, что в настоящее время ИИ занимает самые высокие позиции в результатах поиска. Поскольку все больше компаний создают программы генерации контента, участие специалистов по ИИ в реальной работе имеет значение и может негативно повлиять на доверие к Интернету. 

Ещё одна роль ИИ в документации заключалась в том, что, хотя AI Answers охватывал более половины (почти две трети) тем, касающихся использования сервисов, Аарон Фриэль, инженер по ИИ в Pulumi, предложил прекратить выпуск новых версий AI Answers. 

Проверка качества

Фрил упомянул, что API Pages — это еще одна инициатива, в рамках которой Pulumi рассказывает о реальных примерах или документах, связанных с исходным кодом. Google пока не знает, что спустя месяц они протестировали выходной код и отметили его в списке задач. В понедельник The Register использовал запрос «AWS Light Sail X-Ray» в качестве поискового запроса, и Pulumi AI выдал результат, близкий ко второму. Во вторник на следующей неделе, когда они ввели те же ключевые слова в поисковую систему, это нас удивило, и результат оказался на первом месте — даже выше официальной документации AWS.

Они очаровали Google, задав вопрос об их мнении по поводу сложившейся ситуации, и представитель Google заявил, что «компания всегда стремится отображать информацию самого высокого качества, но по некоторым узким темам в поисковой выдаче может не быть высококачественного контента в интернете, способного занять первое место в результатах поиска».

Поисковый гигант также заявил, что его политика основана на том факте, что «низкокачественный контент, который массово производится исключительно с целью засорения поисковых позиций, считается спамом», и что недавно усовершенствованная технология нацелена на 45% такого неоригинального/совершенно бесполезного контента в результатах поиска.

Поисковая система Microsoft Bing обнаружила пример страницы Википедии, скрытой от пользователя, для этого же запроса. Хотя с самим сгенерированным ИИ материалом Bing проблем не возникло, в результатах поиска присутствовала кнопка «Чат», которая появлялась, если вы попадались на эту ловушку и нажимали на нее. В Brave against также отсутствовал ответ от Pulumi AI. 

Согласно данным DuckDuckGo, Pulumi AI занял четвертое место в результатах поиска по запросу «Что входит в состав продуктов с искусственным интеллектом». Даффи заявил, что качество кода Pulumi тестировалось и улучшалось с течением времени. Компания зафиксировала двузначное увеличение показателей успешности примеров кода от квартала к кварталу.