Google ограничивает ИИ-обзоры для сатирических и бессмысленных запросов

Google сокращает презентацию AI Overviews в некоторых результатах поиска. Решение было принято после того, как поисковый гигант допустил некоторые публичные ошибки, которые вызвали общественную реакцию в интернете.

В четверг Лиз Рид, глава Google Search, признала, что компания ограничивает сгенерированные ИИ сводки, называемые «AI Overviews». Функция, основанная на ИИ, подверглась критике, когда начала показывать контент, говорящий людям есть камни и приклеивать сыр к пицце.

Также читайте: Google, OpenAI и 13 других обязуются не развертывать рискованные модели ИИ

Google начал показывать AI Overviews своим пользователям в США две недели назад после своего ежегодного мероприятия I/O, во время которого он представил несколько предложений на основе ИИ. С четверга пользователи заметили меньше вопросов, что привело к ответу ИИ.

Выявление поддельных AI Overviews требует тщательного анализа

Рид написала в блоге, что люди в социальных сетях делились скриншотами AI Overviews, которые предлагали странные решения. Она сказала, что ИИ компании допустил некоторые ошибки, но многие были поддельными и никогда не генерировались системой ИИ Google.

Она признала, что некоторые странные или неточные AI Overviews действительно появлялись. Она выделила области, где функция нуждается в улучшении, но они не являются часто запрашиваемыми запросами. Отмечая поддельные, она сказала,

«Отдельно, было большое количество поддельных скриншотов, широко распространенных. Некоторые из этих поддельных результатов были очевидными и глупыми».

Рид сказала, что Google не показывал никаких Обзоры ИИ для таких тем, как курение во время беременности или оставление собак в машинах. Она призвала пользователей, которые видели эти скриншоты в социальных сетях, искать самостоятельно и проверять.

ИИ Google теперь может определять сатирический контент

Google определил, что сатирический контент и бессмысленные запросы были областями, которые требовали внимания для производства неточных AI Overviews. Google сказал, что до того, как скриншоты запроса «Сколько камней я должен есть?» стали вирусными, никто не задавал этот вопрос. Рид сказала, что Google Trends можно увидеть для подтверждения.

Также читайте: Opera интегрирует модели Google Gemini для улучшения ИИ в браузере Aria

Еще одним фактором является то, что очень мало контента доступно по конкретной теме, также известному как пробел в данных, что также является причиной неточных AI Overviews. Что касается запроса о поедании камней, Рид сказала, что сатирический характер контента запустил AI Overview. Контент также был переопубликован веб-сайтом геологического программного обеспечения, на который ссылался AI Overview. Она уточнила,

«Так что, когда кто-то ввел этот вопрос в Поиск, появился AI Overview, который точно ссылался на один из единственных веб-сайтов, которые разбирали этот вопрос».

Рид не упомянула другие AI Overviews, циркулирующие в социальных сетях, и многие крупные издатели также опубликовали отчеты о них. Например, The Washington Post опубликовала отчет о Google, говорящем людям, что Барак Обама был мусульманином. Издание также сообщило о другом случае, когда Google AI Overview сказал пользователю, что людям следует пить мочу, чтобы помочь пройти почечные камни.

У Google навязчивая страсть к публичным форумам

Глава поисковой системы Google отметила, что компания тщательно тестировала эту функцию перед её запуском для широкой публики. Она также признала, что имитировать реальные модели поведения пользователей на этапе тестирования сложно, но компания провела масштабное «красное тестирование» и выборку типичных запросов пользователей. 

Также читайте: Функция AI Overview от Google столкнулась с критикой из-за неточных результатов

Некоторые пользователи и аналитики интернет-контента отмечают, что Google недавно начал показывать много результатов из публичных форумов, таких как Reddit. Некоторые ставят под сомнение сделку компании с Reddit, но представитель Google сообщил BBC, что такие условия не входили в соглашение о предоставлении Reddit большего видимости в результатах поиска.

Лили Рэй, вице-президент по стратегии и исследованиям в области SEO в маркетинговом агентстве Amsive, говорит, что теперь многие запросы показывают результаты из Reddit. Она также высмеяла Google в посте в X (ранее Twitter), заявив, что все знания мира (контент Reddit) объединены с ИИ.

Леди и джентльмены, все знания мира, объединенные с силой ИИ и одним троллем Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) Май 21, 2024

Рейд сказала, что функция AI Overviews в некоторых примерах демонстрирует саркастический контент из форумов обсуждений. Она отметила, что форумы являются хорошим источником информации из первых рук, но в некоторых случаях они могут давать не очень полезные ответы, например, приклеивание сыра к пицце.

ИИ Google также неправильно интерпретирует язык, что приводит к появлению неверной информации в AI Overviews, но доля таких ответов очень мала, по словам компании. Рейд отметила, что они быстро устранили проблемы путем улучшения или удаления ответов, не соответствующих политике Google.

Вице-президент Google Search также заявил, что существуют строгие защитные механизмы для тем, таких как здоровье и новости. Компания запустила новые триггерные уточнения для усиления защиты качества в сфере здравоохранения. Рейд сказала, что система обнаружения также обновлена для бессмысленных запросов, чтобы не показывать их как AI Overviews. Она также намекнула на подтверждение меньшего количества AI Overviews для сатирических запросов, сказав: «Мы обновили наши системы, чтобы ограничить использование пользовательского контента в ответах, которые могут давать вводящие в заблуждение советы».

Материал Cryptopolitan от Амира Шейха