Обзор ограничений Google на использование ИИ для сатирических и бессмысленных запросов

Google сокращает объем отображения обзоров ИИ в некоторых результатах поиска. Это решение было принято после того, как поисковый гигант допустил ряд публично известных ошибок, вызвавших негативную реакцию в интернете.

В четверг Лиз Рид, глава Google Search, признала, что компания ограничивает использование сгенерированных искусственным интеллектом сводок, называемых «обзорами ИИ». Эта функция, работающая на основе ИИ, подверглась критике, когда начала показывать контент, призывающий людей есть камни и приклеивать сыр к пицце.

Читайте также: Google, OpenAI и еще 13 компаний обещают не внедрять рискованные модели ИИ.

Две недели назад, после ежегодного мероприятия I/O, в ходе которого Google представила несколько решений на основе ИИ, компания начала показывать пользователям в США обзоры ИИ. Начиная с четверга, пользователи заметили, что количество вопросов, на которые реагировал ИИ, уменьшилось.

dentподдельных обзоров ИИ требует тщательного анализа

Рейд написала в своем блоге, что люди в социальных сетях делились скриншотами обзоров ИИ, которые предлагали странные решения. Она сказала, что ИИ компании допустил некоторые ошибки, но многие из них были фальшивыми и никогда не генерировались системой ИИ Google.

Она признала, что действительно появлялись некоторые странные или неточные обзоры, созданные с помощью ИИ. В них указывалось на области, где эту функцию необходимо улучшить, но это не те запросы, которые часто встречаются в поисковых системах. Отмечая фейковые обзоры, она сказала:

«Кроме того, широко распространилось большое количество поддельных скриншотов. Некоторые из этих поддельных результатов были очевидными и нелепыми»

Рейд заявила, что Google не показал никаких обзоров ИИ по таким темам, как курение во время беременности или оставление собак в машине. Она призвала пользователей, увидевших эти скриншоты в социальных сетях, поискать информацию самостоятельно и проверить.

Искусственный интеллект Google теперь можетdentсатирический контент

Googledent, что сатирический контент и бессмысленные запросы являются областями, требующими внимания для предотвращения неточных обзоров ИИ. Google заявил, что до того, как скриншоты запроса «Сколько камней мне нужно съесть?» стали вирусными, никто не задавал этот вопрос. Рейд подтвердил это данными Google Trends.

Читайте также: Opera интегрирует модели Gemini от Google для улучшения искусственного интеллекта в браузере Aria.

Ещё одним фактором является крайне скудное количество доступной информации по конкретной теме, также известное как «информационный вакуум», что также является причиной неточных обзоров ИИ. Что касается запроса о поедании камней, Рейд сказала, что сатирический характер контента послужил поводом для создания обзора ИИ. Контент также был переопубликован на веб-сайте геологического программного обеспечения, на который ссылался обзор ИИ. Она уточнила:

«Поэтому, когда кто-то ввел этот вопрос в поиск, появилось сообщение с обзором, созданным с помощью ИИ, которое точно перенаправляло на один из немногих веб-сайтов, посвященных этому вопросу»

Рейд не упомянул другие обзоры искусственного интеллекта, распространяющиеся в социальных сетях, и многие крупные издательства также опубликовали о них отчеты. Например, The Washington Post опубликовала статью о том, как Google сообщил людям, что Барак Обама — мусульманин. Издание также сообщило о другом случае, когда обзор искусственного интеллекта Google посоветовал пользователю пить мочу, чтобы помочь вывести камни из почек.

Google одержим публичными форумами

Глава поискового подразделения Google отметила, что компания тщательно протестировала эту функцию перед её публичным запуском. Она также признала, что реальные условия использования сложно смоделировать на этапе тестирования, но компания провела тщательную проверку на наличие уязвимостей и выборочное тестирование типичных пользовательских запросов. 

Читайте также: Функция обзора ИИ от Google столкнулась с критикой из-за неточных результатов.

Некоторые пользователи и аналитики интернет-контента отмечают, что Google недавно начал показывать много результатов с публичных форумов, таких как Reddit. Некоторые ставят под сомнение сделку компании с Reddit, но представитель Google заявил BBC, что никаких подобных условий, направленных на повышение видимости Reddit в результатах поиска, не было.

Лили Рэй, вице-dent по SEO-стратегии и исследованиям в маркетинговом агентстве Amsive, говорит, что теперь многие поисковые запросы выдают результаты с Reddit. Она также высмеяла Google в посте на X (ранее Twitter), заявив, что все мировые знания (контент Reddit) объединены с искусственным интеллектом.

Дамы и господа, все знания мира, объединенные с мощью искусственного интеллекта и одним троллем с Reddit. pic.twitter.com/jhzT2pGXjh

— Лили Рэй 😏 (@lilyraynyc) 21 мая 2024 г

Рейд отметила, что в обзорах ИИ в некоторых примерах встречается саркастический контент с дискуссионных форумов. Она сказала, что форумы — хороший источник информации из первых рук, но в некоторых случаях они могут привести к не очень полезным ответам, например, к приклеиванию сыра к пицце.

Искусственный интеллект Google также неправильно интерпретирует язык, что приводит к неверной информации в обзорах ИИ, но, по данным компании, доля таких ответов очень низка. Рейд отметил, что они быстро устранили проблемы путем внесения улучшений или удаления ответов, не соответствующих политике Google.

Вице-президент Google Search также заявила, чтоtronмеры защиты для таких тем, как здоровье и новости. Компания внедрила новые усовершенствования системы обнаружения для повышения качества защиты информации о здоровье. Рейд сказала, что система обнаружения также обновлена ​​для бессмысленных запросов, чтобы они не отображались как обзоры ИИ. Она также намекнула на подтверждение того, что количество обзоров ИИ для сатирических запросов уменьшится, сказав: «Мы обновили наши системы, чтобы ограничить использование пользовательского контента в ответах, которые могли бы содержать вводящие в заблуждение советы».

Репортаж Аамира Шейха для издания Cryptopolitan