Функция AI Overview от Google столкнулась с критикой из-за неточных результатов

Недавно запущенная функция «AI Overview» в Google Search сталась значительной критике. Пользователи опубликовали множество случаев, когда ИИ-резюме генерировало нелогичные или неверные ответы на различные поисковые запросы, при этом отключить сервис было невозможно. 

Также читайте: Новые расширения Chrome направлены на улучшение опыта поиска в Google

Среди недавних примеров были сомнительные советы по кулинарным практикам и рекомендации по здоровью, что вызвало волну критики и насмешек в социальных сетях.

Пользователи выявили ошибочные ответы AI Overview

Новая функция, AI Overview, была запущена менее двух недель назад и предназначена для предоставления кратких обзоров заданных вопросов. Например, поиск по запросу «как чистить кожаные ботинки» может предоставить инструкции, взятые с разных веб-сайтов. Однако пользователи сообщают, что инструмент может давать неверные и потенциально опасные рекомендации.

Также читайте: Угрожает ли новый ИИ-поиск Google трафику сайтов? Издатели обеспокоены

Ещё одной ошибкой ИИ стало утверждение о том, что «в Соединённых Штатах был один мусульманский президент, Барак Хусейн Обама», когда был задан вопрос о количестве мусульманских президентов в США. 

Другой совет, который мог потенциально привести к серьёзному вреду, касался использования клея при приготовлении пиццы, чтобы сыр не сползал. Выяснилось, что эта рекомендация исходила из комментария на Reddit, что raises the possibility of the AI sourcing information from unreliable sources.

Среди других возмутительных рекомендаций были утверждения о том, что смотреть на солнце полезно для здоровья и что людям следует ежедневно включать камни в свой рацион. Некоторые из выявленных проблем включают простые ошибки, такие как неверное перечисление фруктов и неправильные вычисления дат в истории.

Неверная атрибуция подрывает доверие к надёжным источникам

AI Overview также подверглась критике за цитирование надёжных источников с неверной информацией. Например, он утверждал:

«Согласно WebMD, учёные говорят, что смотреть на солнце в течение 5–15 минут, или до 30 минут, если у вас более тёмная кожа, в целом безопасно и приносит наибольшую пользу для здоровья».

Такие неверные атрибуции могут навредить репутации уважаемых учреждений и быть потенциально опасными для широкой публики. Когда был задан вопрос, нарушает ли Google Search антимонопольное законодательство, AI Overview ответил:

«Да, Министерство юстиции США и 11 штатов подают в суд на Google за нарушение антимонопольного законодательства».

Представительница Google Меган Фарнсворт заявила, что ошибки возникли из-за «в целом очень необычных запросов и не отражают опыт большинства людей». Она сказала, что ошибки были в редких запросах и что компания активно работает над исправлением нарушений политик в отношении контента. Даже с этими заверениями, негативная реакция вызывает вопросы о более широких проблемах, связанных с растущим внедрением технологий ИИ.

Появляются параллели с провалом инструмента генерации изображений Gemini

Скандал вокруг AI Overview похож на проблемы, с которыми столкнулся инструмент генерации изображений Gemini от Google вскоре после его запуска в феврале из-за тех же неверных интерпретаций и сомнительных результатов. Среди выделенных проблем были ложные представления об истории и наброски, непригодные для использования, что заставило Google прекратить работу с инструментом и заняться его улучшением.

Конкуренция в сфере генеративного ИИ жёсткая из-за присутствия таких игроков, как Google, Microsoft и Open AI. Прогнозируется, что рынок инструментов и агентов искусственного интеллекта достигнет размера более одного триллиона долларов США в течение следующего десятилетия. Эта интенсивная конкуренция может привести к использованию незрелых технологий на рынке из-за давления необходимости выпускать новые продукты.

Также читайте: Google, OpenAI и 13 других обязуются не развертывать рискованные модели ИИ

Google — самый популярный поисковый движок в мире, что делает его очень уязвимым для критики. В настоящее время поисковая система компании доминирует на более чем 90% мирового рынка, что означает, что её эффективность решающим образом влияет на удовлетворённость пользователей и бизнес-модель компании.