Функция обзора искусственного интеллекта от Google столкнулась с критикой из-за неточных результатов

Недавно запущенная функция Google «Обзор ИИ» в Google Поиске столкнулась со значительной критикой. Пользователи сообщали о многочисленных случаях, когда сводки ИИ выдавали нелогичные или неверные ответы на различные поисковые запросы, и отключить эту услугу невозможно. 

Читайте также: Новые расширения для Chrome призваны улучшить работу поиска Google.

В последнее время в качестве примеров приводятся сомнительные советы по кулинарным практикам и рекомендациям по здоровью, вызвавшие волну критики и насмешек в социальных сетях.

Пользователи разоблачают некорректные ответы AI Overview

Новая функция, AI Overview, была запущена менее двух недель назад и предназначена для предоставления краткого обзора заданных вопросов. Например, поиск по запросу «как чистить кожаные ботинки» может выдать инструкции, взятые с разных веб-сайтов. Однако пользователи сообщают, что инструмент может давать неверные и потенциально опасные рекомендации.

Читайте также: Повлияет ли новый поиск Google с использованием ИИ на посещаемость веб-сайтов, что беспокоит издателей?

Ещё одна ошибка, допущенная ИИ, заключалась в утверждении, что «в Соединенных Штатах был одинdent-мусульманин, Барак Хусейн Обама», когда был задан вопрос о количествеdent-мусульман в США. 

Ещё один совет , который потенциально может привести к серьёзным последствиям, — использование клея при приготовлении соуса для пиццы, чтобы сыр не соскальзывал. Выяснилось, что эта рекомендация появилась в комментарии на Reddit, что повышает вероятность того, что ИИ получает информацию из ненадёжных источников.  

Среди других возмутительных рекомендаций были утверждения о пользе созерцания солнца и о необходимости ежедневного включения камней в рацион. В числе выявленных проблем – простые ошибки, такие как неправильный подсчет фруктов и неверные расчеты исторических дат.

Неправильное указание авторства портит репутацию заслуживающих доверия источников

Издание AI Overview также подверглось критике за искажение цитат из надежных источников с использованием неверной информации. Например, в нем утверждалось:

Согласно WebMD, ученые утверждают, что созерцание солнца в течение 5-15 минут, или до 30 минут, если у вас более темная кожа, в целом безопасно и приносит наибольшую пользу для здоровья

Подобные неверные приписывания могут нанести ущерб репутации весьмаsteemорганизаций и потенциально опасны для населения в целом. На вопрос о том, нарушает ли поиск Google антимонопольное законодательство, AI Overview ответил:

«Да, Министерство юстиции США и 11 штатов подали в суд на Google за нарушение антимонопольного законодательства»

Представитель Google Меган Фарнсворт заявила, что ошибки возникли из-за «как правило, очень редких запросов и не отражают опыт большинства пользователей». Она сказала, что ошибки касались редких запросов, и заявила, что компания активно работает над исправлением нарушений политики в отношении контента. Даже с учетом этих заверений, негативная реакция поднимает вопросы о более широких проблемах, связанных с растущим внедрением технологий искусственного интеллекта.

Возникли параллели с фиаско инструмента генерации изображений Gemini

Скандал вокруг AI Overview похож на проблемы, с которыми столкнулся инструмент генерации изображений Gemini от Google вскоре после его запуска в феврале из-за тех же неверных интерпретаций и сомнительных результатов. Среди выявленных проблем — ложные представления об истории и эскизы, непригодные для использования, что побудило Google прекратить работу инструмента и заняться его усовершенствованием.

Конкуренция в сфере генеративного искусственного интеллекта очень высока из-за присутствия таких игроков, как Google, Microsoft и Open AI. Прогнозируется, что рынок инструментов и агентов искусственного интеллекта достигнет объема более одного триллиона долларов США в течение следующего десятилетия. Эта жесткая конкуренция может привести к использованию на рынке незрелых технологий из-за необходимости выпуска новых продуктов.

Читайте также: Google, OpenAI и еще 13 компаний обещают не внедрять рискованные модели ИИ.

Google — самая популярная поисковая система в мире, что делает её очень уязвимой для критики. В настоящее время поисковая система компании занимает более 90% мирового рынка, а это значит, что её эффективность имеет решающее значение для удовлетворённости пользователей и бизнес-модели компании.