Ошибки в поиске информации о здоровье в обзорах Google AI вызывают опасения

Google использует искусственный интеллект для ответа на запросы, касающиеся вопросов здравоохранения. Некоторые аналитики считают это тревожным, поскольку функция «Обзоры ИИ» может предоставлять недостоверную информацию.

Врачи утверждают, что обзоры, предоставляемые ИИ, могут вызывать опасения, особенно при ответе на личные вопросы о здоровье. По их мнению, эта функция потенциально может предоставлять неточную информацию, хотя она также может направлять людей к необходимому медицинскому лечению, как сообщается в недавнем отчете New York Times.

Ошибка поиска в обзорах ИИ подпитывает представления о галлюцинациях, связанных с ИИ

Google представил функцию AI Overviews, которая генерирует краткие обзоры контента с веб-сайтов и отображает их на странице результатов поиска Google. В течение нескольких дней после запуска функция выявила множество неточностей, поскольку основывала свои ответы на ошибочных источниках. Этот случай еще больше подкрепляет мнение о том, что ИИ склонен к иллюзиям и может генерировать фактически неверную информацию.

Читайте также: Google ограничивает обзоры ИИ для сатирических и бессмысленных запросов.

Поисковые запросы, связанные со здоровьем, предлагающие пользователям ежедневную дозу коктейля «рок» или поедание склеенной пиццы, вызвали негативную реакцию. AI Overviews цитирует такие источники, как Всемирная организация здравоохранения, WebMD, PubMed и клиника Майо. Однако они не ограничиваются этими источниками. Аналитики говорят, что инструмент собирает информацию с Reddit, Википедии, различных блогов и сайтов электронной коммерции.

Хема Бударажу, старший директор по управлению продуктами в Google, заявила, что существуют дополнительные ограничения для запросов, связанных со здоровьем, но отказалась раскрывать какие-либо подробности. Хема добавила, что некоторые запросы не запускают обзоры ИИ, например, если система обнаруживает ситуацию самоповреждения.

Google заявила, что функция AI Overviews интегрирована с Google Knowledge Graph, базой знаний, содержащей данные, полученные из различных источников, но не предоставила подробностей о веб-сайтах, поддерживающих результаты поиска с помощью ИИ.

Google показывает больше обзоров ИИ для запросов, связанных со здоровьем

Традиционные результаты, часто называемые «десятью синими ссылками», были полезны для пользователей, поскольку позволяли отличать авторитетные медицинские источники от платных ссылок или менее заслуживающих доверия веб-сайтов. С появлением AI Overviews ситуация изменилась. Теперь один блок текста отображает информацию, собранную из разных источников, что, по мнению аналитиков, вызывает путаницу.

Кейт Книббс из Wired сказала в подкасте:

«Если вы введете в поисковую строку что-то вроде «астма» или «у меня диабет», или что-то подобное, связанное с болезнями, вы, скорее всего, и сегодня увидите обзор, связанный с ИИ. Конечно, это касается не всех, но примерно 63 процентов. И я думаю, что это зависит от ситуации»

Некоторые врачи, например доктор Дариуш Мозаффариан, утверждают, что обзоры, созданные с помощью ИИ, показывают некоторые верные факты и обобщают их в ответы, но при этом не делают различий между данными наблюдательных исследований и рандомизированных испытаний.

Ещё один слой дезинформации возникает, когда в тексте искажается информация. Например, «Зелёный чай содержит антиоксиданты и помогает предотвратить рак». Хотя первое утверждение верно, второе не было клинически доказано. Когда такие утверждения приводятся вместе, создаётся ложное впечатление их достоверности.

Google ограничил доступ к обзорам ИИ

Наблюдатели за внедрением ИИ советуют проявлять осторожность при поиске информации в результатах поиска по запросам, связанным со здоровьем и использующим ИИ. Они отмечают, что пользователям следует обращать внимание на мелкий шрифт под некоторыми ответами, где написано: «Это только для ознакомительных целей». NYTimes отчете отмечается, что генеративный ИИ находится на экспериментальной стадии, и пользователям следует проконсультироваться с врачами при любых серьезных заболеваниях. 

Читайте также: Обновления основного алгоритма Google и обзоры ИИ снижают трафик издателей.

В заявлении от 30 мая Google сообщила о сокращении использования обзоров, созданных с помощью ИИ, в некоторых категориях. Данные SEO-компании Brightedge подтверждают позицию Google, предполагая, что сокращение началось еще до официального объявления компании. 

В других отчетах также говорится, что Google начал сокращать количество обзоров ИИ для определенных категорий еще до того, как пользователи сети начали высмеивать компанию за бессмысленные ответы. Тем не менее, есть утверждения, что в категории «Здоровье» по-прежнему отображается большое количество обзоров ИИ. Книббс говорит:

«Я поговорил с другими исследователями SEO, которые также обнаружили, что в сфере здравоохранения по-прежнему создается много обзоров, посвященных искусственному интеллекту»

Книббс говорит, что протестировала несколько запросов, связанных со здоровьем, и получила разные результаты в течение нескольких часов, что свидетельствует о том, что Google работает над улучшением результатов. Она сказала: «Хорошо, они стараются. Я не знаю, достаточно ли хорошо они справляются, но они defiстараются».

Репортаж Аамира Шейха для издания Cryptopolitan