ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Ошибки в медицинских поисковых запросах Google AI Overviews вызывают обеспокоенность

АвторАмир ШейхАмир Шейх 3 мин. чтения
Запросы, связанные со здоровьем, всё чаще вызывают расширенные ответы Google на основе ИИ

Google IA Overviews

  • Вопросы, связанные со здоровьем, генерируют больше сводок на основе ИИ, что вызывает опасения у аналитиков.
  • Врачи говорят, что смешивание фактов из разных источников делает менее достоверные статистические данные более правдоподобными.
  • Некоторые аналитики утверждают, что Google работает над улучшением надёжности своих AI Overviews.

Google использует искусственный интеллект для ответов на запросы, касающиеся проблем со здоровьем. Некоторые аналитики считают это тревожным, учитывая, что функция AI Overviews может предоставлять ненадежную информацию.

Медицинские работники говорят, что AI Overviews могут вызывать опасения, особенно при ответе на личные запросы о здоровье. Они утверждали, что функция имеет потенциал предоставлять неточную информацию, хотя она также может направлять людей к необходимому медицинскому лечению, согласно недавнему отчету New York Times.

Ошибка поиска AI Overviews усиливает настроения вокруг галлюцинаций ИИ

Google представил AI Overviews — функцию, которая генерирует сводки контента с веб-сайтов и показывает их на странице результатов поиска Google. В течение нескольких дней после запуска функция продемонстрировала широкий спектр неточностей, поскольку основывала свои ответы на ошибочных источниках. Это событие еще больше подпитывает мнение о том, что ИИ склонен к галлюцинациям и может генерировать фактические ошибки.

Также читайте: Google ограничивает AI Overviews для сатирических и бессмысленных запросов

Результаты поиска, связанные со здоровьем, предлагающие ежедневную дозу рока или просящие пользователей есть склеенные пиццы, вызвали негативную реакцию. AI Overviews цитируют такие источники, как Всемирная организация здравоохранения, WebMD, PubMed и Mayo Clinic. Однако они не ограничиваются этими источниками. Аналитики говорят, что инструмент извлекает информацию из Reddit, Wikipedia, различных блогов и сайтов электронной коммерции.

Хема Бударджу, старший директор по управлению продуктами в Google, сказала, что существуют дополнительные защитные механизмы для запросов, связанных со здоровьем, но она отказалась раскрывать какие-либо дополнительные детали. Хема добавила, что некоторые запросы не запускают AI Overviews, например, если система обнаруживает ситуацию самоповреждения.

Google заявил, что AI Overviews интегрируется с Google Knowledge Graph — базой знаний, содержащей данные, извлеченные из нескольких источников, но не предоставил подробностей о веб-сайтах, поддерживающих вывод функции поиска с помощью ИИ.

Google показывает больше AI Overviews для запросов о здоровье

Традиционные результаты, часто называемые «десятью синими ссылками», были полезны для пользователей, так как они могли отличить авторитетные медицинские источники от платных ссылок или менее надежных веб-сайтов. С AI Overviews ситуация изменилась. Теперь единый блок текста показывает информацию, собранную из разных источников, что, по мнению аналитиков, вызывает путаницу.

Кейт Ниббс из Wired сказала в подкасте:

«Если вы вводите запросы по астме или

Некоторые врачи, такие как д-р Дариуш Мозаффарян, говорят, что Обзоры ИИ (AI Overviews) показывают некоторые факты, которые верны, и суммируют их в ответы, но они не проводят различия между доказательствами из наблюдательных исследований и рандомизированных испытаний.

Дополнительный слой дезинформации добавляется, когда функция смешивает информацию. Например, «Зеленый чай содержит антиоксиданты, и он помогает предотвратить рак». Хотя первое утверждение верно, второе не было клинически доказано. Когда такие утверждения перечисляются вместе, они создают ложное впечатление их достоверности.

Google ограничил использование AI Overviews

Люди, наблюдающие за внедрением ИИ, советуют проявлять осторожность при поиске результатов, связанных со здоровьем. Они говорят, что пользователи должны учитывать мелкий шрифт под некоторыми ответами, где сказано: «Это предназначено только для информационных целей». NYTimes отметил, что генеративный ИИ находится на экспериментальной стадии, и пользователям следует проконсультироваться с врачами при любых серьезных состояниях.

Также читайте: Основные обновления алгоритма Google и AI Overviews сокращают трафик издателей

В заявлении от 30 мая Google сообщил, что сократил использование AI Overviews в некоторых категориях. Данные SEO-компании Brightedge подтверждают позицию Google, указывая на то, что сокращение началось еще до официального объявления компании. 

Другие отчеты также сообщают, что Google начал откатывать AI Overviews для определенных категорий еще до того, как пользователи начали высмеивать его за бессмысленные ответы. Тем не менее, есть утверждения, что в категории здоровья по-прежнему отображается большое количество AI Overviews. Книббс говорит,

«Я поговорил с некоторыми другими исследователями SEO, которые также обнаружили, что в сфере здравоохранения по-прежнему генерируется много AI Overviews.»

Ниббс говорит, что она протестировала некоторые запросы, связанные со здоровьем, и обнаружила разные результаты в течение нескольких часов, что показывает, что Google работает над улучшением результатов. Она сказала: «Хорошо, они стараются. Я не знаю, делают ли они это достаточно хорошо, но они определенно стараются».


Материал Cryptopolitan от Амира Шейха

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Поделиться статьёй

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Амир Шейх

Амир Шейх

Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.

ЕЩЁ … НОВОСТИ