Аналитик Google Гэри Иллес предупредил, что большие языковые модели — технология, лежащая в основе генеративных ИИ-чатботов, таких как ChatGPT, — все еще имеют пробелы в точности и нуждаются в человеческом контроле для проверки создаваемого ими контента. Комментарии прозвучали всего через несколько дней после запуска OpenAI

SearchGPT , нового поискового движка на базе ИИ, который будет напрямую конкурировать с Google.Ответы ИИ «не обязательно фактологически верны» 

Традиционно доверие всегда было проблемой с поисковыми системами, такими как Google и другими платформами искусственного интеллекта, и тем, как они осуществляют некоторый контроль над информацией, которую они предоставляют пользователям.

Иллес, который работает в Google более десяти лет, сказал, что, хотя ответы ИИ могут быть близки к фактам, они не «обязательно фактологически верны». Это потому, что большие языковые модели (LLM) не застрахованы от использования неверной информации, циркулирующей в интернете, объяснил он.

«Основываясь на своих обучающих данных, LLM находят наиболее подходящие слова, фразы и предложения, которые соответствуют контексту и значению запроса», — написал Иллес. «Это позволяет им генерировать релевантные и связные ответы. Но не обязательно фактологически верные».

Аналитик Google сказал, что пользователям все еще нужно проверять ответы ИИ на основе того, «что вы знаете о теме, по которой вы задали вопрос LLM, или на дополнительном чтении ресурсов, которые являются авторитетными для вашего запроса».

Один из способов, с помощью которого разработчики пытались обеспечить надежность контента, созданного ИИ, — это практика, называемая «заземлением» (grounding). Процесс включает в себя внедрение машинно-созданной информации с человеческими элементами для защиты от ошибок. Согласно Иллесу, заземление может все еще быть недостаточно.

Один из способов, с помощью которого разработчики пытались обеспечить надёжность контента, генерируемого ИИ, — это практика, называемая «заземлением» (grounding). Этот процесс предполагает добавление к машинно-созданной информации человеческих элементов для защиты от ошибок. По словам Илиеша, «заземление» может оказаться недостаточно эффективным.

«Заземление может помочь создавать более фактологически верные ответы, но оно не идеально; оно не заменяет ваш мозг», — сказал он. «Интернет полон намеренной и ненамеренной дезинформации, и вы не верите всему, что читаете в сети, так почему вы должны верить ответам LLM?»

Илон Маск обвиняет Google в ограничении доступа к общественной информации

Традиционно доверие всегда было проблемой в отношении поисковых систем, таких как Google, и других платформ искусственного интеллекта, а также того, как они осуществляют определённый контроль над информацией, предоставляемой пользователям.

Один из таких инцидентов связан с недавней попыткой убийства бывшего президента США Дональда Трампа. Илон Маск предположил, что Google удалил из результатов поиска информацию о стрельбе, что вызвало масштабные дебаты в социальных сетях о влиянии крупных технологических компаний.

Вау, у Google есть запрет на поиск по президенту Дональду Трампу!

В потоке ответов фейковый аккаунт, выдающий себя за вице-президента Google Ана Мостарак, добавил дискуссию, поделившись фальшивым извинением компании за якобы блокировку контента о Трампе.

— Elon Musk (@elonmusk) июля 29, 2024

В потоке откликов к дискуссии присоединился фейковый аккаунт, выдававший себя за вице-президента Google Ана Мостарак, опубликовав фальшивое извинение компании за якобы блокировку контента, связанного с Трампом.

«…Потребности людей в информации продолжают расти, поэтому мы будем продолжать развивать и улучшать Поиск. Однако, похоже, нам нужно пересмотреть то, что мы подразумеваем под точностью. То, что является точным, субъективно, и погоня за точностью может мешать достижению целей», — опубликовал фейковый аккаунт в X.

«Вы можете быть уверены, что наша команда усердно работает, чтобы обеспечить, чтобы наше благоговение перед точностью не стало отвлечением, мешающим нашему видению будущего», — добавили они.

Сообщество X сразу отметило твит, сказав, что человек выдавал себя за вице-президента Google. Это пример того, как легко может искажаться информация, и модели ИИ могут не суметь отличить правду от лжи без проверки человеком.