Американские законодатели требуют от Google объяснений по поводу функции «Обзоры ИИ»

Несколько членов Палаты представителей США, во главе с конгрессменом Адамом Шиффом, призывают Google объяснить работу функции AI Overviews. Этот инструмент, интегрированный в поисковую систему Google, обобщает информацию с помощью искусственного интеллекта.

Шифф и другие законодатели написали письмо генеральному директору Google Сундару Пичаи, в котором указывалось на неточность и опасность этой функции. В письме также говорится, что ИИ собирает информацию с сатирических сайтов и ссылается на давно опровергнутые теории заговора, предоставляя ничего не подозревающим пользователям неверную информацию. 

В письме выражается обеспокоенность по поводу дезинформации

Шифф подчеркнул риски распространения ложной информации, особенно в контексте того, что Google является основным источником новостей и информации о здоровье для многих американцев. В письме, также подписанном представителями Генри К. Джонсоном-младшим (демократ от Джорджии), Дональдом С. Бейером-младшим (демократ от Вирджинии), Прамилой Джаяпал (демократ от Вашингтона) и Лори Трахан (демократ от Массачусетса), содержится просьба разъяснить несколько аспектов функции «Обзоры ИИ». 

Читайте также: Набирают обороты разговоры об ИИ, настроения в отношении ряда активов становятся оптимистичными.

Законодатели также хотят знать, как пользователи информируются о рисках, связанных с дезинформацией, и в какие сроки можно исправить или удалить ложную информацию. 

Функция Google AI Overviews использует модель Gemini AI дляtracинформации с самых популярных страниц и предоставления краткого обзора со ссылками. Однако эту функцию обвиняют в предоставлении неверной и вводящей в заблуждение информации. В качестве примеров можно привести рекомендации употреблять камни для получения витаминов и поддержку религии Барака Обамы. 

Недавние споры выявили проблемы, связанные с контентом, созданным с помощью искусственного интеллекта

В мае 2024 года Google подверглась критике вскоре после запуска функции AI Overviews в США, поскольку в ней предлагалось добавить клей к пицце, чтобы сыр лучше прилипал. На момент публикации Google не дала прямого ответа на письмо законодателей. 

В своем блогевице-президент Google и руководитель поискового подразделения Лиз Ридdent объяснила наличие проблем с функцией «Обзоры ИИ». Рид отметила, что одна из проблем ИИ заключается в том, что он плохо работает, когда задаваемые запросы не подкреплены достаточным количеством качественных данных. Она указала, что когда пользователь вводит конкретную или редкую тему, или тему, содержащую сатиру, например, ИИ выбирает ответы из ограниченного числа имеющихся источников, и иногда эти источники не заслуживают доверия. 

Также обсуждаются финансовые последствия для издателей. Поисковые системы на основе ИИ, такие как Google, могут показывать краткое содержание контента из разных источников, не перенаправляя трафик обратно к первоисточникам, что может повлиять на их доходы. Это привело к законодательным мерам, таким как те, что приняты в Калифорнии, где законодатели выступают за выплату компенсаций издателям, когда технологические компании используют их контент.