ChatGPT, OpenAI и 8 других ИИ-ассистентов тайно отслеживают данные пользователей, которые должны оставаться конфиденциальными

ИИ-ассистенты, встроенные в веб-браузеры, включая ChatGPT, собирают конфиденциальную личную информацию с сайтов, которые многие люди считают приватными, показывают новые исследования команд из Великобритании и Италии.

Исследователи изучили десять популярных браузеров и расширений с поддержкой ИИ, среди которых ChatGPT от OpenAI, Microsoft Copilot и Merlin AI для Google Chrome, и провели их тестирование как на открытых сайтах, так и на порталах с паролем, таких как система медицинских записей университета.

Приватные сайты раскрывали информацию ChatGPT и аналогичным инструментам

Результаты исследования были шокирующими. Они показали, что девять из десяти инструментов собирали и отправляли конфиденциальные данные, включая медицинские истории, банковские реквизиты, академические транскрипты, а также номера социального страхования.

Perplexity AI был единственным инструментом, который, по-видимому, не собирал такие данные.

«Эти ассистенты имеют уровень доступа к нашей онлайн-активности, который не имеет аналогов в том, что мы видели раньше», — сказала Анна Мария Мандарари, старший автор исследования и доцент Университетского колледжа Лондона.

«Они делают вещи быстрее и проще, но наши данные показывают, что иногда это происходит за счет конфиденциальности, а в некоторых случаях может нарушать закон».

Мандарари.

Для проведения тестов команда имитировала повседневный просмотр сайтов, онлайн-покупки, проверку медицинских результатов, вход в банковские аккаунты, а затем задавала ассистентам дополнительные вопросы, например: «Какова была причина последнего визита к врачу?»

Перехватывая и декодируя данные, передаваемые между браузером пользователя, серверами компании ИИ и сторонними трекерами, исследователи обнаружили, что некоторые ассистенты все еще собирали и передавали полное содержимое страниц с якобы защищенных сайтов.

Что касается Merlin, исследователи обнаружили смесь конфиденциальных данных, включая медицинские записи, банковские детали, результаты экзаменов и номера социального страхования налогоплательщиков.

Ассистент Peers Sider и TinaMind отправляли пользовательские запросы в Google Analytics, а также идентифицировали важную информацию, такую как IP-адреса. Эти данные могут использоваться для таргетированной рекламы и отслеживания действий пользователя на других сайтах.

Согласно исследователям, другие ассистенты, такие как Copilot и Monica, тихо сохраняли полные журналы чатов в браузере даже после завершения сеансов.

При доступе через определенные интеграции браузера ChatGPT от OpenAI профилировал пользователей на основе их предполагаемого возраста, уровня дохода, пола и интересов, а затем соответствующим образом адаптировал свои ответы.

«Просто нет четкого способа для пользователей узнать, куда попадает эта информация после ее сбора», — предупредила Мандарари.

Недавно генеральный директор OpenAI Сэм Альтман предупредил пользователей о проблемах конфиденциальности, сказав, что им следует быть осторожными при использовании чат-ботов, таких как ChatGPT, для определенных целей, поскольку они не обеспечивают таких мер защиты конфиденциальности, как, например, у настоящего врача или юриста.

Могут ли ИИ-инструменты нарушать законы?

Исследование проводилось в Соединенных Штатах, но команда пришла к выводу, что некоторые ИИ-ассистенты, вероятно, нарушали как американские, так и европейские законы о конфиденциальности. В США некоторые случаи, по-видимому, нарушали правила защиты медицинской информации, тогда как в ЕС результаты указывали на потенциальные нарушения Общего регламента по защите данных (GDPR), который устанавливает строгие ограничения на хранение и передачу персональных данных.

Даже там, где компании публикуют уведомления о конфиденциальности, мелкий шрифт может быть удивительным. Например, политика Merlin в ЕС и Великобритании перечисляет имена, контактные данные, учетные данные для входа, записи о транзакциях, платежную информацию и любой вводимый текст как данные, которые она может собирать. В нем говорится, что это может использоваться для персонализации, поддержки клиентов или соблюдения юридических требований.

Sider делает аналогичные раскрытия информации, добавляя, что данные пользователей могут анализироваться для получения «инсайтов» или для помощи в разработке новых услуг. В качестве возможных получателей данных она называет Google, Cloudflare и Microsoft, заверяя при этом, что партнеры связаны контрактами по защите личной информации.

Собственные условия OpenAI подтверждают, что данные пользователей из Великобритании и ЕС хранятся за пределами этих регионов, хотя компания заявляет, что права пользователей не затрагиваются.

«Эти продукты позиционируются как делающие использование интернета быстрее и умнее», — сказала она. «Но то, что происходит под капотом, часто является детальным записыванием вашей частной жизни в сети».

По мере ужесточения регуляторами правил защиты данных и стремления технологических компаний внедрить ИИ во все уголки интернета, внимание к этим инструментам, вероятно, возрастет.

На данный момент исследователи рекомендуют осторожность. Хотя Perplexity AI избежал ловушек конфиденциальности в их тестировании, большинство других — нет. «Если вы позволяете ИИ видеть все, что вы делаете в сети», — сказала Мандарари, — «вы должны предположить, что где-то и каким-то образом эта информация сохраняется, а возможно, даже передается».