Шпионит ли ChatGPT за вами? Хакеры пойманы, подняты вопросы конфиденциальности

Недавние новости о том, что Microsoft и OpenAI поймали хакеров, действующих по указанию государств, вновь вызвали обеспокоенность пользователей ChatGPT относительно того, насколько глубоко компания следит за их перепиской.

На прошлой неделе Microsoft, являющаяся крупнейшим инвестором в OpenAI с долей 49%, опубликовала отчет, в котором сообщалось о задержании китайских, российских и иранских хакеров, использующих большие языковые модели (LLM) для усиления киберопераций. 

«В сотрудничестве с OpenAI мы делимся разведывательными данными, показывающими обнаруженных противников, связанных с государствами, — отслеживаемых как Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon и Salmon Typhoon, — использующих LLM для усиления киберопераций», — заявила Microsoft. 

Согласно отчету, не было совершено никаких «выявленных значительных атак» с использованием LLM, и все связанные с ними аккаунты были заблокированы. Хотя это является позитивным моментом, это стало возможным только благодаря анализу компаниями записей чатов вовлеченных аккаунтов.

Может ли OpenAI шпионить за пользователями ChatGPT?

Так значит ли это, что OpenAI может получать доступ к вашим разговорам в ChatGPT и читать их? Да, может. Условия использования ChatGPT разрешают разработчикам хранить и просматривать чаты пользователей по различным причинам. Однако степень этого вмешательства остается неизвестной.

«В рамках нашей приверженности безопасному и ответственному искусственному интеллекту мы просматриваем разговоры, чтобы улучшить наши системы и убедиться, что контент соответствует нашим политикам и требованиям безопасности», — говорится на странице часто задаваемых вопросов ChatGPT. 

OpenAI может просматривать разговоры в ChatGPT по двум основным причинам. Во-первых, разработчики хранят и просматривают разговоры пользователей для обучения и улучшения будущих моделей. OpenAI заявила, что данные анонимизированы, а личная информация пользователей в разговорах, по сообщениям, удаляется.

Во-вторых, OpenAI просматривает разговоры в ChatGPT для пресечения незаконного использования, как в случае с китайскими, российскими и иранскими хакерами.

Стоит ли пользователям беспокоиться?

Сбор данных OpenAI не вызывает полной обеспокоенности, особенно для обычного пользователя, который часто использует инструмент для ответов на вопросы, исследований и других базовых действий. Однако это также служит напоминанием не раскрывать конфиденциальную информацию чат-боту, так как чаты могут быть проверены. 

Стоит также отметить, что OpenAI предусмотрела возможность для пользователей ChatGPT полностью удалить свои разговоры из обучающих данных OpenAI.