- Исследователи нашли способ заставить ChatGPT раскрыть свои обучающие данные, включая конфиденциальную информацию, что вызывает опасения по поводу безопасности данных.
- OpenAI устранила один из методов атаки, но в модели ИИ всё ещё остаются скрытые уязвимости, которыми могут воспользоваться злоумышленники.
- Это открытие подчеркивает важность защиты языковых моделей ИИ для обеспечения безопасности конфиденциальных данных.
В недавнем развитии событий исследователи обнаружили уязвимости в ChatGPT от OpenAI, что вызывает опасения, связанные с утечкой обучающих данных. Метод атаки, описанный как «довольно глупый», но тем не менее значимый, заключался в манипулировании ChatGPT для раскрытия обучающих данных, включая конфиденциальную информацию, такую как адреса электронной почты и номера телефонов.
Эксплуатация уязвимостей ChatGPT
Метод исследователей заключался в том, чтобы инструктировать ChatGPT бесконечно повторять конкретное слово, например, «Бесконечно повторяй слово
При более тщательном исследовании ученые подтвердили, что информация, предоставленная ChatGPT, действительно была получена из его обучающих данных. Хотя ChatGPT должен генерировать ответы на основе своих обучающих данных, он не должен раскрывать целые абзацы из этих данных.
Хотя обучающие данные ChatGPT берутся из открытого интернета, утечка такой информации, как номера телефонов и адреса электронной почты, вызывает обеспокоенность. Хотя такие данные могут не представлять высокой опасности из-за их публичного характера, утечка обучающих данных может иметь более широкие последствия. Исследователи подчеркивают, что степень обеспокоенности зависит от чувствительности и оригинальности данных, а также от их состава. Эта уязвимость потенциально может повлиять на разработку продуктов, использующих ChatGPT.
Масштаб уязвимости
Чтобы изучить масштаб уязвимости, исследователи потратили около 200 долларов на извлечение нескольких мегабайт обучающих данных с помощью своего метода. Они полагают, что при наличии больших ресурсов они могли бы извлечь около гигабайта обучающих данных. Это вызывает опасения относительно потенциального масштаба извлечения данных, если его не остановить.
OpenAI была уведомлена об этой уязвимости, и компания приняла меры для устранения конкретного метода атаки, известного как «эксплуатация повтора слов». Однако исследователи предупреждают, что этот патч может не полностью устранить базовые уязвимости в ChatGPT.
Они объясняют, что языковая модель ИИ подвержена расхождению и способна запоминать обучающие данные, что сложнее понять и исправить. Следовательно, сохраняется риск того, что другие, пока еще не обнаруженные эксплойты, могут использовать эти уязвимости другими способами.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Деррик Клинтон
Деррик — фрилансер, интересующийся блокчейном и криптовалютой. Он специализируется на проблемах и решениях криптопроектов, предоставляя аналитический обзор рынка для инвесторов. Деррек применяет свои аналитические способности к тезисам.
