Альтман предупреждает о проблемах с конфиденциальностью при использовании ChatGPT в определенных целях

Генеральный директор OpenAI Сэм Альтман предупреждает, что всем, кто обращается за консультацией или личным советом в ChatGPT, следует проявлять осторожность, поскольку общение с ИИ не обеспечивает тех же гарантий конфиденциальности, что и общение с реальным врачом или юристом.

Альтман поднял этот вопрос в недавнем выпуске подкаста комика Тео Вона. Он отметил, что по мере того, как ИИ проникает во все более деликатные области, по-прежнему нет юридической защиты для информации, которой делятся пользователи.

«Люди рассказывают ChatGPT о самых личных вещах в своей жизни», — сказал Альтман. Он отметил, что многие, особенно молодые пользователи, относятся к чат-боту как к психотерапевту или коучу, спрашивая: «Что мне делать?», когда сталкиваются с проблемами в отношениях или другими личными вопросами.

В отличие от этого, когда кто-то делится своими переживаниями с лицензированным терапевтом, юристом или врачом, закон защищает эти сведения в рамках врачебной тайны или адвокатской тайны. Однако в случае с искусственным интеллектом такой юридическойdentпока не существует.

Альтман предупредил, что этот пробел может стать серьезной проблемой в суде, поскольку OpenAI будет вынуждена предоставить расшифровки чатов по требованию. «Я думаю, это очень неправильно. Я считаю, что к вашим разговорам с ИИ должно применяться то же понятие конфиденциальности, что и к разговорам с психотерапевтом или кем-либо еще — и об этом никто не задумывался даже год назад», — добавил он.

Отсутствие конфиденциальности может стать препятствием для широкого распространения ChatGPT

Компания OpenAI рассматривает отсутствие конфиденциальности как потенциальное препятствие для более широкого использования своих моделей. Помимо огромных объемов онлайн-данных, необходимых для обучения моделей, компания теперь сталкивается с требованиями о передаче переписки пользователей в ходе судебных разбирательств.

В одном из громких дел компания OpenAI оспаривает важное судебное решение в рамках иска, поданного газетой The New York Times. Это решение обяжет компанию сохранить данные нескольких сотен миллионов пользователей ChatGPT по всему миру, за исключением тех, кто использует корпоративную версию.

Компания OpenAI обжаловала это решение, назвав его «превышением полномочий» и утверждая, что если суды смогут отменять собственную политику конфиденциальности компании, то в будущем количество запросов на доступ к информации для правоохранительных органов или в рамках процедуры раскрытия доказательств может значительно возрасти.

Сегодня технологические компании регулярно получают повестки о предоставлении пользовательских данных в рамках уголовных расследований. Но по мере развития законодательства растут и опасения по поводу того, что могут раскрыть цифровые следы. Когда Верховный суд отменил решение по делу «Роу против Уэйда» в июне 2022 года, многие пользователи перешли на более безопасные приложения или на Apple Health, которое шифрует их записи.

Альтман также расспросил Вона о его использовании ChatGPT после того, как ведущий признался, что опасается делиться личными данными. «Я думаю, что вполне логично… действительно хотеть ясности в вопросах конфиденциальности, прежде чем активно использовать [ChatGPT] — как и в вопросах юридической ясности», — сказал Альтман, подчеркнув, что до тех пор, пока ИИ enjпользоваться той же степеньюdent, что и традиционные специалисты, пользователи могут дважды подумать, прежде чем делиться информацией.