Altman alerta para questões de privacidade ao usar o ChatGPT para certos fins

Qualquer pessoa que procure aconselhamento ou conselhos pessoais do ChatGPT deve ter cuidado, alerta o CEO da OpenAI, Sam Altman, porque as conversas com a IA não possuem as mesmas salvaguardas de privacidade que as de um médico ou advogado real.

Altman arrecadou o assunto em um episódio recente do podcast do comediante Theo Von. Ele observou que, à medida que a IA avança para áreas mais sensíveis, ainda não há escudo legal para o que os usuários compartilham.

“As pessoas falam sobre as coisas mais pessoais de suas vidas no ChatGPT”, disse Altman. Ele apontou que muitos, especialmente os usuários mais jovens, tratam o chatbot como um terapeuta ou coach de vida, perguntando “o que devo fazer?” ao enfrentar problemas de relacionamento ou outros assuntos privados.

Em contraste, quando alguém confia em um terapeuta licenciado, advogado ou médico, a lei protege esses detalhes sob o privilégio médico-paciente ou advogado-cliente. Com uma IA, no entanto, nenhuma confidencialidade legal existe ainda.

Essa lacuna pode se tornar um problema real nos tribunais, alertou Altman, já que a OpenAI seria obrigada a entregar os registros de chat se ordenado. “Acho que isso é muito errado. Acho que deveríamos ter o mesmo conceito de privacidade para suas conversas com IA que temos com um terapeuta ou qualquer outra coisa — e ninguém precisou pensar nisso nem mesmo um ano atrás”, acrescentou.

A falta de privacidade pode ser uma barreira para o uso generalizado do ChatGPT

coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. vê essa falta de privacidade como uma potencial barreira para um uso mais amplo. Além dos enormes volumes de dados online necessários para treinar seus modelos, a empresa agora enfrenta demandas para entregar chats de usuários em litígios.

Em um caso de alto perfil, a OpenAI está lutando contra uma ordem judicial importante como parte de sua ação judicial contra o The New York Times. A decisão forçaria a empresa a reter os registros de várias centenas de milhões de usuários do ChatGPT em todo o mundo, excluindo apenas aqueles na versão empresarial.

A OpenAI recorreu da decisão, classificando-a como “um exagero”, e argumentando que, se os tribunais puderem anular suas próprias políticas de privacidade, demandas futuras para acesso de aplicação da lei ou descoberta de provas poderiam se multiplicar.

As empresas de tecnologia hoje recebem regularmente intimações para dados de usuários em investigações criminais. Mas à medida que as leis evoluem, também crescem as preocupações sobre o que as pegadas digitais podem revelar. Quando a Suprema Corte derrubou Roe v. Wade em junho de 2022, muitos usuários mudaram-se para aplicativos mais seguros ou para o Apple Health, que criptografa seus registros.

Altman também questionou Von sobre seu uso do ChatGPT depois que o apresentador admitiu estar cauteloso em compartilhar detalhes pessoais. “Acho que faz sentido… querer realmente a clareza de privacidade antes de usar [ChatGPT] muito — como a clareza legal”, disse Altman, ressaltando que, até que a IA desfrute da mesma confidencialidade que os profissionais tradicionais, os usuários podem pensar duas vezes antes de se abrir.