Altman alerta para problemas de privacidade ao usar o ChatGPT para determinados fins

Quem busca aconselhamento ou orientação pessoal no ChatGPT deve ter cautela, alerta Sam Altman, CEO da OpenAI, pois as conversas com a IA não oferecem as mesmas garantias de privacidade que as conversas com um médico ou advogado de verdade.

Altman levantou a questão em um episódio recente do podcast do comediante Theo Von. Ele observou que, à medida que a IA avança para áreas mais sensíveis, ainda não existe proteção legal para o que os usuários compartilham.

“As pessoas conversam sobre as coisas mais pessoais de suas vidas com o ChatGPT”, disse Altman. Ele destacou que muitos, especialmente os usuários mais jovens, tratam o chatbot como um terapeuta ou conselheiro de vida, perguntando “o que devo fazer?” quando enfrentam problemas de relacionamento ou outras questões privadas.

Em contrapartida, quando alguém se confia a um terapeuta, advogado ou médico licenciado, a lei protege esses detalhes sob o sigilo médico-paciente ou o privilégio advogado-cliente. Com uma IA, no entanto, ainda não existe taldentlegal.

Essa lacuna pode se tornar um problema real no tribunal, alertou Altman, já que a OpenAI seria obrigada a entregar as transcrições dos chats se fosse ordenada. "Acho isso muito errado. Acho que deveríamos ter o mesmo conceito de privacidade para nossas conversas com IA que temos com um terapeuta ou qualquer outra pessoa — e ninguém precisava pensar nisso até um ano atrás", acrescentou.

A falta de privacidade pode ser uma barreira para o uso generalizado do ChatGPT

A OpenAI vê essa falta de privacidade como uma potencial barreira para uma utilização mais ampla. Além dos enormes volumes de dados online necessários para treinar seus modelos, a empresa agora enfrenta processos judiciais que exigem a entrega de conversas de usuários.

Em um caso de grande repercussão, a OpenAI está enfrentando uma importante ordem judicial como parte de seu processo movido pelo The New York Times. A decisão obrigaria a empresa a manter os registros de centenas de milhões de usuários do ChatGPT em todo o mundo, excluindo apenas aqueles que utilizam a versão empresarial.

A OpenAI recorreu da decisão, classificando-a como "um abuso de poder" e argumentando que, se os tribunais puderem ignorar suas próprias políticas de privacidade, as futuras demandas por acesso a informações ou por autorização para aplicação da lei poderão se multiplicar.

Atualmente, as empresas de tecnologia recebem intimações judiciais com frequência para fornecer dados de usuários em investigações criminais. Mas, à medida que as leis evoluem, também aumentam as preocupações sobre o que os rastros digitais podem revelar. Quando a Suprema Corte revogou o caso Roe v. Wade em junho de 2022, muitos usuários migraram para aplicativos mais seguros ou para o Apple Health, que criptografa seus registros.

Altman também questionou Von sobre seu uso do ChatGPT depois que o apresentador admitiu estar receoso em compartilhar detalhes pessoais. "Acho que faz sentido... querer clareza sobre a privacidade antes de usar o [ChatGPT] com frequência — como a clareza legal", disse Altman, ressaltando que, até que a IA enjda mesmadentque os profissionais tradicionais, os usuários podem pensar duas vezes antes de se abrirem.