Os perigos de "ghiblificar" sua selfie com o ChatGPT

Há mais de uma semana, os servidores da OpenAI estão congestionados de usuários que desejam utilizar a atualização mais recente do ChatGPT, que inclui uma ferramenta de geração de imagens que deu origem a uma verdadeira obsessão na internet: transformar selfies em ilustrações no estilo do Studio Ghibli. 

Instagram, Reddit, Discord, Facebook, X, todos os lugares estão inundados de retratos gerados por IA de casais, casas, lembranças de férias e até eventos históricos. Mas, depois de toda a diversão, será que vale a pena "Ghiblificar" suas fotos? Alguns analistas dizem que não. 

Existem sérias preocupações em relação à violação de direitos autorais, privacidade de dados e ética da IA ​​por parte do ChatGPT, mas com o Studio Ghibli, há um problema principal: as práticas de segurança de dados. 

Sam Altman e sua equipe mantêm-se bastante reservados sobre como treinaram o chatbot para produzir as imagens com tanta precisão e em questão de minutos. Especialistas em privacidade alertam que milhões de pessoas estão, sem saber, entregando seus dados biométricos à OpenAI, uma empresa que já foi criticada por suas práticas de dados.

Todo mundo está usando arte do Studio Ghibli no ChatGPT, então é seguro, certo?

Na semana passada, a OpenAI expandiu seus recursos de geração de imagens no ChatGPT, permitindo que os usuários criassem imagens em diversos estilos artísticos. O filtro que rapidamente conquistou os internautas foi o estilo Ghibli, que transformava fotos comuns e selfies em ilustrações com aparência de anime. 

O CEO da OpenAI, Sam Altman, o chefe da Tesla, Elon Musk, Ripple os altos executivos da postaram suas próprias versões de imagens no estilo Ghibli nas redes sociais, então pode-se argumentar que é seguro. 

Altman afirmou que os desafios artísticos do Ghibli sobrecarregaram os recursos computacionais da empresa, admitindo em uma postagem de 27 de março no X que as GPUs da OpenAI estavam "derretendo" sob a demanda.

É muito divertido ver as pessoas curtindo imagens no chatgpt.

Mas nossas GPUs estão sobrecarregadas.

Vamos introduzir temporariamente alguns limites de taxa enquanto trabalhamos para torná-lo mais eficiente. Esperamos que não demore muito!

O plano gratuito do chatgpt terá 3 gerações por dia em breve.

— Sam Altman (@sama) 27 de março de 2025

A empresa revelou que a tendência Ghibli sozinha teria adicionado 1 milhão de novos cadastros. Essa explosão de interesse é exatamente o que a OpenAI espera: mais usuários significam mais dados, o que, em última análise, beneficia o treinamento de sua IA. Isso ocorre à custa de dados pessoais? Bem, é difícil dizer que sim, mas obviamente não somos ingênuos o suficiente para dizer que não.

Alguns usuários experimentaram recriações ao estilo Ghibli de momentos históricos, como o assassinato de John F. Kennedy e o ataque terrorista de 11 de setembro. Até a Casa Branca entrou na brincadeira, publicando uma versão gerada por inteligência artificial de uma imagem famosa de uma mulher chorando sendo presa por um agente do ICE. 

https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL

— A Casa Branca (@WhiteHouse) 27 de março de 2025

É uma tendência divertida, e não seremos nós que vamos apagar o fogo quando todos estão procurando um motivo para sorrir. Mas alterar e estilizar imagens históricas é um caminho perigoso que pode abrir as comportas para supremacistas desenfreados e tendências vulgares no desenvolvimento de obras de arte.  

A arte gerada por IA é ética?

Os modelos de IA são treinados com vastas quantidades de dados coletados da internet, e isso defiinclui obras protegidas por direitos autorais. A maior preocupação para artistas e criadores é que a IA tome o lugar de seus empregos. Se um modelo for capaz de produzir um resultado semelhante ao de um criador após obter ilegalmente uma cópia de sua obra, o futuro será desastroso.

“Autores e artistas estão cada vez mais irritados com o roubo em larga escala que está acontecendo”, afirmou Ed Newton-Rex, CEO da Fairly Trained, uma empresa sem fins lucrativos de treinamento em IA.

O Studio Ghibli nunca autorizou o uso de seu estilo artístico para conteúdo gerado por IA, dada a notória aversão do cofundador Hayao Miyazaki à IA na arte. 

Em uma entrevista de 2016 que se tornou famosa, Miyazaki reagiu com repulsa à animação gerada por IA, dizendo: "Quem cria essas coisas não tem a menor ideia do que é dor. Estou completamente enojado... Sintotronque isso é um insulto à própria vida."

A tendência ao estilo Ghibli é exatamente o tipo de mercantilização artística impulsionada por IA que ele detestava. Então, por que a OpenAI parece tão permissiva em suas políticas em relação à geração de imagens em estilos artísticos? Eles estão simplesmente abrindo as comportas para recriações de obras protegidas por direitos autorais feitas por IA.

Riscos à privacidade de "Ghiblificar" sua selfie

Antes de tirar uma selfie "Ghiblificada", você precisa enviar as fotos pessoais para o ChatGPT. Já pensou que, sem saber, você pode estar dando à OpenAI o direito de usar ambas as imagens para o treinamento futuro do modelo? Se for esse o caso, existe uma maneira explícita de recusar? Duvido que a maioria das pessoas tenha pensado nisso.

Rachel Tobac, CEO da SocialProof Security, afirmou que a maioria das pessoas pode presumir que suas imagens enviadas desaparecem após o uso, mas o ChatGPT pode, em vez disso, retê-las e incorporá-las em futuros modelos de IA. "Se você deseja manter a propriedade de uma foto, 'Ghiblificá-la' não é o caminho certo", concluiu ela.

Em 29 de março, por meio de uma thread, Luiza Jarovsky, cofundadora da aitechprivacy.com, explicou que, de acordo com as leis europeias de proteção de dados (especificamente o Artigo 6.1.a do GDPR), os usuários que enviam voluntariamente suas imagens estão dando consentimento legal para que a OpenAI as processe. 

“Milhares de pessoas estão agora enviando voluntariamente seus rostos e fotos pessoais para o ChatGPT. Como resultado, a OpenAI está obtendo acesso fácil e gratuito a milhares de novos rostos para treinar seus modelos de IA”, escreveu ela.

A OpenAI ainda não se pronunciou formalmente sobre as preocupações com a privacidade, mas insiste que privacidade e segurança estão entre suas principais prioridades. Na segunda-feira, um porta-voz da empresa afirmou que a OpenAI minimiza a coleta de informações pessoais e não busca dados privados de usuários para treinar seus modelos. 

Eles também afirmaram que os usuários podem controlar como seus dados são usados ​​por meio de ferramentas de autoatendimento e podem excluir seu conteúdo ou optar por não participar de melhorias do modelo.

Coleta de dados: Verdadeiro ou falso?

Alguns internautas acreditam que a tendência inspirada no Studio Ghibli é "um dos maiores e mais secretos esquemas de coleta de dados faciais de todos os tempos". Outro alertou que bilhões de pessoas "acessaram suas contas sem saber, entregando involuntariamente seus dados de reconhecimento facial a sistemas baseados em inteligência artificial"

Exatamente, como é que as pessoas não percebem isso?
Elas estão simplesmente presas a uma tendência, entregando seus dados de reconhecimento facial para IA sem nem pensar no mal que isso pode lhes causar, e reclamam de privacidade quase todo dia.

— विक्रमादित्य शिवम चौहान (@chau_vik1947) 2 de abril de 2025

Ainda assim, nem todos compartilham dessa preocupação. Um engenheiro de segurança cibernética da empresa X contestou os temores, afirmando que os modelos de IA não armazenam dados de imagem além do processo imediato de transformação. 

“Atualmente, a IA não armazena informações de dados de imagem, portanto, as imagens que usamos para o Ghibli ou qualquer outra transformação estão SEGURAS”, escreveram. Eles recomendaram limpar os arquivos de cache como precaução adicional, mas refutaram as alegações de que a IA poderia fazer engenharia reversa das imagens para sua forma original a fim de usá-las em qualquer um de seus treinamentos.

Até o momento, a IA não armazena informações de dados de imagem, então as imagens que usamos para o Ghibli ou qualquer outra transformação estão SEGURAS.

Mesmo assim, limpe o cache por precaução.

Também vi muitos vídeos dizendo que podemos inverter as imagens, então NÃO, a IA não transformará o Ghibli na imagem original... #Ghibli pic.twitter.com/fd0k9zVLqR

— Juhi (@juhijain199) 2 de abril de 2025

Outros teóricos afirmam que a geração de imagens por IA não é mais invasiva do que os serviços de armazenamento em nuvem existentes. "Engraçado como as pessoas se preocupam com o Ghibli usando nossos dados indevidamente, como se o armazenamento em nuvem que guarda todas as nossas fotos fosse mais seguro. Rsrs", comentou um usuário.

A tendência das selfies "Ghiblificadas" esconde, por trás de tudo, preocupações com direitos autorais, ética em inteligência artificial e privacidade de dados. Se o ChatGPT retém alguma das fotos e informações compartilhadas pelos usuários, basta uma única invasão ao servidor e um software de reversão de imagens para que sua vida pessoal seja exposta na internet.

Vale a pena o frenesi da arte animada gerada por IA em troca dos seus dados pessoais? Talvez sim, mas é muito mais seguro pensar duas vezes antes de compartilhar qualquer informação com um chatbot.