Los peligros de 'Ghiblificar' tu selfie con ChatGPT

Desde hace más de una semana, los usuarios han saturando los servidores de OpenAI para utilizar su última actualización ChatGPT, que incluía una herramienta de generación de imágenes que generó una obsesión en Internet: convertir selfies en ilustraciones al estilo de Studio Ghibli. 

Instagram, Reddit, Discord, Facebook, X… todo está inundado de retratos de parejas, casas, recuerdos de vacaciones e incluso eventos históricos generados por IA. Pero cuando ya no queda más remedio, ¿es seguro "Ghiblificar" tus fotos? Algunos analistas te dicen que no. 

Existen serias preocupaciones sobre la infracción de derechos de autor, la privacidad de los datos y la ética de la IA por parte de ChatGPT, pero con Ghibli, hay un problema principal: las prácticas de seguridad de los datos. 

Sam Altman y su equipo se mantienen bastante reservados sobre cómo entrenaron al chatbot para generar imágenes tan nítidas y en cuestión de minutos. Expertos en privacidad advierten que millones de personas, sin saberlo, están entregando sus datos biométricos a OpenAI, una empresa que ya ha sido criticada por sus prácticas de datos.

Todo el mundo utiliza el arte de Ghibli de ChatGPT, así que es seguro, ¿verdad?

La semana pasada, OpenAI amplió sus capacidades de generación de imágenes en ChatGPT, permitiendo a los usuarios crear imágenes con diversos estilos artísticos. El filtro estilo Ghibli fue una de las novedades más populares entre los internautas, que convertía fotos y selfies comunes en ilustraciones de estilo anime. 

El director ejecutivo de OpenAI, Sam Altman, el director de Tesla, Elon Musk, Ripple altos cargos de publicado sus propias versiones de imágenes al estilo Ghibli en las redes sociales, por lo que se podría decir que es seguro. 

Altman afirmó que los mensajes artísticos de Ghibli afectaron duramente los recursos informáticos de la empresa y admitió en una publicación del 27 de marzo en X que las GPU de OpenAI se estaban "derretiendo" bajo la demanda.

Es muy divertido ver cómo la gente disfruta de las imágenes en chatgpt,

pero nuestras GPU se están sobrecalentando.

Vamos a implementar temporalmente algunos límites de velocidad mientras trabajamos para mejorar su eficiencia. ¡Esperemos que no tarde mucho!

El nivel gratuito de chatgpt pronto tendrá 3 generaciones por día.

— Sam Altman (@sama) 27 de marzo de 2025

La compañía reveló que, según informes, la tendencia Ghibli sumó un millón de nuevos registros. Este auge de interés es justo lo que OpenAI espera: más usuarios significan más datos, lo que en última instancia beneficia el entrenamiento de su IA. ¿Será a costa de los datos personales? Bueno, es difícil decir que sí, pero obviamente no somos tan ingenuos como para decir que no.

Algunos usuarios experimentaron con recreaciones al estilo Ghibli de momentos históricos, como el asesinato de John F. Kennedy y el atentado terrorista del 11 de septiembre. Incluso la Casa Blanca se involucró, publicando una versión generada por IA de una imagen conocida de una mujer llorando siendo arrestada por un agente de ICE. 

https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL

— La Casa Blanca (@WhiteHouse) 27 de marzo de 2025

Es una tendencia divertida, y no seremos nosotros quienes apaguemos el fuego cuando todos buscan una razón para sonreír. Pero alterar y estilizar imágenes históricas es una pendiente resbaladiza que abre las compuertas a supremacistas desenfrenados y tendencias vulgares en el desarrollo artístico.  

¿Es ético el arte generado por IA?

Los modelos de IA se entrenan con grandes cantidades de datos extraídos de internet, lo que sin defiincluye obras protegidas por derechos de autor. La mayor preocupación de los artistas y creadores es que la IA les quite el trabajo. Si un modelo puede producir un resultado similar al de un creador tras obtener ilegalmente una copia de su obra, a partir de ahí todo irá cuesta abajo.

“Los autores y artistas están cada vez más enojados por el robo a gran escala que está ocurriendo”, señaló Ed Newton-Rex, director ejecutivo de la empresa sin fines de lucro de capacitación en inteligencia artificial Fairly Trained.

Studio Ghibli nunca ha autorizado el uso de su estilo artístico para contenido generado por IA, dado el desdén bien documentado del cofundador Hayao Miyazaki por la IA en el arte. 

En una entrevista de 2016, ahora famosa, Miyazaki reaccionó con disgusto a la animación generada por IA: «Quienquiera que haya creado esto no tiene ni idea de lo que es el dolor. Estoy completamente disgustado... Sientotronque esto es un insulto a la vida misma»

La tendencia al estilo Ghibli es precisamente el tipo de mercantilización artística impulsada por IA que detestaba. Entonces, ¿por qué OpenAI parece laxo en sus políticas sobre la generación de imágenes en estilos artísticos? Simplemente están abriendo las puertas a las recreaciones con IA de obras protegidas por derechos de autor.

Riesgos de privacidad al convertir tu selfie en "Ghiblificador"

Antes de obtener una selfie de Ghiblified, debes subir dichas fotos personales a ChatGPT. ¿Has considerado que, sin saberlo, podrías estar cediendo a OpenAI el derecho a usar ambas imágenes para futuros entrenamientos de modelos? De ser así, ¿existe alguna forma explícita de rechazarlo? Dudo que la mayoría haya pensado en todo esto.

Rachel Tobac, directora ejecutiva de SocialProof Security, afirmó que la mayoría de la gente asume que las imágenes que suben desaparecen tras su uso, pero ChatGPT podría conservarlas e incorporarlas en futuros modelos de IA. «Si quieres conservar la propiedad de una foto, convertirla en Ghiblificación no es la solución», concluyó.

El 29 de marzo, a través de un hilo, Luiza Jarovsky, cofundadora de aitechprivacy.com, explicó que bajo las leyes de datos europeas (específicamente el Artículo 6.1.a del GDPR), los usuarios que cargan voluntariamente sus imágenes están dando el consentimiento legal para que OpenAI las procese. 

Miles de personas suben voluntariamente sus rostros y fotos personales a ChatGPT. Como resultado, OpenAI obtiene acceso gratuito y sencillo a miles de rostros nuevos para entrenar sus modelos de IA, escribió.

OpenAI aún no ha emitido una declaración formal sobre las preocupaciones en materia de privacidad, pero insiste en que la privacidad y la seguridad son sus principales prioridades. El lunes, un portavoz de la compañía declaró que OpenAI minimiza la recopilación de información personal y no busca datos privados de los usuarios para entrenar sus modelos. 

También afirmaron que los usuarios pueden controlar cómo se utilizan sus datos a través de herramientas de autoservicio y pueden eliminar su contenido o inhabilitar las mejoras del modelo.

Recopilación de datos: ¿es verdadera o falsa?

Algunos internautas creen que la tendencia Ghibli es "uno de los esquemas de recolección de datos faciales más grandes y encubiertos de la historia". Otro advirtió que miles de millones de personas habían "iniciado sesión en sus cuentas sin saberlo, entregando involuntariamente sus datos de reconocimiento facial a sistemas de inteligencia artificial"

Exactamente, ¿cómo es que la gente no se da cuenta de esto?
Están atrapados en la tendencia de ceder sus datos de reconocimiento facial a la IA sin siquiera pensar en el daño que esto les puede causar, y se quejan de privacidad día tras día.

- @chau_vik1947 2 de abril de 2025

Aun así, no todos comparten esta preocupación. Un ingeniero cibernético de X refutó estos temores, afirmando que los modelos de IA no almacenan datos de imágenes más allá del proceso de transformación inmediato. 

“La IA no almacena información de datos de imágenes por ahora, así que las imágenes que usamos para Ghibli o cualquier otra transformación son SEGURAS”, escribieron. Recomendaron borrar la caché como precaución adicional, pero refutaron las afirmaciones de que la IA pudiera revertir la ingeniería de las imágenes para restaurarlas a su forma original y usarlas en sus prácticas de entrenamiento.

Actualmente, la IA no almacena información de datos de imágenes, por lo que las imágenes que usamos para Ghibli o cualquier otra transformación están SEGURAS.

Aun así, borra la caché por seguridad.

También vi muchos reels que decían que podemos invertir las imágenes, así que NO, la IA no convertirá Ghibli a la imagen original. #Ghibli pic.twitter.com/fd0k9zVLqR

— Juhi (@juhijain199) 2 de abril de 2025

Otros teóricos afirman que la generación de imágenes con IA no es más invasiva que los servicios de almacenamiento en la nube existentes. «Es curioso cómo la gente se preocupa por el mal uso que Ghibli hace de nuestros datos, como si el almacenamiento en la nube donde guardamos todas nuestras fotos fuera más seguro. Jajaja», comentó un usuario.

La tendencia de los selfies "Ghiblificados" es, en realidad, una burbuja de preocupaciones sobre la violación de derechos de autor, la ética de la IA y la privacidad de datos. Si ChatGPT retiene alguna de las fotos e información compartida por los usuarios, basta con una vulneración del servidor y un software de reversión de imágenes para que tu vida privada salga a la luz en internet.

¿Vale la pena el frenesí del arte animado generado por IA el costo de tus datos personales? Quizás sí, pero es mucho más seguro pensarlo dos veces antes de compartir con cualquier chatbot.