Una nueva herramienta podría proteger a los creadores de imágenes contra la IA

Un equipo de desarrolladores liderado por el profesor Ben Zhao de la Universidad de Chicago ha presentado una nueva herramienta llamada 'Nightshade' para ayudar a los artistas digitales a proteger sus obras de ser recopiladas y utilizadas en el entrenamiento de algoritmos de IA.

Nightshade podría ser la solución a la pesadilla de los artistas con la IA

En los últimos meses, los generadores de arte por IA se han vuelto cada vez más sofisticados y ahora son capaces de crear imágenes que son casi difíciles de diferenciar del arte hecho por humanos. 

Mientras que algunas personas se benefician de las imágenes generadas por IA, los artistas mismos están preocupados de que sus obras estén siendo explotadas y desvalorizadas por herramientas de IA, entre otros problemas de violación de derechos de autor y propiedad intelectual. 

En agosto, tres artistas digitales presentaron una demanda contra las empresas de imágenes por IA Stability AI, Midjourney y DeviantArt, buscando daños y una orden judicial para que las empresas dejen de explotar las obras de los artistas sin consentimiento.

Los artistas se quejaron de que las empresas violaron sus derechos y los de millones de otros artistas cuyas obras fueron extraídas y alimentadas en algoritmos de IA para producir obras derivadas que ahora compiten contra los originales. 

Nightshade, aunque aún está en desarrollo, podría ser la solución a esta pesadilla. 

¿Cómo funciona Nightshade?

Según los informes, el software hace que las imágenes sean inutilizables para el entrenamiento de modelos de IA simplemente haciendo pequeños cambios en los píxeles de las imágenes. Los cambios son lo suficientemente pequeños como para ser invisibles a los ojos humanos, pero efectivos como para hacer que los algoritmos de IA identifiquen completamente mal el tema. 

Por ejemplo, una imagen de un gato modificada con Nightshade podría ser interpretada incorrectamente por un algoritmo de IA como la de un perro. Tener tales imágenes modificadas en bibliotecas de imágenes de IA podría arruinar significativamente la salida o el rendimiento de los generadores de imágenes por IA.

El objetivo es evitar que las empresas de IA alimenten no autoritariamente imágenes artísticas a los algoritmos de IA y también disuadir a los generadores de imágenes por IA de ser utilizados para crear imágenes falsas y arte pirata.

En ese frente, algunas empresas están comenzando a implementar medidas para ayudar a las personas a distinguir entre arte falso y hecho por humanos. 

A principios de este mes, Cryptopolitan informó que OpenAI, la empresa desarrolladora detrás de ChatGPT, está creando una nueva herramienta que puede distinguir entre imágenes generadas por IA y reales con una precisión del 99%. La herramienta aún se está probando internamente antes de su lanzamiento público planificado.