Una nueva herramienta podría proteger a los creadores de imágenes contra la IA

Un equipo de desarrolladores dirigido por el profesor Ben Zhao de la Universidad de Chicago ha presentado una nueva herramienta llamada “Nightshade” para ayudar a los artistas digitales a proteger sus obras para que no sean recopiladas y utilizadas en el entrenamiento de algoritmos de inteligencia artificial.

Nightshade podría ser la solución a la pesadilla de los artistas con la IA

En los últimos meses, los generadores de arte con inteligencia artificial se han vuelto cada vez más sofisticados y ahora pueden crear imágenes que son casi difíciles de diferenciar del arte creado por humanos. 

Si bien algunas personas se benefician de las imágenes generadas por IA, los propios artistas están preocupados de que sus obras estén siendo explotadas y devaluadas por herramientas de IA, entre otros problemas de violación de derechos de autor y propiedad intelectual. 

En agosto, tres artistas digitales presentaron una demanda contra las empresas de imágenes de IA Stability AI, Midjourney y DeviantArt, solicitando daños y perjuicios y una orden judicial para que las empresas no exploten las obras de los artistas sin su consentimiento.

Los artistas se quejaron de que las empresas violaron sus derechos y los de millones de otros artistas cuyas obras fueron extraídas y alimentadas a algoritmos de IA para producir obras derivadas que ahora compiten con los originales. 

Nightshade, aunque todavía está en desarrollo, podría ser la solución a esta pesadilla. 

¿Cómo funciona la Belladona?

Según informes, el software inutiliza las imágenes para el entrenamiento de modelos de IA con solo realizar pequeños cambios en los píxeles. Estos cambios son tan pequeños que resultan invisibles para el ojo humano, pero lo suficientemente efectivos como para que los algoritmos de IAdentel objeto. 

Por ejemplo, la imagen de un gato modificada con Nightshade podría ser interpretada incorrectamente por un algoritmo de IA como la de un perro. Tener estas imágenes modificadas en bibliotecas de imágenes de IA podría afectar significativamente el resultado o el rendimiento de los generadores de imágenes de IA.

El objetivo es evitar que las empresas de IA alimenten sin autorización imágenes artísticas a los algoritmos de IA y también disuadir que los generadores de imágenes de IA se utilicen para crear imágenes falsas y arte pirateado.

En ese frente, algunas empresas están empezando a implementar medidas para ayudar a las personas a distinguir entre arte falso y arte hecho por humanos. 

A principios de este mes, Cryptopolitan informó que OpenAI, la empresa desarrolladora de ChatGPT, está desarrollando una nueva herramienta capaz de distinguir imágenes de IA de las reales con una precisión del 99 %. La herramienta aún se encuentra en fase de pruebas internas antes de su lanzamiento público previsto.