En una era donde la inteligencia artificial sigue ampliando los límites de la innovación tecnológica, surge una nueva colaboración entre artistas e investigadores universitarios para salvaguardar la propiedad intelectual de las mentes creativas. El reciente incidente de la ilustradora estadounidense Paloma McClain, quien sufrió la replicación no autorizada de su obra mediante IA, ha impulsado una respuesta proactiva dentro de la comunidad artística, dando como resultado soluciones de software innovadoras para prevenir la actividad de plagio impulsada por IA.
La ilustradora estadounidense Paloma McClain se vio en el punto de mira de la incesante búsqueda de réplicas creativas por parte de la IA. Varios modelos de IA se habían "entrenado" usando su arte sin su conocimiento ni consentimiento, dejándola sin el reconocimiento ni la compensación que le correspondían. McClain, firme defensora del avance tecnológico ético, expresó su preocupación: "Creo que los avances tecnológicos verdaderamente significativos se realizan de forma ética y benefician a todas las personas, en lugar de funcionar a expensas de los demás"
En respuesta al creciente problema de la imitación por parte de la IA, Paloma McClain recurrió a Glaze, un revolucionario software gratuito creado por investigadores de la Universidad de Chicago. La función principal de Glaze es superar en inteligencia a los modelos de IA durante su proceso de entrenamiento, manipulando píxeles de forma sutil, invisibles para el ojo humano, y alterando drásticamente la apariencia del arte digitalizado para los algoritmos de IA.
Protegiendo a los creadores humanos
El profesor Ben Zhao, miembro clave del equipo de desarrollo de Glaze, subrayó su misión: «Básicamente, proporcionamos herramientas técnicas para ayudar a proteger a los creadores humanos contra modelos de IA invasivos y abusivos». Este software, desarrollado en cuatro meses, se basa en tecnología diseñada inicialmente para interrumpir los sistemas de reconocimiento facial. Zhao enfatizó la urgencia de la situación, explicando: «Estábamos trabajando a un ritmo acelerado porque sabíamos que el problema era grave. Mucha gente estaba sufriendo»
Si bien algunos gigantes de la IA generativa tienen acuerdos formales para el uso de datos, una parte significativa de los datos empleados para entrenar la IA, como imágenes digitales, audio y texto, se extraen de internet sin consentimiento explícito. Esta práctica plantea interrogantes cruciales sobre el uso ético de la IA y los derechos de propiedad intelectual.
Desde su lanzamiento en marzo de 2023, Glaze ha experimentado una adopción generalizada, con más de 1,6 millones de descargas, lo que refleja la urgencia de contar con herramientas que protejan a los artistas de la replicación de la IA. El equipo de Glaze está desarrollando una mejora conocida como Nightshade, cuyo objetivo es confundir aún más a la IA distorsionando sus interpretaciones, por ejemplo, haciéndole percibir a un perro como un gato.
Al respaldar Nightshade, Paloma McClain destacó su potencial para generar un impacto significativo si se adopta ampliamente: «Según la investigación de Nightshade, no se necesitarían tantas imágenes contaminadas como se podría pensar». Varias empresas ya se han puesto en contacto con el equipo de Zhao para explorar el uso de Nightshade, lo que subraya su relevancia para proteger tanto a artistas individuales como a organizaciones con una propiedad intelectual sustancial.
Kudurru: Defensa contra la recolección de imágenes
Viva Voce, startup Spawning, ha contribuido a la defensa de las obras creativas con su software Kudurru. Kudurru detecta intentos de recopilar imágenes de gran tamaño de fuentes en línea, lo que permite a los artistas bloquear el acceso o proporcionar datos engañosos para interrumpir el proceso de aprendizaje de la IA. Más de mil sitios web ya se han integrado en la red Kudurru.
Spawning ha ampliado sus esfuerzos con el lanzamiento de haveibeentrained.com, un sitio web con una herramienta en línea que permite a los artistas determinar si sus obras digitalizadas se han utilizado para entrenar modelos de IA. Esta plataforma permite a los artistas rechazar futuros usos no autorizados, lo que les proporciona un control fundamental sobre su contenido creativo.
Investigadores de la Universidad de Washington en Misuri se han aventurado a proteger grabaciones de voz con su software AntiFake. El programa enriquece las grabaciones de voz digitales con ruidos inaudibles, lo que hace "imposible sintetizar una voz humana", según Zhiyuan Yu,dent de doctorado responsable del proyecto. El objetivo de AntiFake va más allá de frustrar el entrenamiento no autorizado de IA para prevenir la creación de deepfakes, una preocupación creciente en la era de la desinformación impulsada por la IA.
Un llamado al uso ético de los datos
A medida que estas soluciones de software evolucionan, el debate sobre el uso ético de los datos para la IA sigue siendo crucial. Jordan Meyer, cofundador de Spawning, articuló el objetivo final: «La mejor solución sería un mundo en el que todos los datos utilizados para la IA estuvieran sujetos al consentimiento y al pago». Los defensores esperan impulsar a los desarrolladores en esta dirección, priorizando el consentimiento y la equidad en el uso de datos de IA.
En conclusión, la colaboración entre artistas e investigadores está impulsando el desarrollo de soluciones de software innovadoras para combatir la imitación de obras creativas por parte de la IA. Las plataformas de software Glaze, Nightshade, Kudurru y AntiFake representan avances significativos en la protección de la propiedad intelectual en un mundo cada vez más impulsado por la IA. Si bien estas tecnologías proporcionan valiosos mecanismos de defensa, también subrayan la necesidad de un debate más amplio sobre el uso ético de los datos en la inteligencia artificial. A medida que los artistas y creadores continúan haciendo valer sus derechos, el futuro de la IA y la propiedad intelectual se perfila para una evolución más ética y equilibrada.
