Meta retira la herramienta de imágenes de IA de Instagram, poniendo a prueba los límites de la extracción de imágenes mediante IA

Tan solo tres días después de su lanzamiento, Meta eliminó una función de Instagram que permitía a los usuarios usar inteligencia artificial para crear imágenes basadas en las fotos de perfil de otros usuarios. La decisión de la compañía de eliminar esta función refleja la creciente preocupación por el consentimiento y el uso de imágenes en la era de la inteligencia artificial.

Eltracde Meta supone un revés inicial para sus esfuerzos por alcanzar a OpenAI y Google en el campo de la IA generativa. Si bien el modelo de imagen Muse sigue disponible, la compañía ha eliminado la opción de crear imágenes a partir de perfiles públicos de Instagram en sus solicitudes de generación de imágenes tras las críticas de creadores, artistas y defensores de la privacidad.

Lo que Meta construyó y lo que luego devolvió

Meta presentó Muse Image el 7 de julio, indicando que esta nueva herramienta de generación de imágenes con inteligencia artificial es el primer producto de su Laboratorio de Superinteligencia, dirigido por Alexandr Wang. La nueva tecnología ofrece 30 efectos en Instagram y, según las pruebas internas de Meta, supera a Google Nano Banana 2, quedando solo por detrás del generador de imágenes de ChatGPT.

La disputa no se centró en el modelo en sí, sino en cómo gestionaba las imágenes subidas por los usuarios. Al etiquetar su cuenta pública de Instagram para adultos, los usuarios podían utilizar las imágenes públicas de dicha cuenta en fotos generadas por IA. Los usuarios menores de 18 años y las cuentas privadas quedaron excluidos del sistema, mientras que las cuentas públicas para adultos se inscribieronmatica menos que los usuarios las desactivaran manualmente.

Según Meta, el objetivo de la función era dar a los usuarios "control sobre si se podía hacer referencia a su contenido público". Sin embargo, muchos críticos opinan justo lo contrario: introducir el sistema de exclusión voluntaria implica asumir que el consentimiento se otorga por defecto.

Como resultado, el viernes la empresa cambió de opinión.

Un representante de Meta declaró a Variety que “hemos recibido comentarios que indican que esta función no cumplió con las expectativas, por lo que ya no está disponible”.

Los creadores y los grupos de seguridad forzaron latracatrás

La función generó críticas casi inmediatamente después de su lanzamiento. El Sindicato de Actores de Cine y la Federación Estadounidense de Artistas de Televisión y Radio (SAG-AFTRA) aconsejó a sus miembros que desactivaran la función, advirtiendo a los artistas que "tomaran medidas para proteger su imagen"

La agencia de talentos Creative Artists Agency, LLC (CAA), que representa a Tom Hanks y Meryl Streep, entre otros, afirmó estar en contacto directo con Meta y expresó que el sistema de IA nunca debería utilizar los nombres, imágenes, semejanzas ni voces de las personas sin su consentimiento explícito.

Mientras tanto, los defensores de la privacidad advirtieron que la tecnología podría facilitar la suplantación de identidad, la difusión de imágenes íntimas sin consentimiento y las estafas en línea. Haley McNamara, del Centro Nacional contra la Explotación Sexual, afirmó en una entrevista para The Verge que la posibilidad de que los usuarios opten por no participar transformó la responsabilidad, que ahora recae en los usuarios, en lugar de en la empresa.

La disputa pone de relieve la batalla legal en torno a las representaciones de imágenes generadas por IA

La controversia pone de relieve una cuestión más amplia a la que se enfrenta la industria de la IA: ¿Publicar una foto públicamente otorga también a las empresas el derecho a utilizarla para la IA generativa?

Este tema está cada vez más relacionado con la legislación europea sobre privacidad. El Reglamento General de Protección de Datos (RGPD) defilas imágenes de personas como datos personales, lo que significa que las organizaciones deben encontrar una base legal para procesar dichos datos según el artículo 6.

Si es necesario obtener el consentimiento de una persona, el artículo 7 establece que este debe ser libre, específico e informado. El artículo 9 especifica que el tratamiento de datos biométricos debe exigir mayor responsabilidad paradentde forma unívoca a una persona. Los artículos 12 a 14 también establecen que las organizaciones deben describir cómo se utiliza la información personal para que las personas estén más al tanto de su uso.

Los reguladores también están ampliando su enfoque más allá de las normas de privacidad tradicionales. La Ley de IA de la UE exige a los proveedores que informen al público si el contenido se ha creado o mejorado mediante tecnologías de IA, como los deepfakes. El objetivo de este requisito es brindar transparencia sobre los medios sintéticos, en lugar de prohibir por completo el uso de este tipo de tecnología.

Pero Meta no es la única empresa que se enfrenta a este problema. Hace apenas unos meses, OpenAI se vio obligada a eliminar una opción similar de exclusión voluntaria en su modelo de vídeo Sora debido a las críticas recibidas por el uso de imágenes disponibles públicamente.

Estas intervenciones confirman que los desarrolladores de tecnología de IA se enfrentan a desafíos más difíciles debido a la atención que los reguladores y los creadores dedican a garantizar que el consentimiento se otorgue de forma inequívoca antes de manipular la imagen de cualquier persona.

El debate sobre este tema ya ha llegado al ámbito legislativo. California ha aprobado dos proyectos de ley, el AB 2602 y el AB 1836, que exigen autorización previa para el uso comercial de una imagen generada por inteligencia artificial de un artista, vivo o fallecido.

Si bien las leyes pueden centrarse más en los acuerdos de entretenimiento que en la aplicabilidad de la IA en el ámbito del consumo, indican, no obstante, una tendencia a considerar las representaciones de IA como algo que requiere permiso, en lugar de simplemente presumir que cualquiera puede utilizarlas.

Los inversores parecen no verse afectados por todo el revuelo. Según informes anteriores de Cryptopolitan, las acciones de Meta cerraron a 615,58 dólares el día de su lanzamiento (7 de julio), lo que supone un aumento del 2,55 % en el día y su cierre más alto en un mes.

Sin embargo, subsiste la cuestión de si la divulgación de contenido permite a los usuarios aprovecharlo para el desarrollo de la IA. De hecho, si las recientes decisiones de Meta reflejan una tendencia más amplia en el mercado de la IA, el simple hecho de hacer algo público no otorga a otros el derecho a usarlo en IA. Al mismo tiempo, resulta evidente que el consentimiento desempeñará un papel fundamental en el desarrollo de nuevos productos de IA para los consumidores, ya que tanto la industria como las organizaciones públicas lo solicitan cada vez con mayor frecuencia.