Meta retira la herramienta de imágenes con IA de Instagram, probando los límites del raspado de similitudes con IA

Solo tres días después de su lanzamiento, Meta ha eliminado una función de Instagram que permitía a los usuarios utilizar la IA para crear imágenes basadas en las fotos de perfil de otros usuarios. La decisión de la empresa de eliminar la función muestra una creciente preocupación por el consentimiento y el uso de imágenes en la era de la inteligencia artificial.

El retroceso es un revés temprano para los esfuerzos de Meta por ponerse al día con OpenAI y Google en el campo de la IA generativa. Aunque el modelo de imagen Muse sigue estando disponible, la empresa ha eliminado la opción de crear imágenes basadas en perfiles públicos de Instagram en sus solicitudes de generación de imágenes tras las críticas de creadores, artistas y defensores de la privacidad.

Lo que construyó Meta, y lo que desechó

Meta presentó Muse Image el 7 de julio, afirmando que la nueva herramienta de generación de imágenes impulsada por IA es el primer producto de su Superintelligence Lab dirigido por Alexandr Wang. La nueva tecnología impulsa 30 efectos en Instagram y se dice que supera a Google Nano Banana 2 según las pruebas internas de Meta, mientras que solo queda por detrás del generador de imágenes de ChatGPT.

La disputa no se centró en el modelo en sí, sino en la forma en que trataba las imágenes subidas por los usuarios. Al etiquetar su cuenta pública de Instagram para adultos, los usuarios podían utilizar las imágenes públicas de esta cuenta en fotos generadas por IA. Se excluyeron a los usuarios menores de 18 años y a las cuentas privadas, mientras que las cuentas públicas de adultos se inscribieron automáticamente a menos que los usuarios las desactivaran manualmente.

Según Meta, el objetivo de la función era dar a los usuarios “control sobre si su contenido público podía ser referenciado”. Sin embargo, muchos críticos piensan justo lo contrario: introducir un sistema de exclusión implica asumir que el consentimiento se otorga por defecto.

Como resultado, el viernes la empresa cambió de opinión.

Un representante de Meta declaró a Variety que “hemos escuchado los comentarios de que esta función no cumplió las expectativas, por lo que ya no está disponible.”

Los creadores y los grupos de seguridad forzaron el retroceso

La función recibió críticas casi inmediatamente después de su lanzamiento. Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) aconsejó a sus miembros desactivar la función, advirtiendo a los artistas que “tomen medidas para proteger su imagen.”

La agencia de talentos Creative Artists Agency, LLC (CAA), que representa a Tom Hanks y Meryl Streep, entre otros, dijo que estaba en contacto directo con Meta y expresó que el sistema de IA nunca debería utilizar los nombres, imágenes, semblanzas y voces de las personas en ausencia de su consentimiento explícito.

Mientras tanto, los defensores de la privacidad advirtieron que la tecnología podría facilitar la suplantación de identidad, la imagen íntima no consentida y las estafas en línea. Haley McNamara, del Centro Nacional de Explotación Sexual, dijo en su entrevista para The Verge que la noción de que los individuos se excluyeran transformaba la responsabilidad de la empresa hacia los usuarios de la tecnología.

La disputa destaca la batalla legal sobre las semblanzas con IA

La controversia destaca una pregunta más amplia que enfrenta la industria de la IA: ¿Publicar una foto públicamente también da a las empresas el derecho a utilizarla para la IA generativa?

Este tema se conecta cada vez más con la ley de privacidad europea. El Reglamento General de Protección de Datos (GDPR) define las imágenes de personas como datos personales, lo que significa que las organizaciones necesitan encontrar una base legal para procesar dichos datos según el Artículo 6.

Si es necesario obtener el consentimiento de un individuo, el Artículo 7 establece que el consentimiento debe ser libre, específico e informado. El Artículo 9 especifica que el procesamiento de datos biométricos debe requerir una mayor responsabilidad para identificar de forma única a una persona. Los Artículos 12-14 también establecen que las organizaciones deben describir cómo se utiliza la información personal para que los individuos sean más conscientes de su uso.

Los reguladores también están ampliando su enfoque más allá de las normas tradicionales de privacidad. La Ley de IA de la UE exige a los proveedores informar al público si el contenido ha sido creado o aumentado utilizando tecnologías de IA, como los deepfakes. El propósito de este requisito es proporcionar transparencia sobre los medios sintéticos en lugar de prohibir el uso de este tipo de tecnología en su totalidad.

Pero Meta no es la única empresa que enfrenta este problema. Hace solo unos meses, OpenAI se vio obligada a eliminar una opción de exclusión similar en su modelo de video Sora debido a la reacción negativa que recibió por su uso de imágenes de acceso público.

Las intervenciones confirman que los desarrolladores de tecnología de IA enfrentan desafíos más difíciles debido a la atención que los reguladores y los creadores prestan a asegurarse de que el consentimiento se otorgue de manera inequívoca antes de manipular la semblanza de cualquier persona.

La discusión sobre el problema ya se ha trasladado al ámbito de la legislación. California ha aprobado dos proyectos de ley, AB 2602 y AB 1836, que requieren permiso antes del uso comercial de una imagen generada por IA de un intérprete vivo o fallecido.

Aunque las leyes pueden estar más relacionadas con acuerdos de entretenimiento que con la aplicabilidad de la IA en el ámbito del consumidor, no obstante indican una tendencia a considerar las semblanzas de IA como cosas que necesitan permiso, en lugar de simplemente presumir que cualquiera puede utilizarlas.

Los inversores parecen no verse afectados por todo el alboroto. Según informes anteriores de Cryptopolitan, las acciones de Meta cerraron a 615,58 dólares el día del lanzamiento (7 de julio), lo que representa un aumento del 2,55% en el día y su cierre más alto en un mes.

Aún así, sigue existiendo la pregunta de si la publicidad del contenido permite a los usuarios aprovecharlo para el desarrollo de IA. De hecho, si las decisiones recientes de Meta son un reflejo de una tendencia más amplia en el mercado de la IA, simplemente hacer algo público no da derecho a otros a utilizarlo en la IA en absoluto. Al mismo tiempo, está quedando claro que el consentimiento jugará un papel importante en el desarrollo de nuevos productos de IA para los consumidores, ya que cada vez es más solicitado por la industria y las organizaciones públicas.