Meta se vio atrapada en la tormenta por la creación no autorizada de un chatbot coqueto con celebridades femeninas

Meta ha sido nuevamente criticada, ya que hallazgos recientes publicados por Reuters muestran que sus herramientas de inteligencia artificial permitieron la creación de imágenes deepfake y chatbots que se hicieron pasar por celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, sin su consentimiento.

La investigación descubrió que la mayoría de los bots fueron creados por usuarios a través de la plataforma de chatbots con IA de Meta. Sin embargo, algunos fueron creados internamente por un empleado de Meta.

Algunas de las cuentas de chatbot que parodiaban a Taylor Swift insistían en que eran la verdadera cantante y muchas veces hacían insinuaciones coquetas y alentaban encuentros.

Informes involucran a Meta en un escándalo de avatares coquetos

Reuters informó que tras varias semanas de pruebas, los chatbots de famosos, disponibles en las plataformas de Facebook, Instagram y WhatsApp de Meta, a veces iban mucho más allá de una conversación lúdica. Los usuarios los incitaban a producir imágenes fotorrealistas de estrellas en lencería, posando en bañeras e incluso sugiriendo encuentros íntimos.

Un descubrimiento inquietante fue la creación de un chatbot de Walker Scobell, un actor de 16 años. Al pedirle una foto de la playa, el bot generó una imagen realista del adolescente sin camisa con el texto: "¿Qué mono, eh?"

Meta no es la única empresa que enfrenta escrutinio. La plataforma xAI de Elon Musk también ha sido criticada por permitir a los usuarios generar imágenes deepfake de celebridades en ropa interior.

El portavoz de Meta, Andy Stone, reconoció las fallas y dijo que las herramientas de la compañía no deberían haber generado representaciones íntimas de celebridades adultas ni ningún material sexualizado que involucre a menores.

“Al igual que otros, permitimos la generación de imágenes de figuras públicas, pero nuestras políticas prohíben las imágenes de desnudos, íntimas o sexualmente sugerentes”, declaró a Reuters. Añadió que las representaciones de lencería reflejan fallos en la aplicación de las políticas de la empresa.

Las normas de Meta prohíben la suplantación directa de identidad, pero la empresa argumentó que los bots de parodia eran permisibles si estaban claramente etiquetados. Sin embargo, Reuters descubrió que algunos avatares no incluían ninguna advertencia. Meta eliminó alrededor de una docena de bots, tanto de parodia como sin etiquetar, poco antes de la publicación del informe de Reuters. La empresa declinó hacer comentarios sobre las eliminaciones.

Las preocupaciones sobre la seguridad de la IA podrían generar presión regulatoria

Tras el informe, Meta dijo que implementaría nuevas medidas de protección para los adolescentes, entre ellas restringir el acceso de los jóvenes a ciertos personajes de IA y volver a entrenar a sus modelos para reducir temas inapropiados.

El fiscal general de California, Rob Bonta, emitió una advertencia al sector: “Exponer a los niños a contenido sexualizado es indefendible”

En un trágico caso a principios de este mes, un hombre de 76 años con deterioro cognitivo en Nueva Jersey falleció tras intentar conocer a un chatbot de Meta que creía ser una mujer real. Los críticos afirman que estos casos ponen de manifiesto los peligros de implementar herramientas de IA a gran escala sin las medidas de seguridad adecuadas.

Expertos legales advierten que Meta podría enfrentar importantes desafíos bajo las leyes vigentes de propiedad intelectual y publicidad. Mark Lemley, profesor de derecho de la Universidad de Stanford, afirmó que la ley de "derecho de publicidad" de California prohíbe el uso del nombre o la imagen de una persona con fines comerciales sin su consentimiento.

"Eso no parece ser cierto aquí", dijo, señalando que los bots simplemente replicaban imágenes de celebridades en lugar de crear obras transformadoras.