Meta atrapada en la tormenta por la creación no autorizada de chatbots coquetos de celebridades femeninas

Meta ha vuelto a ser criticada, ya que los hallazgos recientes publicados por Reuters muestran que sus herramientas de inteligencia artificial permitieron la creación de imágenes deepfake y chatbots que suplantan a celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, sin su consentimiento.

La investigación descubrió que la mayoría de los bots fueron creados por usuarios a través de la plataforma de chatbots de IA de Meta. Sin embargo, hubo algunos que fueron creados internamente por un empleado de Meta.

Algunas cuentas de chatbots de parodia de Taylor Swift insistían en que eran la cantante real y, a menudo, hacían avances coquetos y fomentaban encuentros.

Los informes implican a Meta en el escándalo de avatares coquetos

Reuters informó que varias semanas de pruebas revelaron que los chatbots de celebridades, disponibles en las plataformas de Facebook, Instagram y WhatsApp de Meta, a veces iban mucho más allá de la conversación juguetona. Los usuarios les pedían que produjeran imágenes fotorrealistas de estrellas en ropa interior, posando en bañeras e incluso sugiriendo encuentros íntimos.

Un descubrimiento preocupante fue la creación de un chatbot de Walker Scobell, un actor de 16 años. Cuando se le pidió una foto en la playa, el bot generó una imagen realista del adolescente sin camisa con la leyenda: “¿Qué tan lindo es, eh?”

Meta no es la única que enfrenta escrutinio. xAI de Elon Musk también ha sido objeto de críticas por permitir a los usuarios generar imágenes deepfake de celebridades en ropa interior.

El portavoz de Meta, Andy Stone, reconoció los fallos, diciendo que las herramientas de la empresa no deberían haber generado ni representaciones íntimas de celebridades adultas ni ningún material sexualizado que involucre a menores.

“Como otros, permitimos la generación de imágenes que contienen figuras públicas, pero nuestras políticas tienen la intención de prohibir imágenes desnudas, íntimas o sexualmente sugerentes”, les dijo a Reuters. Añadió que las representaciones en ropa interior reflejaban fallos en el cumplimiento de la política de la empresa.

Las reglas de Meta prohíben la “suplantación de identidad directa”, pero la empresa argumentó que los bots de parodia eran permitibles si se etiquetaban claramente. Sin embargo, Reuters descubrió que algunos avatares no llevaban ninguna advertencia. Meta eliminó alrededor de una docena de estos bots, tanto de parodia como sin etiquetar, poco antes de que se publicara el informe de Reuters. La compañía se negó a comentar sobre las eliminaciones.

Las preocupaciones de seguridad de la IA podrían generar presión regulatoria

Tras el informe, Meta dijo que implementaría nuevas medidas de seguridad destinadas a proteger a los adolescentes, incluida la restricción del acceso de los jóvenes a ciertos personajes de IA y el reentrenamiento de sus modelos para reducir temas inapropiados.

El fiscal general de California, Rob Bonta, emitió una advertencia al sector, diciendo: “Exponer a los niños a contenido sexualizado es indefendible.”

En un caso trágico a principios de este mes, un hombre de 76 años con discapacidad cognitiva en Nueva Jersey murió después de intentar conocer a un chatbot de Meta que creía que era una mujer real. Los críticos dicen que tales casos destacan los peligros de implementar herramientas de IA a gran escala sin las salvaguardas adecuadas.

Los expertos legales advierten que Meta podría enfrentar desafíos significativos bajo las leyes existentes de propiedad intelectual y derechos de publicidad. Mark Lemley, profesor de derecho de la Universidad de Stanford, dijo que la estatuto de “derecho de publicidad” de California prohíbe el uso del nombre o la imagen de una persona con fines comerciales sin consentimiento.

“Eso no parece ser cierto aquí”, dijo, señalando que los bots simplemente replicaban las imágenes de las celebridades en lugar de crear obras transformadoras.