La aplicación de inteligencia artificial conversacional 2Wai enfrenta críticas por su ética

La aplicación fue creada por el fundador y creador Calum Worthy, popular por interpretar a Dez en la serie de Disney "Austin & Ally" de 2011 a 2016, y el productor Russell Geyser. El dúo anunció recientemente el lanzamiento de la versión beta de 2Wai para iOS el 11 de noviembre.

La función HoloAvatar de la aplicación genera avatares de video conversacionales a partir de videos cargados, audio y entradas de texto, lo que permite chats en tiempo real en más de 40 idiomas.

La aplicación 2Wai se enfrenta al escrutinio público

La aplicación se creó como una herramienta para preservar el legado, pero su capacidad para recrear personas fallecidas ha acaparado los titulares. Este desarrollo ha generado comparaciones con el episodio de Black Mirror de 2013, "Be Right Back", donde una viuda da vida al fantasma de su difunto esposo. El video promocional de 2Wai se publicó en la cuenta, donde ha acumulado más de 22 millones de visualizaciones y alrededor de 58 000 comentarios.

El video muestra a una mujer embarazada haciendo una videollamada a una IA que recrea a su difunta madre para pedirle consejo. El video corta a una escena donde el avatar le lee cuentos a su bebé recién nacido. La última escena muestra a Worthy, como el hijo adulto, recibiendo consejos del avatar.

"¿Y si los seres queridos que hemos perdido pudieran formar parte de nuestro futuro?", pregunta el vídeo. "Con 2Wai, tres minutos pueden durar para siempre". Worthy añadió: "En 2Wai, estamos construyendo un archivo vivo de la humanidad, una historia a la vez"

HoloAvatars funciona con la tecnología Fed Rain de 2Wai, que, según afirma, procesa las interacciones en el dispositivo, garantizando la privacidad y limitando las respuestas a los datos aprobados por el usuario, además de reducir las alucinaciones de la IA. También afirma que la aplicación ofrece soporte a los usuarios que crean avatares para interactuar con sus fans o para recibir entrenamiento, una función que ya tenía el gemelo digital de Worthy. Aunque actualmente se encuentra en fase beta gratuita, se espera que en el futuro adopte un modelo de suscripción por niveles, cuyos precios aún no se han revelado.

Los expertos debaten sobre la zona gris legal

El desarrollo de 2Wai se remonta a las huelgas de SAG-AFTRA, en las que los artistas protestaron contra el uso no autorizado de imágenes generadas por IA. «Tras haber trabajado como actor, guionista y productor durante los últimos 20 años, he experimentado de primera mano lo difícil que es crear una relación significativa con los fans de todo el mundo», declaró Worthy en el lanzamiento de junio. «Las barreras lingüísticas, las zonas horarias y los presupuestos limitan la capacidad de conectar de verdad».

2Wai recaudó 5 millones de dólares en financiación inicial en junio de inversores no revelados, y la empresa indicó que está trabajando con British Telecom e IBM. Sin embargo, la percepción pública ha sido uno de los mayores desafíos para 2Wai y sus HoloAvatars. Los usuarios de X han calificado la aplicación de "inflamable", "demoníaca", "distópica" y una comercialización explotadora del duelo.

Según una respuesta viral, el usuario lo calificó como "una de las cosas más malvadas y psicóticas que he visto", argumentando que "vuelve psicóticos a los seres humanos" al simular la pérdida en lugar de procesarla. Otro lo calificó de "más que vil", insistiendo en que "los videos hacen eso" para archivar, no para las conjeturas de la IA.

Mientras tanto, expertos legales han afirmado que los bots de la muerte se encuentran en una zona gris legal y ética. Afirman que pueden construirse sin el permiso expreso del fallecido.

Además, afirmaron que puede exponer datos profundamente personales tanto del fallecido como de la persona en duelo, y crear ambigüedades en torno a la propiedad del avatar digital y los datos que lo acompañan. Las leyes de privacidad protegen a las personas vivas, pero ofrecen escasas o nulas garantías post mortem. La aplicación incluye requisitos de aceptación y aprobación familiar para los avatares de fallecidos, pero los críticos aún se muestran cautelosos sobre la aplicación de estos requisitos.