O aplicativo de IA conversacional 2Wai enfrenta críticas relacionadas à ética

O aplicativo foi criado pelo fundador e criador Calum Worthy, conhecido por interpretar Dez na série da Disney "Austin & Ally" de 2011 a 2016, e pelo produtor Russell Geyser. A dupla anunciou recentemente o lançamento da versão beta do 2Wai para iOS em 11 de novembro.

O recurso HoloAvatar do aplicativo gera avatares de vídeo conversacionais a partir de vídeos, áudios e textos enviados, permitindo bate-papos em tempo real em mais de 40 idiomas.

O pedido de licenciamento da 2Wai está sob escrutínio público

O aplicativo foi criado como uma ferramenta para preservação de legado, mas sua capacidade de recriar pessoas falecidas acabou dominando as manchetes. O desenvolvimento levou a comparações com o episódio "Be Right Back" de Black Mirror, de 2013, em que uma viúva anima o fantasma de seu falecido marido. O vídeo promocional do 2Wai foi publicado na conta, onde já acumula mais de 22 milhões de visualizações e cerca de 58 mil comentários.

O vídeo mostra uma mulher grávida fazendo uma chamada de vídeo para uma recriação de IA de sua falecida mãe em busca de conselhos. A cena seguinte mostra o avatar lendo histórias para o bebê recém-nascido antes de dormir. A última cena mostra Worthy, já adulto, recebendo conselhos do avatar.

“E se os entes queridos que perdemos pudessem fazer parte do nosso futuro?”, pergunta o vídeo. “Com a 2Wai, três minutos podem durar para sempre.” Worthy acrescentou: “Na 2wai, estamos construindo um arquivo vivo da humanidade, uma história de cada vez.”

O HoloAvatars utiliza a tecnologia Fed Rain da 2Wai, que, segundo a empresa, processa as interações no próprio dispositivo, garantindo a privacidade, limitando as respostas a dados aprovados pelo usuário e reduzindo as alucinações da IA. A empresa também afirma que o aplicativo oferece suporte aos usuários que desejam criar avatares para interação com fãs ou para receber dicas, um recurso compartilhado pelo gêmeo digital de Worthy. Embora esteja atualmente em versão beta gratuita, espera-se que migre para um modelo de assinatura com diferentes níveis, cujos preços ainda não foram divulgados.

Especialistas discutem zona cinzenta legal

O desenvolvimento do 2Wai remonta às greves do SAG-AFTRA, em que artistas protestaram contra o uso não autorizado de imagens criadas por inteligência artificial. "Tendo trabalhado como ator, roteirista e produtor nos últimos 20 anos, vivenciei em primeira mão o quão desafiador é criar um relacionamento significativo com fãs ao redor do mundo", disse Worthy no lançamento em junho. "Barreiras linguísticas, fusos horários e orçamentos limitam a capacidade de uma conexão verdadeira."

Em junho, a 2Wai captou US$ 5 milhões em financiamento pré-seed de investidores não divulgados, e a empresa informou que está trabalhando com a British Telecom e a IBM. No entanto, a percepção pública tem sido um dos maiores desafios da 2Wai e seus HoloAvatars. Usuários da plataforma X classificaram o aplicativo como "combustível para pesadelos", "demoníaco", "distópico" e uma exploração comercial do luto.

Segundo uma resposta que viralizou, o usuário chamou isso de "uma das coisas mais malignas e psicóticas que já vi", argumentando que "transforma seres humanos em psicóticos" ao simular a perda em vez de processá-la. Outro classificou como "algo extremamente vil", insistindo que "vídeos fazem isso" para arquivamento, não para palpites de IA.

Entretanto, especialistas jurídicos afirmam que os robôs da morte se encontram numa zona cinzenta legal e ética. Eles alegam que podem ser construídos sem a autorização expressa do falecido.

Além disso, alegaram que isso pode expor dados profundamente pessoais tanto do falecido quanto dos familiares enlutados, e criar ambiguidades em relação à propriedade do avatar digital e dos dados associados. As leis de privacidade protegem as pessoas vivas, mas oferecem pouca ou nenhuma proteção após a morte. O aplicativo inclui requisitos de adesão e aprovação familiar para avatares de falecidos, mas os críticos ainda estão receosos quanto à aplicação desses requisitos.