L'app di intelligenza artificiale conversazionale 2Wai è oggetto di critiche per l'etica

L'applicazione è stata creata dal fondatore e creatore Calum Worthy, famoso per aver interpretato il ruolo di Dez nella serie Disney "Austin & Ally" dal 2011 al 2016, e dal produttore Russell Geyser. Il duo ha recentemente annunciato il rilascio della versione beta di 2Wai per iOS l'11 novembre.

La funzione HoloAvatar dell'applicazione genera avatar video conversazionali da video caricati, audio e input di testo, consentendo chat in tempo reale in oltre 40 lingue.

L'applicazione 2Wai è sottoposta a scrutinio pubblico

L'applicazione è stata creata come strumento per la conservazione del patrimonio, ma la sua capacità di ricreare persone defunte ha dominato le prime pagine dei giornali. Questo sviluppo ha portato molti a paragonarla all'episodio del 2013 di Black Mirror "Be Right Back", in cui una vedova anima il fantasma del marito defunto. Il video promozionale di 2Wai è stato pubblicato sull'account ufficiale di Worthy su X ,dove ha totalizzato oltre 22 milioni di visualizzazioni e circa 58.000 commenti.

Il video mostra una donna incinta che videochiama un'IA che riproduce la madre defunta per chiedere consiglio. Il video si interrompe e si passa a una scena in cui l'avatar legge una favola della buonanotte al neonato. L'ultima scena mostra Worthy, il figlio adulto, che riceve consigli dall'avatar.

"E se i nostri cari perduti potessero far parte del nostro futuro?" chiede il video. "Con 2Wai, tre minuti possono durare per sempre". Worthy ha aggiunto: "A 2wai, stiamo costruendo un archivio vivente dell'umanità, una storia alla volta"

HoloAvatars si basa sulla tecnologia Fed Rain di 2Wai, che, a detta dell'azienda, elabora le interazioni direttamente sul dispositivo, garantendo la privacy, limitando le risposte ai dati approvati dall'utente e riducendo le allucinazioni generate dall'IA. L'app offre inoltre supporto agli utenti che desiderano creare avatar per interagire con i fan o per ricevere consigli, una funzionalità condivisa anche dal gemello digitale di Worthy. Attualmente è in versione beta gratuita, ma si prevede che in futuro passerà a un modello di abbonamento a livelli, i cui prezzi non sono ancora stati resi noti.

Gli esperti discutono della zona grigia legale

Lo sviluppo di 2Wai risale agli scioperi del 2023 del sindacato SAG-AFTRA, in cui gli artisti protestavano contro l'utilizzo non autorizzato di IA per la creazione di personaggi simili a loro. "Avendo lavorato come attore, sceneggiatore e produttore negli ultimi 20 anni, ho sperimentato in prima persona quanto sia difficile creare un rapporto significativo con i fan di tutto il mondo", ha dichiarato Worthy al lancio di giugno. "Le barriere linguistiche, i fusi orari e i budget limitati ostacolano la possibilità di connettersi veramente".

A giugno, 2Wai ha raccolto 5 milioni di dollari in finanziamenti pre-seed da investitori non dichiarati, e l'azienda ha dichiarato di collaborare con British Telecom e IBM. Tuttavia, la percezione pubblica è stata una delle maggiori sfide per 2Wai e i suoi HoloAvatar. Gli utenti di X hanno bollato l'applicazione come "carburante da incubo", "demoniaca", "distopica" e una commercializzazione strumentale del dolore.

Secondo una risposta virale, l'utente l'ha definita "una delle cose più malvagie e psicotiche che abbia mai visto", sostenendo che "rende psicotici gli esseri umani" simulando la perdita anziché elaborarla. Un altro l'ha etichettata come "oltremodo vile", insistendo sul fatto che "i video lo fanno" per l'archiviazione, non per le supposizioni dell'intelligenza artificiale.

Nel frattempo, gli esperti legali hanno affermato che i death bot si trovano in una zona grigia dal punto di vista legale ed etico. Hanno affermato che possono essere costruiti senza l'esplicita autorizzazione del defunto.

Inoltre, hanno affermato che potrebbe esporre dati profondamente personali sia del defunto che della persona in lutto, e creare ambiguità sulla proprietà dell'avatar digitale e dei dati ad esso associati. Le leggi sulla privacy proteggono le persone viventi, ma offrono poche o nessuna tutela post-mortem. L'applicazione include requisiti di opt-in e approvazioni familiari per gli avatar dei defunti, ma i critici sono ancora diffidenti riguardo all'applicazione di tali requisiti.