Si intensificano le preoccupazioni etiche: i "deadbot" AI sollevano interrogativi sulla dignità digitale

Gli esperti di AI avvertono che i deadbot, ovvero le rianimazioni digitali dei defunti, stanno per diventare realtà. Pertanto, è necessaria una regolamentazione di questa questione per prevenire danni psicologici a creatori e utenti derivanti dal "perseguitamento" da parte di tali entità.

Un esempio di tali servizi, tecnologicamente possibile e legalmente consentito, permetterebbe la creazione di chatbot che utilizzano conversazioni salvate con una persona scomparsa per "richiamare la nonna", nel senso di comprendere le emozioni delle persone dopo aver ascoltato tali discussioni, come affermato dagli scienziati dell'Università di Cambridge. 

Alcune aziende offrono servizi in modo simile all'episodio "Be Right Back" di Black Mirror, che permette a un chatbot di imitare gli schemi linguistici e i tratti della personalità di una persona defunta utilizzando l'impronta digitale che ha lasciato, secondo la ricerca.

Si invocano normative sulla sicurezza per proteggere la dignità digitale

Lo studio, che è pubblicato sulla rivista Philosophy and Technology, presenta esempi di come i deadbot possono essere utilizzati dalle aziende, ad esempio per pubblicizzare prodotti a una persona in modo simile a un caro defunto o per traumatizzare i bambini affermando che un genitore morto è "con te".

Tuttavia, in tutti i casi, società non affidabili e iniziative aziendali avventate potrebbero causare danni psicologici a lungo termine e una violazione dei diritti dei defunti, suggerisce il documento.

I ricercatori suggeriscono che le interazioni quotidiane si verificano con un peso emotivo schiacciante. Affermano che tale supporto emotivo può anche ostacolare il processo di lutto, un modo naturale di affrontare la perdita. 

Un campo minato etico

La dottoressa Katarzyna Nowaczyk-Basińska, una delle co-autrici dello studio presso il Leverhulme Centre for the Future of Intelligence (LCFI) di Cambridge, ha dichiarato, “I rapidi progressi nell'AI generativa significano che quasi chiunque abbia accesso a internet e alcune conoscenze di base può rivivere un caro defunto.”

Questo settore dell'IA sembra essere un campo minato etico. La cosa più essenziale da fare è garantire che la dignità dei defunti non venga violata da servizi guidati dal profitto, come i fornitori di vita digitale postuma, ad esempio. Il problema principale potrebbe derivare da aziende che commercializzano la loro infrastruttura di eredità online attraverso la pubblicità. 

È particolarmente rischioso coinvolgere i bambini nel processo, poiché potrebbero subire le conseguenze peggiori. La compagnia sotto forma di "deadbot" potrebbe presto diventare necessaria per i genitori che cercano di consolare i figli che hanno recentemente perso la madre o il padre.

Impatto sul processo di lutto

Tuttavia, non ci sono studi che possano indicare l'idoneità di tali sforzi, il che dovrebbe far riflettere sul loro possibile impatto, che potrebbe essere molto spiacevole, per non parlare del fatto che potrebbe interferire negativamente con il normale processo di lutto.

Secondo il documento di ricerca, “Nessun servizio di ricreazione può dimostrare che consentire ai bambini di interagire con i ‘deadbot’ sia benefico o, quantomeno, non danneggi questo gruppo vulnerabile.”

Per garantire la dignità dei morti e il benessere psicologico dei vivi, i ricercatori propongono una serie di migliori pratiche che possono essere utilizzate fino al punto di creare leggi per regolarli.

Queste piattaforme devono avere protocolli per "ritirare" i deadbot, limitare le loro funzioni interattive ai soli adulti, riconoscere i limiti di qualsiasi entità artificiale in pieno funzionamento ed essere molto trasparenti con i clienti.

Portata globale e applicazioni varie

Secondo i ricercatori, esistono alcune piattaforme in cui l'immagine di una persona defunta può essere generata con l'IA per un costo modesto. Ad esempio, c'è Project December, che inizialmente utilizzava modelli GPT e in seguito i loro sistemi, e ci sono anche app come Hereafter.

Allo stesso modo, ci sono controparti cinesi con gli stessi servizi indicati nello studio. Nel 2021, Joshua Barbeau ha ricevuto l'attenzione del pubblico quando ha utilizzato GPT-3 per sviluppare un chatbot che parlava con la voce della sua fidanzata, deceduta. Nel 2015, Eugenia Kuyda ha trasformato i testi della sua amica defunta in un chatbot, aprendo la strada all'app per compagni AI più popolare chiamata Replika.

La tecnologia non è limitata ai chatbot. MyHeritage, il sito di genealogia, ha lanciato nel 2021 Deep Nostalgia, una funzione che generava video animati da foto individuali degli antenati degli utenti. Non appena la funzione è diventata virale, l'azienda ha dovuto ammettere che molti utenti la trovavano inquietante. Con il graduale avanzamento di queste tecnologie, non esiste un mezzo alternativo se non tenere a mente l'etica per facilitare lo sviluppo.