Ethische Bedenken nehmen zu, da KI-Deadbots Fragen der digitalen Würde aufwerfen

KI-Experten warnen, dass Deadbot-KI, also digitale Reanimationen der Verstorbenen, bald Realität werden. Daher muss dieses Thema reguliert werden, um zu verhindern, dass Menschen psychische Schäden aufgrund der „Heimsuchung“ durch ihre Ersteller und Benutzer erleiden.

Ein Beispiel für solche Dienste, die technologisch möglich und rechtlich zulässig sind, würde die Erstellung von Chatbots ermöglichen, die gespeicherte Gespräche mit einem Verlorenen verwenden, um „Oma zurückzurufen“, im Sinne des Verständnisses der Gefühle der Menschen nach dem Hören solcher Diskussionen, wie von den Wissenschaftlern der Universität Cambridge stated 

Einige Unternehmen bieten Dienste in einer Weise an, die an die Black-Mirror-Episode „Be Right Back“ erinnert, die es einem Chatbot ermöglicht, Sprachmuster und Persönlichkeitsmerkmale einer verstorbenen Person zu imitieren, indem sie die digitale Spur nutzt, die sie hinterlassen hat, so die Forschung.

Sicherheitsvorschriften werden gefordert, um die digitale Würde zu schützen

Die Studie, die im Journal Philosophy and Technology veröffentlicht wurde, präsentiert Beispiele dafür, wie Deadbots von Unternehmen genutzt werden können, zum Beispiel, um Produkte auf ähnliche Weise wie ein verstorbener Angehöriger zu werben oder Kinder zu traumatisieren, indem behauptet wird, ein toter Elternteil sei „bei dir“.

In allen Fällen können unzuverlässige Unternehmen und rücksichtslose Geschäftsinitiativen jedoch zu langfristigen psychischen Schäden und einer Verletzung der Rechte der Verstorbenen führen, schlägt das Papier vor.

Die Forscher schlagen vor, dass tägliche Interaktionen mit einem überwältigenden emotionalen Gewicht auftreten. Sie behaupten, dass solche emotionale Unterstützung auch den Trauerprozess behindern kann, einen natürlichen Weg, mit dem Verlust umzugehen. 

Ein ethisches Minenfeld

Dr. Katarzyna Nowaczyk-Basińska, eine der Co-Autorinnen der Studie am Leverhulme Centre for the Future of Intelligence (LCFI) in Cambridge, erklärte, „Schnelle Fortschritte in der generativen KI bedeuten, dass fast jeder mit Internetzugang und grundlegendem Wissen einen verstorbenen Angehörigen wiederbeleben kann.“

Dieser Bereich der KI scheint ein ethisches Minenfeld zu sein. Das Wichtigste ist sicherzustellen, dass die Würde der Verstorbenen nicht durch gewinnorientierte Dienste wie digitale Jenseits-Anbieter verletzt wird. Das Hauptproblem kann von Unternehmen ausgehen, die ihre Online-Nachlassinfrastruktur durch Werbung kommerzialisieren. 

Es ist besonders riskant, Kinder in den Prozess einzubeziehen, da sie die schlimmsten Ergebnisse erleben könnten. Begleitung in Form von ‚Deadbots‘ könnte bald für Eltern notwendig werden, die ihre Kinder trösten wollen, die kürzlich ihre Mütter oder Väter verloren haben.

Auswirkungen auf den Trauerprozess

Es gibt jedoch keine Studien, die die Eignung solcher Bemühungen anzeigen können, die einen dazu bringen sollten, über ihre möglichen Auswirkungen nachzudenken, die sehr unangenehm sein könnten, ganz zu schweigen davon, dass sie den normalen Trauerprozess negativ stören könnten.

Laut dem Forschungsbericht, „Kein Wiederbeerdigungsdienst kann nachweisen, dass es für Kinder vorteilhaft ist, mit ‚Deadbots‘ zu interagieren, oder zumindest, dass diese verwundbare Gruppe nicht geschädigt wird.“

Um die Würde der Toten und das psychische Wohlbefinden der Lebenden zu gewährleisten, schlagen die Forscher eine Reihe von Best Practices vor, die sogar bis hin zu Gesetzen zur Regulierung verwendet werden können.

Diese Plattformen benötigen Protokolle zum „Ruhestand“ von Deadbots, ihre interaktiven Funktionen auf Erwachsene zu beschränken, die Grenzen jeder künstlichen Entität in vollem Betrieb anzuerkennen und mit Kunden sehr transparent zu sein.

Globale Reichweite und vielfältige Anwendungen

Laut den Forschern gibt es einige Plattformen, auf denen ein Bild einer verstorbenen Person mit KI für einen bescheidenen Preis generiert werden kann. Zum Beispiel gibt es Project December, das zunächst GPT-Modelle und später ihre Systeme verwendete, und es gibt auch Apps wie Hereafter.

Ebenso gibt es chinesische Gegenstücke mit den gleichen Diensten, die in der Studie angegeben sind. Im Jahr 2021 erhielt Joshua Barbeau öffentliche Aufmerksamkeit, als er GPT-3 verwendete, um einen Chatbot zu entwickeln, der in der Stimme seiner verstorbenen Freundin sprach. Im Jahr 2015 verwandelte Eugenia Kuyda die Texte ihrer verstorbenen Freundin in einen Chatbot, was wiederum den beliebtesten KI-Begleiter-App namens Replika ermöglichte.

Die Technologie ist nicht nur auf Chatbots beschränkt. MyHeritage, die Genealogie-Website, brachte 2021 Deep Nostalgia, eine Funktion, die animierte Videos aus einzelnen Bildern mit Vorfahren der Benutzer generierte. Sobald die Funktion viral ging, musste das Unternehmen zugeben, dass viele Benutzer es unheimlich fanden. Mit dem allmählichen Fortschritt dieser Technologien gibt es keine alternative Möglichkeit, als die Ethik im Auge zu behalten, um die Entwicklung zu erleichtern.