Ethische Bedenken nehmen zu, da KI-Deadbots Fragen der digitalen Würde aufwerfen

KI-Experten warnen davor, dass sogenannte „Deadbot-KI“ – digitale Wiederbelebungen Verstorbener – bald Realität werden könnten. Daher ist eine Regulierung dieses Problems notwendig, um psychische Schäden durch das „Spuken“ ihrer Schöpfer und Nutzer zu verhindern.

Ein Beispiel für solche Dienste, die technologisch möglich und rechtlich zulässig sind, wäre die Entwicklung von Chatbots, die gespeicherte Gespräche mit einer verloren gegangenen Person nutzen, um „Oma zurückzurufen“, indem sie die Emotionen der Gesprächspartner nach dem Anhören dieser Gespräche verstehen, wie Wissenschaftler der Universität Cambridge erklärten 

Einige Unternehmen bieten Dienstleistungen an, die an die Black Mirror-Folge „Be Right Back“ erinnern, in der ein Chatbot Sprachmuster und Persönlichkeitsmerkmale einer verstorbenen Person anhand ihrer digitalen Spuren imitieren kann, heißt es in der Studie.

Sicherheitsbestimmungen zum Schutz der digitalen Würde gefordert

Die veröffentlichte präsentiert Beispiele dafür, wie Unternehmen sogenannte Deadbots einsetzen könnten, etwa um Produkte auf ähnliche Weise wie einen verstorbenen Angehörigen zu bewerben oder um Kinder zu traumatisieren, indem behauptet wird, ein toter Elternteil sei „bei dir“. 

Allerdings können unzuverlässige Unternehmen und leichtsinnige Geschäftsinitiativen in allen Fällen zu langfristigen psychischen Schäden und einer Verletzung der Rechte des Verstorbenen führen, so die These des Artikels.

Die Forscher vermuten, dass alltägliche Interaktionen mit einer überwältigenden emotionalen Belastung einhergehen. Sie behaupten, dass diese emotionale Unterstützung den Trauerprozess, eine natürliche Art der Bewältigung des Verlustes, behindern kann. 

Ein ethisches Minenfeld

 Dr. Katarzyna Nowaczyk-Basińska, eine der Koautorinnen der Studie am Leverhulme Centre for the Future of Intelligence (LCFI) der Universität Cambridge, erklärte: „Rasante Fortschritte im Bereich der generativen KI bedeuten, dass praktisch jeder mit Internetzugang und einigen grundlegenden Kenntnissen einen verstorbenen Angehörigen wiederbeleben kann.“ 

Dieser Bereich der KI erweist sich als ethisches Minenfeld. Am wichtigsten ist es, sicherzustellen, dass die Würde der Verstorbenen nicht durch gewinnorientierte Dienste wie beispielsweise Anbieter digitaler Jenseitsvorstellungen verletzt wird. Ein Hauptproblem könnte von Unternehmen ausgehen, die ihre Online-Infrastruktur für den Nachlass durch Werbung kommerzialisieren. 

Es ist besonders riskant, Kinder in diesen Prozess einzubeziehen, da sie am schlimmsten betroffen sein könnten. Die Begleitung durch virtuelle „Todesroboter“ könnte bald notwendig werden für Eltern, die ihre Kinder trösten möchten, die kürzlich ihre Mutter oder ihren Vater verloren haben.

Auswirkungen auf den Trauerprozess

Allerdings gibt es keine Studien, die die Eignung solcher Bemühungen belegen könnten, was Anlass zum Nachdenken über deren mögliche Auswirkungen gibt, die sehr unangenehm sein könnten, ganz abgesehen davon, dass sie den normalen Trauerprozess negativ beeinflussen könnten.

Laut der Studie kann kein Freizeitdienst beweisen, dass es vorteilhaft ist oder zumindest dieser schutzbedürftigen Gruppe nicht schadet, Kindern die Interaktion mit „toten Robotern“ zu ermöglichen.

Um die Würde der Toten und das psychische Wohlbefinden der Lebenden zu gewährleisten, schlagen die Forscher eine Reihe von bewährten Verfahren vor, die sogar so weit gehen können, Gesetze zu deren Regelung zu erlassen.

Diese Plattformen benötigen Protokolle für die „Ruhestandsregelung“ von inaktiven Bots, die Beschränkung ihrer interaktiven Funktionen auf Erwachsene, die Anerkennung der Grenzen jeder künstlichen Entität im vollen Betrieb und absolute Transparenz gegenüber den Kunden.

Globale Reichweite und vielfältige Anwendungsmöglichkeiten

Den Forschern zufolge existieren einige Plattformen, auf denen mithilfe von KI kostengünstig ein Bild einer verstorbenen Person generiert werden kann. Beispiele hierfür sind Project December, das zunächst GPT-Modelle und später deren Systeme nutzte, sowie Apps wie Hereafter.

Auch in China gibt es vergleichbare Anbieter mit den in der Studie genannten Diensten. 2021 erregte Joshua Barbeau öffentliches Aufsehen, als er mithilfe von GPT-3 einen Chatbot entwickelte, der mit der Stimme seiner verstorbenen Freundin sprach. Bereits 2015 hatte Eugenia Kuyda die SMS ihrer verstorbenen Freundin in einen Chatbot umgewandelt und damit den Weg für die äußerst beliebte KI-Begleit-App Replika geebnet.

Die Technologie beschränkt sich nicht nur auf Chatbots. MyHeritage, die Genealogie-Website, führte 2021 „Deep Nostalgia“ ein, eine Funktion, die animierte Videos aus Einzelbildern mit den Vorfahren der Nutzer erstellte. Nachdem die Funktion viral ging, musste das Unternehmen einräumen, dass viele Nutzer sie als unheimlich empfanden. Angesichts des stetigen Fortschritts dieser Technologien ist es unerlässlich, ethische Grundsätze bei der Weiterentwicklung zu berücksichtigen.