随着AI死机器人引发数字尊严问题，伦理担忧加剧

AI专家警告说，死机器人AI（即已故者的数字复活）即将成为现实。因此，必须对此问题进行监管，以防止人们因创作者和用户的“闹鬼”而遭受心理伤害。

剑桥大学科学家表示，这种服务在技术上可行且法律允许，例如创建聊天机器人，利用与逝者保存的对话来“让奶奶回来”，从而理解人们在听到此类讨论后的情绪。 

研究称，一些公司以类似《黑镜》剧集“马上回来”（Be Right Back）的方式提供服务，允许聊天机器人通过使用死者留下的数字足迹来模仿其语言模式和性格特征。

呼吁安全法规以保护数字尊严

这项发表在《哲学与技术》期刊上的研究，展示了公司如何使用“死机器人”（deadbots）的例子，例如以类似已故亲人的方式向个人广告产品，或通过声称已故父母“与你在一起”来 traumatize 儿童。

然而，论文指出，在所有情况下，不可信的公司和鲁莽的商业举措可能导致长期的心理损害和侵犯逝者的权利。

研究人员指出，日常互动伴随着压倒性的情感重量。他们声称，这种情感支持也可能阻碍哀悼过程，而哀悼是应对失去的自然方式。 

伦理雷区

剑桥大学未来智能利华休姆中心（LCFI）的研究合著者Katarzyna Nowaczyk-Basińska博士表示，“生成式AI的快速发展意味着几乎任何有互联网访问权限和基本常识的人都可以复活已故的亲人。”

这个AI领域似乎是一个伦理雷区。最重要的是确保逝者的尊严不被像数字来世提供商这样的逐利服务所侵犯。主要问题可能来自通过广告商业化其在线遗产基础设施的企业。 

让儿童参与这个过程尤其危险，因为他们可能面临最糟糕的结果。以“死机器人”形式的陪伴可能很快成为父母安慰最近失去母亲或父亲的孩子的必要手段。

对哀悼过程的影响

然而，没有研究表明这种努力的适宜性，这应该让人思考其可能产生的非常不愉快的影响，更不用说它可能会干扰正常的哀悼过程。

根据研究论文，“没有任何重建服务能证明允许儿童与‘死机器人’互动是有益的，或者至少不会对这个脆弱群体造成伤害。”

为了确保死者的尊严和生者的心理健康，研究人员提出了一系列最佳实践，甚至可以通过立法来规范它们。

这些平台需要“退休”死机器人的协议，将其互动功能限制在成年人，承认任何人工实体在全面运行中的局限性，并对客户保持高度透明。

全球影响和多样化应用

根据研究人员，一些平台存在，其中可以用AI以低廉的成本生成死者的图像。例如，Project December最初使用GPT模型，后来使用他们的系统，还有Hereafter等应用。

同样，研究中指出了具有相同服务的中国对应产品。2021年，Joshua Barbeau获得公众关注，他使用GPT-3开发了一个以他已故女友声音说话的聊天机器人。2015年，Eugenia Kuyda将她已故朋友的文本转化为聊天机器人，从而催生了最受欢迎的AI伴侣应用Replika。

该技术也不限于聊天机器人。家谱网站MyHeritage在2021年推出了Deep Nostalgia功能，该功能从个人照片中生成带有用户祖先的动画视频。随着该功能走红，公司不得不承认许多用户认为它令人毛骨悚然。随着这些技术的逐步进步，除了牢记伦理以促进发展外，没有其他替代手段。