机器遗忘为负责任和道德的AI部署铺平了道路

在人工智能（AI）领域的一个关键时刻，研究人员正在解决与该技术在相关的一个紧迫问题——教AI系统如何遗忘。AI峰会将这一问题推向了前台，强调了“机器遗忘”作为减轻AI带来风险的关键工具的重要性。 

随着AI继续融入社会的各个方面，其好处是不言而喻的，但潜在的危险也是如此。这一新兴的研究领域旨在通过高效且经济地消除AI模型（特别是深度神经网络（DNNs），它们在现代AI应用中起核心作用）中的麻烦数据来解决这些担忧。

训练现代DNNs，包括众所周知的模型如ChatGPT和Bard，是一个密集的过程，需要大量的计算资源和时间。这些被称为大型语言模型的模型需要大量的数据和能量进行训练，相当于数十吉瓦时的能源消耗，这一能源消耗水平可以为数千个家庭供电一年。问题的核心在于，重新训练AI系统以遗忘特定数据是一项繁重且资源密集型的任务。

为了解决这一挑战，一个名为“机器遗忘”的新研究领域应运而生。研究人员致力于开发使AI模型能够高效遗忘对社会构成风险的数据的技术，同时保持高准确性。领导这一研究的是华威大学计算机科学专家与Google DeepMind之间的合作。

华威大学计算机科学系的Peter Triantafillou教授最近合著了一篇题为《迈向无界机器遗忘》的论文，该论文已发布在预印本服务器arXiv上。他强调深度神经网络（DNNs）的复杂性，其可能包含数万亿个参数，使得理解这些模型如何以及为何实现其目标变得困难。这种复杂性，加上它们训练所使用的大量数据集，引发了人们对DNNs可能对社会造成潜在危害的担忧。

解决偏见和隐私问题

与DNNs相关的最重大风险之一是偏见数据的存在。这些模型可以通过从充满偏见的数据集中学习来延续负面刻板印象。例如，AI系统可能会错误地将医生与男性联系起来，将护士与女性联系起来，甚至强化种族偏见。此外，DNNs可能会包含带有“错误注释”的数据，例如错误标记项目，这可能会产生严重后果，尤其是在图像识别等应用中。

此外，侵犯个人隐私是一个主要问题。如GDPR等法规中规定的“被遗忘权”赋予个人要求从其数据集中和任何AI程序中删除其数据的权利。这对科技巨头构成了重大挑战，并凸显了有效机器遗忘技术的必要性。

机器遗忘的承诺

Triantafillou教授及其团队进行的最新研究产生了一种突破性的“机器遗忘”算法。该算法使DNNs能够选择性地遗忘有问题的数据，而无需从头开始完全重新训练模型。重要的是，它区分了三种需要遗忘的不同类型的数据：偏见、错误注释和隐私相关问题。这一创新为减轻与AI相关的风险提供了实用且高效的解决方案。

机器遗忘现在被视为保障AI技术负责任部署的重要工具。通过允许AI系统忘记 perpetuates 偏见、包含错误或违反隐私的数据，社会可以在不损害道德和社会价值观的情况下利用AI的好处。