AI的威胁在于人类意图而非技术，弗吉尼亚·迪格姆教授

TL;DR 摘要

• AI带来的主要威胁在于人类如何滥用该技术，而非技术本身。
• 应立即关注解决AI系统引起的问题，如不平等、偏见、歧视和隐私问题。
• AI的监管和责任应由开发人员、政府和监管机构共同努力，以确保道德标准并保护社会。

人工智能（AI）的发展引发了对其可能对人类构成生存威胁的担忧。然而，根据欧盟AI高级别专家组成员弗吉尼亚·迪格姆教授的说法，主要担忧不在于技术本身，而在于人类如何使用它。在最近的一次采访中，迪格姆教授强调，AI本身并不危险，但当个人利用它来积累权力、财富或用于恶意目的时，它可能成为风险。这一观点挑战了AI自主驱动走向灾难性场景的观念。相反，它强调了解决当前AI滥用及其对社会负面影响的需要。

迪格姆教授敦促我们不要只关注假设的未来场景，而是面对今天由AI系统引起的紧迫问题。不平等、偏见、歧视和隐私问题只是其中一些即时问题。随着AI继续渗透到我们生活的各个方面，其对社会的影响加剧。因此，努力应集中在纠正这些当前挑战上，而不是仅仅关注遥远的末日场景。

开发者和政府的责任

认识到问责制的必要性，迪格姆教授强调企业和政府在监管AI方面的作用。开发人员必须为他们创建的系统承担责任，并确保其安全性和道德标准。同时，政府有责任通过制定适当的法规来保护其公民。最近的发展，如欧盟的《AI法案》，表明这是一个正确的方向。这项里程碑式的立法根据风险等级对AI应用进行分类，并默认禁止不可接受风险的应用。然而，监管责任不能仅由机构承担；它需要政策制定者、监管机构、政府和私营部门的共同努力。

自愿行为准则和立法的必要性

虽然自愿行为准则（如欧盟和美国制定的准则）是一项积极的举措，但批评者认为它们在跟上技术进步方面做得不够。人们越来越迫切地需要全面有效地解决AI的风险。迪格姆教授强调，超越仅关注技术的监管至关重要。相反，立法应关注AI系统的影响和应用。无论决策是由先进的AI、简单的电子表格还是人类做出的，其对人们生活的影响应是问责制和监管的关键决定因素。

AI系统的“驾照”需求

迪格姆教授恰当地将AI系统的监管引入比作在驾驶汽车前获得驾照。正如无证驾驶对自己和他人构成风险一样，在没有问责制和监管的情况下部署AI系统可能会产生严重后果。AI的开发和部署应以类似的责任感进行，确保建立保障措施以保护个人和社会。这一类比强调了建立标准、指南和监控机制以有效治理AI应用的紧迫性。

虽然对AI潜在风险的担忧引起了广泛关注，但弗吉尼亚·迪格姆教授挑战了AI本身对人类构成威胁的观念。相反，她强调真正的风险源于人类为个人利益或恶意目的而滥用技术。需要采取紧急行动来解决AI系统造成的现有问题，包括不平等、偏见、歧视和隐私问题。这需要开发人员、企业、政府和监管机构的集体努力，以确保问责制、安全性和道德标准。通过专注于AI系统的负责任使用和监管，我们可以利用其产生积极影响的潜力，同时最大限度地减少它们对社会构成的风险。