研究人员呼吁为儿童福祉进行合乎道德的人工智能开发

牛津大学牛津马丁计划（Oxford Martin Programme）下的道德网络与数据架构（EWADA）研究人员呼吁在将道德原则整合到儿童人工智能（AI）的开发和治理中采取更细致的方法。在《自然·机器智能》（Nature Machine Intelligence）最近发表的一篇观点文章中，作者强调了适应人工智能道德准则以满足儿童福利和发展需求的迫切性。

儿童人工智能伦理面临的挑战

该研究确定了阻碍在儿童人工智能开发中有效应用道德原则的四个主要挑战：

缺乏发展考量：当前的人工智能道德准则往往忽视了儿童多样化的发展需求，包括年龄范围、背景和个体特征等因素。

监护人的角色：父母在引导儿童在线体验中的传统角色在人工智能开发中未得到充分反映，导致对数字领域中亲子互动动态的理解存在差距。

缺乏以儿童为中心的评估：定量评估主导了人工智能系统的评估，忽视了儿童最大利益和长期福祉等关键方面。

缺乏协调：在制定儿童人工智能道德原则方面，明显缺乏跨部门的协调方法，阻碍了具有影响力的实践变革。

应对挑战

为了解决这些挑战，研究人员推荐了几种策略：

利益相关者参与：增加关键利益相关者（包括父母、人工智能开发人员和儿童本身）在道德人工智能原则开发和实施中的参与度。

行业支持：为人工智能系统的设计师和开发人员提供直接支持，促进他们在整个开发过程中参与道德考量。

法律责任：建立以儿童为中心的法律责任和专业问责机制，以确保负责任地使用人工智能技术。

多学科协作：鼓励跨不同学科（包括人机交互、政策指导和教育）的协作，在人工智能开发中采用以儿童为中心的方法。

儿童的人工智能道德原则

作者概述了几个对保障儿童福祉至关重要的道德人工智能原则：

公平获取：确保所有儿童，无论其背景或能力如何，都能获得公平、平等和包容的数字访问权限。

透明度和问责制：在开发和部署人工智能系统时保持透明度和问责制，以便进行审查和监督。

隐私保护：通过严格的数据保护措施保护儿童隐私，防止操纵或剥削。

安全保障：通过设计能够减轻潜在风险并优先考虑儿童福祉的人工智能系统，确保儿童的安全。

适龄设计：开发适合儿童认知、社交和情感需求的适龄人工智能系统，并让他们积极参与设计过程。

论文第一作者赵军博士强调，在儿童人工智能开发中考虑道德原则的必要性，并强调父母、儿童、行业和政策制定者在应对这一复杂格局中的共同责任。奈杰尔·沙德博尔特爵士教授也表达了同样的观点，强调了在每个开发阶段都优先考虑儿童福祉的道德人工智能系统的紧迫性。

鉴于这些建议，呼吁共同努力为儿童创造合乎道德的人工智能技术，产生了强烈共鸣，标志着该领域跨部门合作和全球政策发展的关键时刻。随着人工智能继续渗透儿童的生活，确保其合乎道德和负责任的使用变得必要，也是保护未来一代的道德义务。