为何合乎道德的AI监控不可行，就像给猪涂口红？

TL;DR 摘要

• Rumman Chowdhury认为合乎道德的AI监控并不可行，她表示：“我们不能给猪涂口红。”
• 她主张建立一个外部全球治理委员会来监督AI技术，并解决监控资本主义等问题。
• Chowdhury强调问责制和合作在治理AI中的重要性，同时警告不要过度监管，并应解决伦理挑战。

在最近的一次采访中，Twitter前机器学习伦理、透明度和问责制主任Rumman Chowdhury表达了对合乎道德的人工智能（AI）监控可能性的怀疑。在纽约大学社会科学院发表讲话时，Chowdhury表示：“我们不能给猪涂口红。我认为合乎道德的监控不可能存在。”

Chowdhury以其在AI伦理方面的工作而闻名，她强调了对监控资本主义崛起的担忧，她认为这本质上是种族主义的，不应得到支持。在《连线》杂志的一篇评论文章中，她主张建立一个外部全球治理委员会来监督AI技术，解决监控资本主义、工作中断和核虚假信息等问题。Chowdhury强调需要一个与任何单一机构无关且代表全球视角的多元化委员会。

AI行业的问责制和监管挑战

据Chowdhury称，问责制是AI行业往往缺乏的一个关键方面。她指出，公司内部的风险分析往往忽视道德考量。她注意到，当失败或声誉损害的风险变得显著时，组织往往会偏袒自己而违反规则。Chowdhury认为，解决这些挑战需要集体努力，涉及各种利益相关者并在全球范围内进行合作。

虽然承认监管是必要的，但Chowdhury警告不要过度监管，这可能导致模型过度纠正并无法解决根本问题。她强调定义什么是有毒或仇恨言论的复杂性，称这是一个需要持续评估和适应的持续过程。

Rumman Chowdhury认为技术不应与人性脱节

Chowdhury的工作旨在弥合技术人员和政策制定者之间的差距，倡导更好地理解技术对人类的影响。她认为技术不应与人性脱节，而应被用来解决人类的缺陷并改善社会。

Rumman Chowdhury是AI伦理领域的知名人物，她一直对人类行为的复杂性和不可预测性着迷。在麻省理工学院攻读政治学学士学位期间，她意识到在非营利组织中更有效地使用模型和数据的可能性。这促使她在哥伦比亚大学攻读定量方法硕士学位，进一步磨练了她的技能。

仅在过去一个月里，Chowdhury的工作就带她去了世界各地的各个地方。从西班牙到旧金山，从波士顿到纽约，以及即将在维也纳和匹兹堡举行的演讲，她积极参与解决与AI相关的紧迫问题，如网络安全、核虚假信息和多邻国等语言学习平台。

利用激励机制并分散权力。

Chowdhury方法的核心是一个简单而有力的格言：倾听、沟通、合作。然而，她认识到，即使行业领袖表示致力于防止AI伤害，言行之间往往存在差异。她观察到，在审查加剧的时期，一些实体可能呼吁监管，同时却采用游说策略来阻碍监管法律的通过。

Chowdhury对AI伦理和治理的方法基于这样一个理解：与机器不同，人们有着不同的动机和优先事项。产生有意义的变革需要利用激励机制并分散权力。她挑战单一英雄叙事的观念，强调合作和集体决策在塑造AI未来中的重要性。