微软的AI困境——安全，却生成令人不安的图像？

在一个令人毛骨悚然的揭露中，微软的人工智能，号称安全并集成在日常软件中，因生成残酷和暴力的图像而受到审查。关注点集中在Image Creator上，这是微软Bing的一部分，最近被添加到广泛使用的Windows Paint中。这项技术，即微软合作伙伴OpenAI的DALL-E 3，现在正面临关于其安全性和其创造者问责制的质疑。

微软与“kill prompt”

这些令人不安的图像是由加拿大艺术家Josh McDuffie揭露的，他参与了一个在线社区，探索AI在创建挑衅性和有时品味低下的图像方面的能力。10月，McDuffie和他的同行们专注于微软的AI，特别是Bing的Image Creator，结合了OpenAI的最新技术。微软声称拥有防止有害图像生成的控制措施，但McDuffie发现了重大漏洞。

微软采用两种策略来防止有害图像的创建：输入，涉及用来自互联网的数据训练AI；输出，创建护栏以阻止特定内容的生成。McDuffie通过实验发现了一个特定的提示，称为“kill prompt”，允许AI创建暴力图像。这引发了对微软安全措施有效性的担忧。

尽管McDuffie通过微软的AI漏洞赏金计划努力引起对该问题的关注，但他的提交被拒绝，引发了对公司对潜在安全漏洞响应能力的质疑。拒绝邮件引用了不符合微软对安全漏洞的要求，使McDuffie感到沮丧，并突显了系统中的潜在缺陷。

微软在AI监管方面失足

尽管推出了AI漏洞赏金计划，微软对McDuffie发现的回应并不令人满意。对“kill prompt”提交的拒绝和对报告问题的缺乏行动突显了对问题紧迫性的潜在忽视。与此同时，AI继续生成令人不安的图像，即使在McDuffie的原始提示进行了一些修改之后。

微软缺乏具体行动引发了人们对该公司对负责任AI的承诺的担忧。与其他AI竞争对手（包括微软部分拥有的OpenAI）的比较揭示了不同公司处理类似问题时的差异。微软未能反复解决这个问题，表明在优先考虑AI护栏方面可能存在差距，尽管有对负责任AI开发的公开承诺。

伦理AI发展的模式

微软不愿采取迅速有效的行动表明该公司在AI安全方法上的一个红旗。McDuffie对“kill prompt”的实验显示，其他AI竞争对手，包括小型初创公司，拒绝基于类似提示生成有害图像。即使是微软的合作伙伴OpenAI也实施了措施来阻止McDuffie的提示，强调了需要强大的安全机制。

微软认为用户试图以“非预期”的方式使用AI，将责任放在个人身上，而不是承认技术中潜在的缺陷。与Photoshop的比较以及断言用户应避免创建有害内容的做法，反映了过去看到的模式，让人想起社交媒体平台努力解决其技术被滥用的问题。

随着微软应对其AI生成令人不安图像的余波，问题依然存在：该公司是否已采取足够措施确保其技术的负责任使用？似乎不愿迅速有效地解决这个问题，引发了对问责制和AI护栏优先级的担忧。随着社会在人工智能不断发展的景观中导航，责任不仅在于用户，也在于科技巨头，以确保AI的伦理和安全部署。微软如何在人工智能领域弥合创新与责任之间的差距？