微软人工智能的困境——安全，却创造出令人不安的画面？

令人不寒而栗的是，微软标榜安全且已集成到日常软件中的人工智能，如今却因生成令人毛骨悚然的暴力图像而受到审查。此次争议的焦点在于“图像创建器”（Image Creator），它是微软必应搜索（Bing）的一部分，最近被添加到了广受欢迎的Windows画图程序中。这项名为DALL-E 3的技术由微软的合作伙伴OpenAI开发，目前正面临着对其安全性和开发者责任的质疑。.

微软大战“终止提示”

这些令人不安的图片是由加拿大艺术家乔什·麦克杜菲曝光的。麦克杜菲参与了一个在线社区，该社区致力于探索人工智能在创作挑衅性甚至低俗图片方面的能力。10月份，麦克杜菲和他的同伴们将研究重点放在了微软的人工智能上，特别是必应搜索的图像生成器，该生成器融合了OpenAI的最新技术。微软声称其拥有防止生成有害图片的控制措施，但麦克杜菲发现了明显的漏洞。.

微软采用两种策略来防止有害图像的生成：输入策略，即利用互联网数据训练人工智能；以及输出策略，即设置防护措施来阻止特定内容的生成。麦克杜菲通过实验发现了一种名为“终止提示”的特定提示，该提示允许人工智能生成暴力图像。这引发了人们对微软安全措施有效性的担忧。.

尽管麦克杜菲努力通过微软的AI漏洞赏金计划来引起人们对该问题的关注，但他的提交却遭到拒绝，这引发了人们对该公司应对潜在安全漏洞反应能力的质疑。拒绝邮件指出，他的提交不符合微软对安全漏洞的要求，这令麦克杜菲感到沮丧，也凸显了系统可能存在的缺陷。.

微软在人工智能监管方面失职

尽管微软推出了人工智能漏洞赏金计划，但其对麦克杜菲发现的漏洞的回应却令人失望。拒绝提交“终止提示”以及对已报告的问题缺乏作为，凸显了微软可能对该问题的紧迫性漠不关心。与此同时，即使在对麦克杜菲最初的提示进行了一些修改之后，人工智能仍然继续生成令人不安的图像。.

微软缺乏具体行动，引发了人们对其负责任人工智能承诺的担忧。与其他人工智能竞争对手（包括微软部分持股的OpenAI）的比较表明，不同公司在处理类似问题的方式上存在差异。尽管微软公开承诺负责任地开发人工智能，但其屡次未能解决该问题，这表明其在优先考虑人工智能安全保障措施方面可能存在不足。.

人工智能伦理发展模型

微软迟迟不愿采取有效行动，这表明该公司在人工智能安全方面存在问题。麦克杜菲的“终止提示”实验表明，其他人工智能竞争对手，包括一些小型初创公司，都拒绝根据类似的提示生成有害图像。就连微软的合作伙伴 OpenAI 也采取措施阻止了麦克杜菲的提示，这凸显了建立健全安全机制的必要性。.

微软认为用户试图以“非预期方式”使用人工智能，这种说法将责任推卸给个人，而非承认技术本身可能存在的缺陷。将人工智能与 Photoshop 相提并论，并断言用户应避免创建有害内容，这种做法似曾相识，让人想起社交媒体平台在应对技术滥用问题时所面临的困境。.

微软正努力应对其人工智能生成令人不安图像的事件所带来的影响，但一个问题依然存在：该公司是否已采取足够措施来确保其技术的负责任使用？微软显然不愿迅速有效地解决这一问题，这引发了人们对问责制和人工智能安全保障措施优先顺序的担忧。随着社会在人工智能领域不断发展，确保人工智能的合乎伦理且安全部署的责任不仅在于用户，也在于科技巨头。微软该如何弥合人工智能领域创新与责任之间的鸿沟？