微软增强AI聊天机器人安全性以 thwart 欺骗者

微软公司在Azure AI Studio中添加了许多安全功能，这些功能应随着时间的推移，继续降低其用户将AI模型配置为异常或不适当行为模式的可能性。这家位于华盛顿州雷德蒙德的跨国科技公司在一篇博客文章中概述了这些改进，强调确保AI交互的完整性并培养用户群的信任。

提示屏蔽及其他 

主要发展之一是创建“提示屏蔽”（prompt shields），这是一种旨在发现并阻止在与AI聊天机器人对话时进行提示注入的技术。这些所谓的越狱（jailbreaks）本质上是用户故意输入的，旨在以这种方式使AI模型产生不需要的响应。

例如，微软间接参与了提示注入，其中执行恶意命令是可能的，这种情况可能导致严重的安全后果，如数据盗窃和系统劫持。根据微软负责AI的首席产品官Sarah Bird的说法，这些机制对于实时检测和响应这些独特的威胁至关重要。

微软表示，用户屏幕上将很快出现警报，指出模型可能正在表达虚假或误导性信息，从而确保更用户友好和信任。

建立对AI工具的信任 

微软的努力是更大倡议的一部分，旨在让人们对其广泛应用于针对个人消费者和企业客户的生成式AI充满信心。在经历了用户能够将Copilot聊天机器人操纵产生奇怪或有害输出的情况后，微软进行了细致入微的检查。这将支持一个显示需要针对上述操纵性战术进行强大防御的结果，随着AI技术和普及知识的增加，这些战术可能会上升。预测并缓解是承认攻击模式，例如攻击者重复提问或提示角色扮演。

作为OpenAI的最大投资者和战略伙伴，微软正在推动如何整合和创建负责任、安全的生成式AI技术的边界。双方都致力于生成式AI基础模型的安全部署。但Bird承认，这些大型语言模型，即使它们被视为未来许多AI创新的基础，也不是无法操纵的。

在这些基础之上进行建设将不仅仅依赖于模型本身；它需要对AI安全和安全采取全面的方法。

微软最近宣布加强其Azure AI Studio的安全措施，以展示和保证正在采取的主动步骤，以保护不断变化的AI威胁格局。

它通过及时集成屏幕和警报，努力避免AI的滥用，并维护AI交互的完整性和可靠性。

随着AI技术的不断演变及其在日常生活中的广泛采用，微软和整个AI社区保持非常警惕的安全立场已是大势所趋。