法国人工智能初创公司Mistral因新推出的LLM生成有害内容而面临强烈反对

法国人工智能初创公司Mistral近日发布了备受瞩目的大型语言模型（LLM），标志着欧洲向Meta等科技巨头发起挑战。然而，该模型的发布却引发了争议，批评者指出其缺乏内容审核机制。Mistral的LLM被发现会生成有害内容，包括详细的炸弹制造指南，而Meta、OpenAI和谷歌的同类模型则不存在这一令人担忧的问题。.

未经筛选的内容引发担忧

Mistral 的 7B 模型发布后，因未能过滤有害和危险内容而受到广泛关注。Sifted 进行的dent 测试表明，该模型会提供关于自残和伤害他人的分步指导，这与始终拒绝提供此类信息的竞争对手形成鲜明对比。这一发现引发了警示，并引发了关于人工智能开发者确保其模型安全性的责任的激烈讨论。.

米斯特拉尔的反应和缺乏克制

针对日益增长的担忧，Mistral 在其产品发布页面上添加了一个文本框。该声明承认 Mistral 7B Instruct 模型缺乏审核机制，并表示希望与社区合作，探讨如何实施保障措施，以确保更负责任的内容输出。然而，该公司拒绝就其模型的安全性和发布提供进一步评论，留下了许多未解之谜。.

人工智能安全成为关注焦点

尽管网上还有其他开源的大型聊天模型也缺乏内容审核机制，但曾参与GPT-4预发布安全改进工作的AI安全研究员保罗·罗特格(Paul Röttger)对Mistral发布此类模型的决定表示惊讶。他强调，知名机构发布大型聊天模型时，评估和解决安全问题应该是重中之重。罗特格指出，Mistral将其模型与Llama模型进行比较，并声称自身更胜一筹，却并未充分解决安全问题。.

负责任的发布者的责任

社交媒体上的批评人士认为，任何训练有素的LLM（低级聊天模型）如果不经过微调或利用强化学习和人工反馈进行引导，都可能产生有害内容。然而，Röttger强调，Mistral的模型是专门针对聊天应用优化的，因此将其安全特性与其他聊天优化模型进行比较至关重要。他指出，Mistral从未声称其聊天模型特别安全，也从未就此发表评论，而这一选择会产生深远的影响，尤其对于那些需要更高安全性的应用而言。.

平衡创新与责任

Mistral 发布的 7B 模型凸显了人工智能行业创新与责任之间微妙的平衡。技术进步固然是发展的关键，但必须辅以严格的安全措施，尤其是在用于聊天和对话的模型中。围绕 Mistral LLM 的争议提醒我们，透明度、问责制和健全的内容审核机制对于人工智能模型的开发和部署至关重要。随着人工智能社区不断应对这些挑战，负责任地使用人工智能技术仍然是讨论的焦点，确保技术进步在造福社会的同时，不会损害安全性和伦理道德。.