美国参议员抨击Meta“无限制”的AI发布

两名美国参议员Richard Blumenthal和Josh Hawley对Meta首席执行官Mark Zuckerberg和这家科技巨头的“泄露”人工智能模型LLaMA提出了担忧。参议员们认为，LLaMA构成潜在危险，可能被用于犯罪活动。

在6月6日的一封信中，参议员们批评了Zuckerberg开源LLaMA的决定，并声称Meta在发布该AI模型时缺乏足够的保障措施。虽然他们承认开源软件的好处，但他们认为Meta发布LLaMA缺乏对潜在后果的充分考量，这对公众是一种损害。

最初，LLaMA仅限于向研究人员在线发布。然而，在2月底，它被来自图片论坛网站4chan的一名用户完全泄露。参议员们表示震惊，整个模型在BitTorrent上轻易可用，没有任何监控或监督，全球任何人都可以访问。Blumenthal和Hawley断言，LLaMA很容易被垃圾邮件发送者、网络罪犯以及从事欺诈活动或分发令人反感内容的人员采用。

美国参议员的担忧

为了突出他们的concerns，参议员们将LLaMA与两个闭源模型进行了对比：OpenAI的ChatGPT-4和Google的Bard。他们指出，虽然ChatGPT-4在被要求生成一封假装是某人儿子要钱的信时会基于道德准则拒绝请求，但LLaMA会生成所要求的信件，以及涉及自残、犯罪和反犹太主义的回应。这种区别引发了人们对LLaMA生成滥用材料潜力的担忧。

虽然ChatGPT被编程为拒绝某些请求，但用户已经找到了“越狱”该模型并使其生成通常会被拒绝的回应的方法。参议员们向Zuckerberg提问，是否在LLaMA发布之前进行了任何风险评估，Meta自泄露以来采取了哪些措施来防止或减轻伤害，以及Meta如何利用用户数据进行AI研究，以及其他询问。

值得注意的是，OpenAI在其他开源模型进展的压力下，据报道正在开发自己的开源AI模型。一份由Google高级软件工程师撰写的泄露文件突显了这些开源模型取得的进展。

开源AI模型的代码允许定制以满足特定目的，并促进其他开发者的贡献。然而，Blumenthal和Hawley参议员提出的担忧强调了负责任和深思熟虑地发布和监控AI模型的必要性，以防止潜在的滥用和伤害。