两位美国参议员理查德·布卢门撒尔和乔什·霍利对 Meta 首席执行官马克·扎克伯格和这家科技巨头“泄露”的名为 LLaMA 的人工智能模型表示担忧。 参议员们认为 LLaMA 构成潜在危险，可能被用于犯罪活动。
在 6 月 6 日的一封信中，参议员们批评了扎克伯格开源 LLaMA 的决定，并声称 Meta 发布人工智能模型的保障措施不足。 虽然他们承认开源软件的好处，但他们认为 Meta 发布 LLaMA 缺乏对潜在后果的彻底考虑，他们认为这对公众有害。
最初，LLaMA 向研究人员提供了有限的在线发布。 然而，该信息后来于 2 月底被图像板网站 4chan 的一名用户完整泄露。 参议员们对完整的模型在 BitTorrent 上很容易获得、没有任何监控或监督、全世界任何人都可以访问表示震惊。 Blumenthal 和 Hawley 声称 LLaMA 很容易被垃圾邮件发送者、网络犯罪分子以及参与欺诈活动或传播不良内容的个人所采用。
美国参议员的担忧
为了强调他们的担忧，参议员们将 LLaMA 与两个闭源模型进行了对比：OpenAI 的 ChatGPT-4 和 Google 的 Bard。 他们指出，虽然 ChatGPT-4 在被要求生成一张冒充某人儿子要钱的纸条时，会根据道德准则拒绝该请求，但 LLaMA 会生成所要求的信件以及涉及自残、犯罪和其他行为的答复。反犹太主义。 这种区别引起了人们对 LLaMA 产生辱骂材料的可能性的担忧。
虽然 ChatGPT 被编程为拒绝某些请求，但用户已经找到了“越狱”模型并使其生成通常会拒绝的响应的方法。 参议员们向扎克伯格询问了在 LLaMA 发布之前是否进行过任何风险评估、Meta采取了哪些措施来防止或减轻伤害、Meta 如何利用用户数据进行人工智能研究等问题。
值得注意的是，据报道，在其他开源模型进步的压力下，OpenAI 正在开发自己的开源人工智能模型。 一份由谷歌高级软件工程师撰写的泄露文件强调了这些开源模型所取得的进展。
开源人工智能模型的代码允许进行定制以服务于特定目的，并促进其他开发人员的贡献。 然而，参议员布卢门撒尔和霍利提出的担忧强调，需要采取负责任和深思熟虑的方法来发布和监控人工智能模型，以防止潜在的滥用和伤害。
