顶级AI模型缺乏透明度，新指数显示

斯坦福大学基础模型研究中心（CRFM）的研究人员最近发现，最大的AI基础模型缺乏透明度，考虑到该技术在全球范围内传播得如此强大和迅速，这可能是一个令人担忧的问题。 

顶级AI模型缺乏透明度

为了对前10个基础模型的透明度进行评分，研究人员与麻省理工学院和普林斯顿大学的专家合作开发了“基础模型透明度指数”。该指数根据公司如何构建基础模型、其工作原理以及下游使用情况，评估透明度的100个不同方面。

该指数将Meta的Llama 2排在54%，其次是BigScience的BLOOMZ（53%）和OpenAI GPT-4（48%）。Google的PaLM 2的透明度评级为40%，透明度最低的是Amazon的Titan Text，仅为12%。 

“这清楚地表明了这些公司与竞争对手的比较情况，我们希望这将激励他们提高透明度，”CRFM的社会负责人Rishi Bommasani说。 

为什么这很重要？

AI模型的透明度对于防止某些威胁消费者保护的风险至关重要，并确保这些工具使用安全。 

缺乏透明度将使企业更难知道是否可以安全地使用商业基础模型构建应用程序，或使学者难以依赖这些模型进行研究。 

在监管方面，这是一个主要优先事项。透明度对于消除偏见、侵犯隐私等至关重要，并有助于全球政策制定者制定规则来监管AI模型。 

“如果你没有透明度，监管机构甚至无法提出正确的问题，更不用说在这些领域采取行动了，”Bommasani说。 

一些国家，包括澳大利亚，已经开始采取措施以确保AI模型的透明度和完整性。9月，Cryptopolitan报道称，澳大利亚政府赋予公民要求提供有关自动化决策如何做出的有意义信息的权利。

政府要求AI公司以清晰易懂的方式提供这些信息，确保公民能够理解AI如何影响他们的生活。