Meta发布AI工具，包括一个检查其他AI模型准确性的工具

Meta Platforms周五发布了一系列新的AI产品，包括一个“自我教导评估器”，能够检查其他AI模型的准确性。据报道，该模型因此能够在AI模型的开发过程中减少人类的参与。

Facebook和Instagram的母公司周五表示，它正在发布新的AI模型，此前它在8月的一篇论文中介绍了该工具，详细解释了它如何依赖与同行相同的“思维链”技术，ChatGPT制造商OpenAI最近发布了01模型。

预计这将使AI模型能够对模型的回答做出可靠的判断。

Meta希望解决不准确性的挑战

根据路透社的一篇文章，该模型可以检查和增强对难题（如科学、数学和编码等学科中的问题）的回答的准确性，因为它涉及将复杂问题分解为较小的逻辑步骤。

Meta透露，其意图包括解决其他AI模型（如ChatGPT）面临的挑战，以及针对过时和不准确回答的批评。

据报道，Meta的研究人员使用完全由AI生成的数据来训练评估器模型，从而在该阶段消除了人类输入。

两位Meta研究人员告诉路透社，使用AI可靠地评估其他AI的能力为构建能够从其自身错误中学习的自主系统提供了一条可能的途径。

“我们希望，随着AI变得越来越超越人类，它将越来越擅长检查自己的工作，从而实际上比普通人做得更好。” 研究员Jason Weston。

“自我教导和自我评估的想法基本上对于达到这种超人类水平的AI至关重要，”他补充道。

Meta正迈向自主AI

根据研究人员说法，AI行业的利益相关者将这些代理视为数字助手，它们足够智能，可以在没有人类干预的情况下执行各种任务。

研究人员坚持认为，自我改进模型可以消除今天使用的通常昂贵且低效的过程的需求，该过程称为“来自人类反馈的强化学习”。这需要人类标注者的输入，他们必须具备专业知识以准确标记数据，并验证复杂数学和写作查询的答案是否正确。

行业同行如Google和Anthropic也发布了关于RLAIF（来自AI反馈的强化学习）概念的研究论文。

然而，与Meta不同，这些其他公司往往不发布其模型供公众使用。

AI行业的专家意见认为，使用AI检查AI对于构建自主AI应用程序具有重要意义，这些应用程序可以在没有人类干预的情况下运行。这意味着最终AI模型将从自己的错误中学习，自我纠正并改进，而无需任何人类输入。

这家社交媒体巨头还发布了其他工具，包括对其图像识别Segment Anything Model (SAM) 的更新，一个加速LLM响应生成时间的工具，以及可用于帮助发现新无机材料的数据库。