OpenAI最新的“推理”模型存在基本错误

OpenAI最近发布了一个“推理”AI模型——o1，但根据该公司新的广告，它已经充斥着基本错误。

ChatGPT的制造商发布了其所谓的迄今为止最先进的模型，供付费订阅用户使用，并启动了其“OpenAI的12天”活动，这是一系列庆祝假日季节的发布活动。

OpenAI的演示视频表明该模型容易出错

根据OpenAI发布的一段展示该模型优势的视频，用户上传了一张木制鸟屋的图片，然后向该模型寻求如何建造类似鸟屋的建议。这个“推理”模型似乎“思考”了一会儿，然后给出了一套看似说明的指令。

仔细一看，这些说明似乎是浪费时间。该模型测量了任务所需的材料，如油漆、胶水和密封剂，但它仅提供鸟屋前板的尺寸。

该模型建议将一块砂纸切割成另一组不必要的尺寸。此外，该模型声称它给出了“精确的尺寸”，但与其之前的说法相反，它并没有给出任何精确的尺寸。

英国贸易机构木匠研究所主任James Filus也揭露了该模型的错误，例如o1的列表中缺少所需的工具，比如锤子。

“你对建造鸟屋的了解，从图片中获得的，和你从文本中获得的一样多，这在某种程度上挫败了AI工具的全部目的。”

Filus。

此外，Filus还透露，建造同一座鸟屋的成本“远非”该模型估计的20到50美元。

OpenAI模型做了与预期用途相反的事情

o1的案例增加了其他AI模型产品演示的例子，在这些演示中，它们做了与预期目的相反的事情。2023年，Google 一则关于AI辅助搜索工具的广告错误地指出，詹姆斯·韦伯望远镜做出了它并未做出的发现。这一错误导致该公司股价下跌。

这并非搜索巨头唯一的失误，最近一个类似Google工具的更新版本告诉用户，吃石头是安全的。它还声称用户可以用胶水把奶酪粘在披萨上。

尽管存在错误，但根据公开基准测试，o1模型仍然是OpenAI迄今为止最强大的模型。它在回答问题时采取了与ChatGPT不同的方法。

据《时代》杂志报道，o1仍然是一个非常先进的下一个词预测器，它是使用机器学习在互联网及更广泛的数十亿字文本上进行训练的。

该模型使用一种称为“思维链”推理的技术，在幕后“思考”答案片刻，然后才给出答案。这与仅仅对提示做出反应吐出单词不同。

这有助于模型给出更准确的响应，而不是在用户查询时只是吐出单词的情况。