OpenAI의 최신 "추론" 모델은 기본적인 오류를 포함하고 있습니다

OpenAI는 최근 '추론' AI 모델인 o1을 출시했지만, 회사 측의 새로운 광고에 따르면 이 모델은 이미 기본적인 오류로 가득 차 있다고 합니다.

시작으로 유료 구독자를 위한 역대 가장 진보된 모델을 출시했습니다OpenAI 12일"의연말연시를 기념하는 일련의 공개 행사인

OpenAI 데모 영상은 해당 모델이 오류를 범하기 쉽다는 것을 시사합니다

오픈아이얼이 모델의 강점을 보여주기 위해 공개한 영상에 따르면, 한 사용자가 나무 새집 이미지를 업로드하고 비슷한 새집을 만드는 방법에 대한 조언을 모델에 요청합니다. 그러자 "추론" 모델은 잠시 "생각"하는 듯한 모습을 보인 후 일련의 지침으로 보이는 내용을 제시합니다.

자세히 살펴보니, 설명서는 시간 낭비인 것 같습니다. 모형은 페인트, 접착제, 실런트 등 작업에 필요한 재료의 치수를 측정하지만, 새집 앞면 패널의 치수만 제공합니다.

해당 모델은 불필요한 치수로 사포를 자르라고 제안합니다. 또한, 모델은 "정확한 치수"를 제공한다고 주장하지만, 앞서의 주장과 달리 정확한 치수를 제시하지 않습니다.

영국에 기반을 둔 무역 단체인 목수협회의 제임스 필러스 회장은 또한 o1의 목록에 필요한 도구(예: 망치)가 누락된 것과 같은 모델의 오류를 지적했습니다.

"이미지를 봐도 텍스트를 읽는 것과 마찬가지로 새집을 만드는 방법에 대해 알 수 있는 정보가 너무 적어서, 인공지능 도구의 존재 이유 자체가 무의미해지는 거죠."

필루스.

또한 필루스는 동일한 새집을 짓는 데 드는 비용이 모델이 추정한 20달러에서 50달러와는 "전혀 차이가 날 것"이라고 밝혔습니다.

OpenAI 모델은 의도된 사용 목적과 정반대의 결과를 보여줍니다

o1 사례는 AI 모델의 제품 시연이 의도한 목적과 정반대의 결과를 초래하는 다른 사례들을 보여줍니다. 2023년 구글은 광고에서 제임스 웹 우주망원경이 발견하지 못한 것을 발견했다고 잘못 표시했고, 이로 인해 구글의 주가가 하락했습니다.

이것이 검색 엔진 거대 기업인 구글의 행태의 전부가 아니었습니다. 최근 업데이트된 유사한 구글 도구는 사용자에게 돌을 먹어도 안전, 심지어 접착제를 사용해 피자에 치즈를 붙일 수 있다고 주장하기도 했습니다.

오류에도 불구하고, 공개된 벤치마크에 따르면 o1 모델은 현재까지 OpenAI의 가장 뛰어난 모델로 남아 있습니다. 또한 질문에 답변하는 방식이 ChatGPT와는 다릅니다.

타임지에 따르면, o1은 인터넷 및 기타 자료에서 수집한 수십억 단어의 텍스트를 기반으로 머신러닝을 통해 학습되었기 때문에 여전히 매우 뛰어난 다음 단어 예측기입니다.

이 모델은 '사고의 연쇄' 추론이라는 기법을 사용하여 잠시 동안 백그라운드에서 답을 '생각'한 다음, 그 후에야 답을 제시합니다. 이는 단순히 질문에 대한 답변을 말로 내놓는 것과는 다릅니다.

이는 모델이 사용자 질문에 단순히 단어만 쏟아내는 경우와 달리 더욱 정확한 답변을 제공하는 데 도움이 됩니다.