Metaは他のAIモデルの精度をチェックするツールを含むAIツールをリリースした

Meta Platformsは金曜日、他のAIモデルの精度を検証できる「Self-Taught Evaluator」を含む一連の新しいAI製品を発表しました。このモデルは、AIモデルの開発プロセスにおける人間の関与を低減できるとされています。.

FacebookとInstagramの親会社は金曜日、8月に発表した論文でツールを紹介した後、新しいAIモデルを公開すると発表した。この論文では、ChatGPTの開発元である OpenAIが最近01モデルを公開したの。

これにより、AI モデルがモデルの応答について信頼できる判断を下すことができるようになることが期待されます。.

Metaは不正確さの課題に取り組みたいと考えている

ロイターの記事によると、このモデルは複雑な問題をより小さな論理的ステップに分解するため、科学、数学、プログラミングなどの科目における難しい問題への回答の正確性をチェックし、向上させることができるという。

Metaは、その意図には、古くて不正確な回答に対する批判に加えて、ChatGPTのような他のAIモデルで経験された課題に対処することが含まれていることを明らかにした。.

Metaの研究者は、評価モデルをトレーニングするために、完全にAI生成データを使用し、その段階で人間の入力を排除したと伝えられている。.

Metaの研究者2人はロイター通信に対し、AIを使って他のAIを確実に評価する能力は、自らの失敗から学ぶことができる自律型ロボットの構築に向けた可能性のある道を垣間見せてくれると語った。.

「AIがますます超人的になっていくにつれ、AIが自らの作業をチェックする能力もどんどん向上し、最終的には平均的な人間よりも優れた能力を発揮するようになることを期待しています」と研究者のジェイソン・ウェストン氏は述べた。.

「独学で学び、自己評価できるという考え方は、AIを超人的なレベルにまで到達させる上で基本的に極めて重要です」と彼は付け加えた。.

Metaは自律型AIに向かっている

研究者によると、AI業界の関係者は、これらのエージェントを、人間の介入なしにさまざまなタスクを実行できるほどインテリジェントなデジタルアシスタントと見なしているという。.

研究者たちは、自己改善モデルによって、現在用いられている「人間からのフィードバックによる強化学習」と呼ばれる、しばしば高価で非効率的なプロセスの必要性がなくなると主張している。このプロセスでは、データを正確にラベル付けし、複雑な数学的および文章的クエリへの回答が正しいことを検証するために、専門知識を持つ人間のアノテーターからの入力が必要となる。.

Google や Anthropic などの業界の同業者も、RLAIF (AI フィードバックからの強化学習) の概念に関する研究論文を発表しています。.

しかし、Meta とは異なり、これらの他の企業はモデルを一般に公開しない傾向があります。.

AI業界の専門家は、AIを検証するためにAIを活用することは、 自律型AIアプリケーションの ます。これは、AIモデルが最終的には自らの誤りから学習し、自己修正し、人間からの入力なしに改善していくことを意味します。

このソーシャル メディアの巨人は、LLM 応答生成時間を高速化するツールである画像dentセグメント エニシング モデル (SAM) のアップデートや、新しい無機材料の発見を支援するために使用できるデータセットなど、他のツールもリリースしました。.