Meta выпускает инструменты ИИ, включая тот, который проверяет точность других моделей ИИ

Meta Platforms в пятницу выпустила ряд новых продуктов ИИ, включая «Самообучающегося оценщика» (Self-Taught Evaluator), способного проверять точность других моделей ИИ. Сообщается, что эта модель позволяет снизить уровень участия человека в процессе разработки моделей ИИ.

Материнская компания Facebook и Instagram в пятницу заявила о выпуске новых моделей ИИ после того, как представила инструмент в августовской статье, в которой подробно объяснила, как он опирается на ту же технику «цепочки рассуждений» (chain of thought), что и ее коллеги. Недавно создатель ChatGPT OpenAI выпустил модели серии 01.

Ожидается, что это позволит модели ИИ принимать надежные решения относительно ответов других моделей.

Meta стремится решить проблемы неточностей

Согласно статье Reuters, модель может проверять и повышать точность ответов на сложные задачи, такие как в науке, математике и программировании, поскольку это требует разбивки сложных проблем на более мелкие логические шаги.

Meta раскрыла свои намерения, включая решение проблем, с которыми сталкиваются другие модели ИИ, такие как ChatGPT, а также критику в адрес устаревших и неточных ответов.

Исследователи из Meta, по сообщениям, использовали полностью сгенерированные ИИ данные для обучения модели-оценщика, исключив человеческий ввод на этом этапе.

Двое исследователей из Meta рассказали Reuters, что способность использовать ИИ для надежной оценки других моделей ИИ дает представление о возможном пути к созданию автономных систем, которые могут учиться на собственных ошибках.

«Мы надеемся, что по мере того, как ИИ становится все более превосходящим человека, он будет становиться все лучше и лучше в проверке своей работы, так что он станет действительно лучше среднего человека», — сказал исследователь Джейсон Уэстон.

«Идея самообучения и способности к самооценке в основном имеет решающее значение для достижения такого уровня ИИ, превосходящего человека», — добавил он.

Meta движется в сторону автономного ИИ

Согласно исследователям, участники рынка ИИ рассматривают этих агентов как цифровых помощников, достаточно умных для выполнения множества задач без вмешательства человека.

Исследователи утверждают, что самообучающиеся модели могут устранить необходимость в часто дорогостоящем и неэффективном процессе, используемом сегодня, который называется «Обучение с подкреплением на основе отзывов человека» (RLHF). Этот процесс требует участия аннотаторов-людей, которые должны обладать специальной экспертизой для точной разметки данных и проверки правильности ответов на сложные математические и текстовые запросы.

Такие отраслевые конкуренты, как Google и Anthropic, также опубликовали исследовательские статьи о концепции RLAIF (Reinforcement Learning from AI Feedback — обучение с подкреплением на основе отзывов ИИ).

Однако, в отличие от Meta, эти другие компании, как правило, не выпускают свои модели для общественного использования.

Эксперты в области ИИ отмечают, что использование ИИ для проверки ИИ имеет важное значение для создания автономных ИИ-приложений, способных функционировать без вмешательства человека. Это означает, что в конечном итоге модели ИИ будут учиться на собственных ошибках, самокорректироваться и улучшаться без какого-либо участия людей.

Социальная сеть также выпустила другие инструменты, включая обновление своей модели идентификации изображений Segment Anything Model (SAM), инструмент, ускоряющий время генерации ответов LLM, и наборы данных, которые можно использовать для содействия открытию новых неорганических материалов.