Компания Meta выпустила инструменты для работы с ИИ, в том числе инструмент для проверки точности других моделей ИИ

В пятницу компания Meta Platforms выпустила ряд новых продуктов на основе искусственного интеллекта, включая «самообучающийся оценщик», способный проверять точность других моделей ИИ. Таким образом, сообщается, что эта модель позволяет сократить участие человека в процессе разработки моделей ИИ.

В пятницу материнская компания Facebook и Instagram заявила о выпуске новых моделей ИИ после того, как в августе представила этот инструмент в статье, подробно объяснив, как он основан на той же технике «цепочки мыслей», которую используют конкуренты, в частности, компания OpenAI, создавшая ChatGPT.

Ожидается, что это позволит модели ИИ делать достоверные выводы о результатах работы моделей.

Meta стремится решить проблемы, связанные с неточностями

Согласно Reuters , эта модель может проверять и повышать точность ответов на сложные задачи, например, в таких областях, как естественные науки, математика и программирование, поскольку она предполагает разбиение сложных задач на более мелкие логические шаги.

Компания Meta сообщила о своих намерениях решить проблемы, возникающие у других моделей ИИ, таких как ChatGPT, а также устранить критику в отношении устаревших и неточных ответов.

Как сообщается, исследователи из Meta использовали для обучения модели оценки исключительно данные, сгенерированные искусственным интеллектом, исключив на этом этапе участие человека.

Двое исследователей из Meta заявили Reuters, что возможность надежно использовать ИИ для оценки других систем ИИ дает представление о возможном пути к созданию автономных систем, способных учиться на собственных ошибках.

«Мы надеемся, что по мере того, как ИИ будет становиться все более и более сверхчеловеческим, он будет все лучше и лучше проверять свою работу, так что в итоге он действительно станет лучше, чем среднестатистический человек», — говорит исследователь Джейсон Уэстон.

«Идея самообучения и способности к самооценке имеет решающее значение для достижения этого сверхчеловеческого уровня искусственного интеллекта», — добавил он.

Meta движется в сторону автономного ИИ

По мнению исследователей, заинтересованные стороны в индустрии искусственного интеллекта рассматривают этих агентов как цифровых помощников, достаточно интеллектуальных, чтобы выполнять различные задачи без вмешательства человека.

Исследователи утверждают, что самосовершенствующиеся модели могут устранить необходимость в часто дорогостоящем и неэффективном процессе, используемом сегодня, который называется обучением с подкреплением на основе обратной связи от человека. Для этого требуется участие специалистов по разметке данных, обладающих специальными знаниями для точной маркировки данных и проверки правильности ответов на сложные математические и текстовые запросы.

Такие компании, как Google и Anthropic, также опубликовали исследовательские работы по концепции RLAIF, или обучения с подкреплением на основе обратной связи от ИИ.

Однако, в отличие от Meta, эти другие компании, как правило, не публикуют свои модели для всеобщего пользования.

Эксперты в области искусственного интеллекта считают, что использование ИИ для проверки ИИ имеет важное значение для создания автономных приложений ИИ , способных работать без вмешательства человека. Это означает, что в конечном итоге модели ИИ будут учиться на собственных ошибках, самокорректироваться и совершенствоваться без какого-либо участия человека.

Гигант социальных сетей также выпустил другие инструменты, включая обновление своей моделиdentлюбых изображений (Segment Anything Model, SAM), которая ускоряет время генерации ответов LLM и наборы данных, которые можно использовать для содействия открытию новых неорганических материалов.