Революционный подход к обучению позволяет ИИ обобщать информацию подобно человеческому разуму

В рамках революционного исследования в области искусственного интеллекта (ИИ) исследователи представили новый протокол обучения, который может значительно повысить способность модели ИИ к обобщению и пониманию информации, приближая её к тому, как люди учатся и рассуждают. Этот инновационный подход бросает вызов общепринятому мнению о том, что увеличение объёма данных является ключом к улучшению машинного обучения, предлагая новые идеи о секретах как ИИ, так и человеческого познания.

Человек превосходно понимает и комбинирует различные компоненты, чтобы осмыслить мир — когнитивный навык, известный как «композиционность» или «matic обобщение». Он позволяет нам расшифровывать незнакомые предложения, создавать оригинальные ответы и понимать скрытые значения слов и грамматических правил. Достижение композиционности долгое время оставалось сложной задачей для разработчиков ИИ, поскольку традиционные нейронные сети с трудом имитируют этот фундаментальный аспект человеческого познания.

Хотя современные модели генеративного ИИ, такие как GPT-3 и GPT-4 от OpenAI, могут в некоторой степени имитировать композиционность, они часто не справляются с определенными задачами, не сумев по-настоящему понять смысл и намерение, стоящие за генерируемыми предложениями. Однако недавнее исследование, опубликованное в журнале Nature, предполагает, что уникальный протокол обучения, ориентированный на то, как обучаются нейронные сети, может стать ключом к решению этой проблемы.

Перестройка процесса обучения

Авторы исследования применили иной подход к обучению ИИ, избежав необходимости создания совершенно новых архитектур ИИ. Вместо этого они начали со стандартной модели трансформера, той же базовой архитектуры, что используется в ChatGPT и Bard от Google, но без предварительного обучения на текстовых данных. Ключевое нововведение заключалось в самом режиме обучения.

Исследователи разработали набор заданий, включающих вымышленный язык, состоящий из бессмысленных слов, таких как «dax», «lug», «kiki», «fep» и «blicket». Эти слова были связаны с наборами цветных точек, причем некоторые слова напрямую представляли определенные цвета точек, а другие обозначали функции, изменяющие выходные значения точек. Например, «dax» представляло собой красную точку, а «fep» — функцию, которая в сочетании с «dax» или другими символическими словами умножала соответствующее значение точки на три. Важно отметить, что ИИ не получал никакой информации об этих ассоциациях; исследователи просто предоставляли примеры бессмысленных предложений вместе с соответствующими конфигурациями точек.

Искусственный интеллект: достижение понимания, подобного человеческому

В процессе обучения модель ИИ постепенно научилась давать связные ответы, придерживаясь подразумеваемых правил бессмысленного языка. Даже при столкновении с новыми сочетаниями слов ИИ продемонстрировал свою способность «понимать» придуманные правила языка и применять их к ранее невиданным фразам. Это замечательное достижение намекнуло на потенциал ИИ к обобщению, что является важным шагом на пути к человеческому мышлению.

Для оценки производительности ИИ исследователи сравнили его с результатами участников-людей. В некоторых случаях обученный ИИ реагировал со 100-процентной точностью, превосходя людей, которые достигли точности примерно в 81 процент. Даже когда ИИ допускал ошибки, они отражали ошибки, часто совершаемые людьми, что подчеркивает его способность к человеческому мышлению.

Особенно примечательно то, что такие впечатляющие результаты были достигнуты с помощью относительно небольшой модели трансформера, а не с помощью масштабного ИИ, обученного на огромных массивах данных. Этот вывод предполагает, что вместо того, чтобы перегружать модели машинного обучения бесконечным количеством данных, более целенаправленный подход, подобный специализированному курсу лингвистики или алгебры, может привести к существенному улучшению возможностей ИИ.

Последствия и направления дальнейших исследований

Хотя этот новый протокол обучения демонстрирует многообещающие результаты, важно признать его ограничения. Модель ИИ преуспела в конкретных задачах, связанных с распознаванием образов в искусственно созданном языке, но испытывала трудности при столкновении с совершенно новыми задачами или непривычными формами обобщения. Следовательно, крайне важно понимать, что достижение ограниченного обобщения в ИИ является значительным шагом, но не дотягивает до конечной цели искусственного общего интеллекта.

Армандо Солар-Лезама, специалист по информатике из Массачусетского технологического института, отмечает, что это исследование может открыть новые пути для улучшения ИИ. Сосредоточившись на обучении моделей эффективному рассуждению, даже в синтетических задачах, мы можем найти способы расширить возможности ИИ за пределы существующих ограничений. Однако масштабирование этого нового протокола обучения может представлять собой проблемы, которые необходимо решить.

Помимо практического применения в области ИИ, данное исследование может также пролить свет на внутренние механизмы работы нейронных сетей и их возникающие способности. Понимание этих процессов может способствовать минимизации ошибок в системах ИИ и улучшить наше понимание человеческого познания.