Ученые обнаружили прорыв в эффективном машинном обучении для сложных уравнений

Ученые из Кембриджского и Корнеллского университетов сделали значительный шаг вперед в области машинного обучения, открыв метод создания надежных моделей, способных понимать сложные уравнения в реальных сценариях, используя значительно меньше обучающих данных, чем требуется по традиционным стандартам. 

Их результаты, подробно описанные в Труд Национальной академии наук, имеют глубокие последствия для широкого спектра применений, включая инженерию и климатическое моделирование, потенциально сокращая время и затраты, связанные с обучением моделей машинного обучения.

Парадигмальный сдвиг в требованиях к данным

Традиционно модели машинного обучения требуют значительных объемов обучающих данных для достижения точности. Этот процесс часто включает ручную аннотацию обширных наборов данных. Однако такой подход не только трудоемок, но и дорог. Доктор Николя Булле, первый автор исследования и сотрудник Института математических наук имени Исаака Ньютона, выразил интерес команды к изучению минимального количества данных, необходимого для эффективного обучения моделей без ущерба для надежности.

Хотя некоторые исследователи ранее демонстрировали возможность обучения моделей машинного обучения на ограниченных данных, лежащие в основе механизмы оставались в значительной степени необъясненными. Булле и его соавторы, Диана Халикиас и Алекс Таунсенд из Корнеллского университета, сосредоточили свое исследование на конкретном классе уравнений — уравнениях в частных производных (УЧП).

УЧП: строительные блоки физики

Частные дифференциальные уравнения играют фундаментальную роль в объяснении законов физики, управляющих эволюцией природных явлений в пространстве и времени. Они дают представление о разнообразных явлениях, включая поведение диффузии тепла в блоке льда. Относительная простота уравнений в частных производных (УрЧП) послужила модельной системой для исследователей, чтобы понять, почему методы ИИ добились такого выдающегося успеха в областях, связанных с физикой.

Исследовательская команда выявила, что уравнения в частных производных (УЧП), моделирующие диффузию, обладают структурой, способствующей созданию эффективных моделей искусственного интеллекта. Включая известные принципы физики в обучающую выборку, они смогли значительно повысить точность и производительность. Этот подход позволил разработать эффективный алгоритм, способный предсказывать решения УЧП в различных условиях.

Математические гарантии и эффективные модели

Исследователи использовали краткосрочные и долгосрочные взаимодействия, присущие УЧП, для создания моделей с математическими гарантиями. Это позволило им точно определить минимальное количество обучающих данных, необходимых для создания надежных моделей. Удивительно, но они обнаружили, что, особенно в области физики, даже ограниченный набор данных может дать надежные результаты благодаря присущей этим уравнениям математической структуре.

Ученые считают, что их методы обладают потенциалом для демистификации «черного ящика» многих моделей машинного обучения, делая их более интерпретируемыми для человека. Хотя это открытие машин имеет большое значение, исследователи признают, что необходимы дальнейшие исследования, чтобы убедиться, что модели изучают правильные принципы. Они подчеркивают захватывающие перспективы, которые представляет пересечение математики, физики и ИИ, с множеством интригующих вопросов для изучения.