Les chercheurs mettent au point une avancée majeure en apprentissage automatique efficace pour les équations complexes

Des scientifiques de l'Université de Cambridge et de l'Université Cornell ont fait des progrès significatifs dans le domaine de l'apprentissage automatique, découvrant une méthode pour construire des modèles fiables capables de comprendre des équations complexes dans des scénarios réels, tout en utilisant beaucoup moins de données d'entraînement que ce qui est conventionnellement requis. 

Leurs résultats, détaillés dans les Actes de l'Académie nationale des sciences, ont des implications profondes pour une large gamme d'applications, y compris l'ingénierie et la modélisation climatique, en réduisant potentiellement le temps et le coût associés à l'entraînement des modèles d'apprentissage automatique.

Un changement de paradigme dans les exigences en matière de données

Traditionnellement, les modèles d'apprentissage automatique exigent des volumes substantiels de données d'entraînement pour atteindre une précision. Le processus implique souvent l'annotation humaine d'ensembles de données étendus. Cependant, cette approche est non seulement chronophage, mais aussi coûteuse. Le Dr Nicolas Boullé, premier auteur de l'étude et affilié à l'Institut Isaac Newton pour les sciences mathématiques, a exprimé l'intérêt de l'équipe à explorer les données minimales nécessaires pour entraîner efficacement des modèles sans compromettre la fiabilité.

Bien que certains chercheurs aient précédemment démontré la capacité d'entraîner des modèles d'apprentissage automatique avec des données limitées, les mécanismes sous-jacents sont restés largement inexpliqués. Boullé et ses collaborateurs, Diana Halikias et Alex Townsend de l'Université Cornell, ont concentré leur enquête sur une classe spécifique d'équations : les équations aux dérivées partielles (EDP).

EDP : Les blocs de construction de la physique

Les équations aux dérivées partielles jouent un rôle fondamental dans l'explication des lois de la physique régissant l'évolution des phénomènes naturels dans l'espace et le temps. Elles offrent des perspectives sur des phénomènes divers, y compris le comportement de la diffusion de la chaleur dans un bloc de glace. Les EDP, caractérisées par leur relative simplicité, ont servi de système modèle pour les chercheurs afin d'explorer pourquoi les techniques d'IA ont été remarquablement réussies dans les domaines liés à la physique.

L'équipe de recherche a découvert que les EDP modélisant la diffusion possèdent une structure propice à la conception de modèles d'IA efficaces. En intégrant des principes physiques connus dans l'ensemble de données d'entraînement, ils ont pu améliorer considérablement la précision et les performances. Cette approche a permis la construction d'un algorithme efficace capable de prédire les solutions aux EDP dans diverses conditions.

Garanties mathématiques et modèles efficaces

Les chercheurs ont exploité les interactions à courte et longue portée inhérentes aux EDP pour créer des modèles avec des garanties mathématiques. Cela leur a permis de déterminer avec précision la quantité minimale de données d'entraînement requise pour produire des modèles robustes. De manière surprenante, ils ont découvert que, en particulier dans le domaine de la physique, même un ensemble de données limité pouvait donner des résultats fiables, grâce à la structure mathématique inhérente de ces équations.

Les scientifiques estiment que leurs techniques ont le potentiel de démystifier la nature de « boîte noire » de nombreux modèles d'apprentissage automatique, les rendant plus interprétables par les humains. Bien que cette découverte machine soit significative, les chercheurs reconnaissent que des recherches supplémentaires sont nécessaires pour s'assurer que les modèles apprennent les bons principes. Ils soulignent les perspectives passionnantes que présente l'intersection des mathématiques, de la physique et de l'IA, avec de nombreuses questions intrigantes à explorer.