Des chercheurs chinois réalisent une percée dans la création de « véritables scientifiques en IA »

Des chercheurs chinois de l'Université de Pékin et de l'Institut de technologie de l'Est (EIT) ont récemment dévoilé un cadre novateur conçu pour entraîner des modèles d'apprentissage automatique grâce à des connaissances préalables, rompant ainsi avec l'approche conventionnelle basée uniquement sur les données. Ces chercheurs soulignent l'impact transformateur des modèles d'apprentissage profond sur la recherche scientifique, en insistant sur leur capacité àtracdes relations significatives à partir de vastes ensembles de données. Ce cadre novateur remédie aux limitations des modèles existants, tels que Sora d'OpenAI, qui peine à simuler avec précision certaines interactions du monde réel faute d'une compréhension suffisante des lois physiques comme la gravité.

Les modèles d'apprentissage profond, reconnus pour avoir révolutionné la recherche scientifique, s'appuient principalement sur de vastes ensembles de données pour leur entraînement, plutôt que d'intégrer des connaissances préalables telles que les lois physiques ou la logiquematic. Cependant, des chercheurs de l'Université de Pékin et de l'Institut de technologie de l'Est proposent un changement de paradigme. L'équipe suggère que la combinaison des données et des connaissances préalables lors de l'entraînement pourrait permettre de créer des modèles d'apprentissage automatique plus précis et mieux informés.

Le défi consiste à déterminer quels aspects des connaissances préalables, notamment les relations fonctionnelles, les équations et la logique, doivent être intégrés pour faciliter un meilleur pré-apprentissage sans provoquer l'effondrement du modèle. Le professeur Chen Yuntian souligne que surcharger les modèles de connaissances et de règles conduit souvent à des difficultés, voire à des échecs, pour les modèles d'apprentissage automatique informés actuels.

Un cadre pour évaluer l'importance des règles

Pour surmonter cette difficulté, les chercheurs ont développé un cadre d'analyse qui évalue la pertinence des règles et détermine les combinaisons optimales pour améliorer la capacité prédictive des modèles d'apprentissage profond. Xu Hao, premier auteur et chercheur à l'Université de Pékin, explique que ce cadre calcule « l'importance des règles » en analysant comment des règles ou des combinaisons spécifiques influencent la précision prédictive d'un modèle.

Cette approche vise à équilibrer l'influence des données et des connaissances, améliorant ainsi l'efficacité et les capacités d'inférence des modèles d'apprentissage profond. L'équipe envisage que l'intégration de connaissances humaines dans les modèles d'IA pourrait considérablement améliorer leur capacité à refléter la réalité, les rendant plus applicables dans les domaines scientifiques et techniques.

Les chercheurs ont testé leur cadre conceptuel en optimisant un modèle de résolution d'équations multivariées et un autre de prédiction des résultats d'une expérience de chimie. Chen suggère qu'à court terme, ce cadre trouvera ses applications les plus utiles dans les modèles scientifiques où la cohérence avec les lois de la physique est essentielle pour éviter d'éventuelles conséquences néfastes.

Malgré des résultats prometteurs, l'équipe reconnaît une difficulté : à mesure que le modèle s'enrichit de données, les règles générales prennent le pas sur les règles locales spécifiques. Or, cette observation n'apporte pas d'avantages significatifs dans des domaines comme la biologie et la chimie, où les règles générales font souvent défaut.

Vers des scientifiques en IA autonomes

Pour l'avenir, l'équipe de recherche ambitionne de perfectionner son cadre de travail, permettant ainsi à l'IA d'dentses connaissances et ses règles directement à partir des données, sans intervention humaine. L'objectif ultime est de créer une boucle fermée, transformant le modèle en un véritable expert en IA. Chen perçoit cette évolution comme une avancée majeure vers l'autonomie de l'IA, et l'équipe travaille activement au développement d'un outil open source destiné aux développeurs d'IA afin de faciliter cette transition.