La plateforme de médias sociaux chinoise RedNote, également connue sous le nom de Xiaohongshu en Chine, a publié vendredi dernier son premier modèle de langage à grande échelle (LLM) open source. Ce nouveau modèle, baptisé « dots.llm1 », contient au total 142 milliards de paramètres, mais seuls 14 milliards seraient activés pour chaque réponse.
Selon le South China Morning Post, média asiatique, cette architecture pourrait aider le LLM à trouver un équilibre entre performance et rentabilité face à des concurrents comme ChatGPT , tout en réduisant les coûts d'entraînement et d'inférence.
Le laboratoire interne Humane Intelligence Lab de RedNote a développé le LLM, ou « hi lab », issu de l'ancienne équipe d'intelligence artificielle de l'entreprise. RedNote affirme que son modèle surpasse les autres systèmes open source en matière de compréhension du chinois, notamment Qwen2.5-72B-Instruct d'Alibaba et DeepSeek-V3.
Aucune donnée synthétique n'a été utilisée lors du pré-entraînement
RedNote a publié un communiqué pour expliquer les critères d'entraînement de son modèle LLM. Contrairement à certains autres modèles du marché, l'entreprise a affirmé qu'aucune donnée synthétique n'avait été utilisée lors du pré-entraînement.
Les développeurs ont insisté sur le fait que dots.llm1 avait été entraîné sur 11,2 billions de jetons de données non synthétiques, une approche que RedNote juge indispensable pour que le modèle atteigne une fidélité plus élevée et des résultats plus fiables.
L'entreprise a également commencé à tester sur sa plateforme un assistant de recherche IA nommé Diandian. Accessible via une boîte de dialogue intégrée à l'application, Diandian propose une fonction de « recherche approfondie » et repose sur un modèle interne de RedNote. Cependant, l'entreprise n'a pas encore confirmé si cet assistant est basé sur dots.llm1.
RedNote étend sa portée mondiale après le lancement de LLM
L'annonce de RedNote concernant son intelligence artificielle open source est intervenue la veille de l'ouverture de son nouveau bureau à Hong Kong, le premier hors de Chine continentale. Ce nouveau site est situé à Times Square, quartier d'affaires de Causeway Bay.
« La présence de RedNote améliorera les interactions entre les créateurs de contenu locaux, les marques et les organisations, et favorisera les échanges culturels entre l'Orient et l'Occident ainsi que le développement du marketing de contenu entre Hong Kong, la Chine continentale et les marchés mondiaux », a déclaré Alpha Lau, directeur général de la promotion des investissements d'InvestHK, aux journalistes lors d'une conférence de presse samedi dernier.
RedNote, dont le siège social est à Shanghai, est l'une des plateformes de médias sociaux les plus utilisées en Chine, avec 300 millions d'utilisateurs actifs mensuels. Selon les responsables de l'entreprise, cette expansion s'inscrit dans le cadre d'une stratégie visant à étendre la présence de RedNote à l'international, en prévision d'une éventuelle de TikTok aux États-Unis.
Les entreprises chinoises spécialisées dans l'IA optent pour la technologie open source
RedNote rejoint la liste des entreprises chinoises qui s'orientent vers une IA plus open source pour leurs grands modèles de langage. De plus en plus d'entreprises tentent de reproduire le succès de modèles performants et peu coûteux comme ceux proposés par la start-up DeepSeek.
Plus tôt cette année, DeepSeek a lancé son modèle open-source R1, qui a dominé les téléchargements sur plusieurs boutiques d'applications pour avoir fourni d' tron résultats à un coût bien inférieur à celui des LLM occidentaux.
Les géants technologiques Alibaba, Tencent et ByteDance ont investi massivement dans l'infrastructure d'IA. Alibaba, par exemple, a lancé plusieurs nouveaux modèles linguistiques (LLM) dans le cadre de sa gamme Qwen, notamment les derniers Qwen3 . Ces derniers prennent en charge plus de 100 langages et permettent la récupération de code et de langage.
Alibaba a déclaré que les modèles Qwen3 ont amélioré l'efficacité et les performances des systèmes d'intégration et de réordonnancement. Plus tôt cette année, Wang Jian, fondateur d'Alibaba Cloud, avait affirmé que les progrès réalisés dans le domaine des grands modèles de langage dépassaient les attentes et continueraient de le faire.
Wang a cité des startups comme DeepSeek en exemple de la manière dont de jeunes innovateurs résolvent des problèmes grâce à des approches créatives.
Selon Wang, ZEROSEARCH d'Alibaba illustre comment l'innovation peut réduire considérablement les coûts de développement. Présenté en mai, ZEROSEARCH est conçu pour simuler le comportement d'un moteur de recherche pendant l'entraînement sans effectuer d'appels API réels. L'entreprise affirme que cela permet de réduire les coûts d'entraînement jusqu'à 90 %.
