- Le modèle d'IA phare de Meta, Llama 3, devrait être lancé en mai.
- Llama 3 pourrait bien être le modèle open source le plus avancé du marché.
- Après Llama 2, l'idole de l'open source, Llama 3 est également attendu pour capter l'attention du marché.
Meta a enfin confirmé la sortie de Llama 3. Lors d'un événement à Londres, Meta a fourni quelques détails et le calendrier de sortie pour leur modèle d'IA avancé. Les dirigeants de Meta ont déclaré qu'ils allaient bientôt publier la prochaine version de leur modèle de langage large open source, selon Techcrunch.
Il est attendu que Meta publie d'abord une petite version de Llama 3, et qu'un modèle open source complet soit publié par la suite, affirme The Information. Mais pourquoi une version plus petite en premier ? Nous pensons que l'affirmation de The Information est logique, car cela offrira une opportunité de créer un certain battage médiatique autour des capacités du modèle complet.
Ce que nous savons sur Llama 3 et sa sortie
La sortie de Llama 3 va défier la domination du géant des LLM GPT 4, car il est attendu comme étant le LLM le plus avancé dans la catégorie open source et sera disponible dans différents modèles comme Llama 2. Nick Clegg, président des affaires mondiales de Meta, a déclaré lors de l'événement,
« Dans le mois qui vient, en fait moins et espérons-le dans une période très courte, nous espérons commencer à déployer notre nouvelle suite de modèles de fondation de nouvelle génération, Llama 3. »
La déclaration de Clegg laisse clairement entendre la disponibilité de différentes versions de Llama 3, comme il l'a ajouté plus loin,
« Il y aura un certain nombre de modèles différents avec des capacités et des polyvalences différentes [publiés] au cours de cette année, en commençant vraiment très bientôt. »
source : Techcrunch
Parlons de l'affirmation de The Information ; cela semble légitime, n'est-ce pas ? Donc, maintenant, ce que nous savons sur Llama 3, c'est qu'il sera disponible en différentes versions et tailles, de petits modèles très capables aux modèles de grande envergure, allant de Haiku, Claude et Gemini Nano aux géants comme GPT 4. Nous ne savons pas plus, mais nous savons certainement qu'il sera open source, comme Llama 2 et Multimodel, avec la capacité de comprendre les textes ainsi que les visuels.
Critiques comparant l'open source aux modèles fermés
Llama est un modèle open source, mais il ne flotte pas dans les airs. Nous savons qu'il bénéficie d'un fort soutien de Meta et de ses ressources, et Meta veut tirer parti des développeurs et chercheurs tiers. Mais, malgré tout le favoritisme envers les modèles open source, certains critiques restent sceptiques quant à leur compétence par rapport aux modèles privés fermés comme GPT 4. Ils ont leurs propres raisons pour leurs points de vue sur la question.
L'argument commence par les ressources nécessaires pour établir d'énormes ensembles de données pour l'entraînement des modèles, affirmant que des modèles comme ChatGPT ont d'énormes ensembles de données structurés avec des données étiquetées par des humains. Bien sûr, aucune machine ne peut encore égaler les capacités humaines, mais nous en approchons-nous ? Peut-être ou peut-être pas pour les deux prochaines années. Une autre raison est la disponibilité. Bien que ce soit un point valide, nous avons vu dans l'histoire de la technologie que de petites startups battent parfois de grandes corporations sur certaines fonctionnalités clés avec leurs solutions innovantes. Mais la réalité est qu'OpenAI abrite des ingénieurs dont les salaires dépassent un million de dollars.
Un autre point qu'ils soulignent est le cadre d'équipe, l'argument étant qu'une approche décentralisée open source ne peut pas égaler les accomplissements des équipes centralisées. L'infrastructure de cloud public n'est également pas à la hauteur de celles dont se vantent OpenAI et Google, ce qui entrave également les équipes open source à faire des améliorations incrémentales à un rythme rapide. Ensemble, ce sont des raisons suffisantes qui vont à l'encontre des systèmes open source. Mais, comme nous le savons, malgré le fait que Llama soit open source, il y a Meta derrière lui, le soutenant en allouant des ressources énormes.
Meta investit dans des GPU
En janvier, Mark Zuckerberg a déclaré qu'ils construisaient une infrastructure de calcul massive avec de nouveaux 350 000 GPU H100, et si vous incluez d'autres GPU, alors presque 600 000 H100 seront à bord. Mark a dit cela dans une vidéo. Cela représentera beaucoup plus de puissance de calcul que celle d'OpenAI, qu'elle a utilisée pour entraîner GPT 4. L'investissement est de plusieurs milliards de dollars rien que pour l'IA.
Llama 3 alimentera l'assistant IA de Meta, et il sera également intégré dans une série de produits couvrant toute la gamme d'applications de l'entreprise. Llama 3 va-t-il défier la domination de GPT 4 ? En regardant le palmarès de son prédécesseur, Llama 2 était la colonne vertébrale des LLM open source les plus avancés, comme Mistral de France et quelques autres, qui ont été construits en le modifiant et en l'optimisant.
Certains ont même surpassé GPT 3.5 en performance, donc nous pouvons spéculer que Llama 3 avec ses capacités avancées sera utilisé pour de nouveaux produits LLM qui égaleront ou dépasseront les performances de GPT 4 avec des coûts d'entraînement partagés et réduits, rendant possible la participation de plus de personnes.
La compétition va être beaucoup plus rude, la communauté open source essayant d'innover sur Llama 3 et de proposer des solutions indigènes comme avant, et OpenAI publiant également GPT 5 dans les prochains mois. Nous sommes émerveillés par les temps intéressants à venir.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
