Chargement...

Llama 3 devrait être déployé le mois prochain

Dans cet article :

  • Le modèle d'IA phare de Meta, Llama 3, devrait être publié en mai.
  • Llama 3 est peut-être le modèle open source le plus avancé du marché.
  • Après Llama 2, le chouchou de l'open source, Llama 3, devrait également attirer l'attention du marché.

Meta a finalement confirmé la sortie de Llama 3. Lors d'un événement à Londres, Meta a fourni quelques détails et le calendrier de sortie de son modèle d'IA avancé. Les dirigeants de Meta ont déclaré qu'ils publieraient bientôt la prochaine version de leur grand modèle de langage open source, comme le rapporte Techcrunch.

Il est prévu que Meta publie d'abord une petite version de Llama 3, et qu'un modèle open source complet soit publié par la suite, a affirmé The Information. Mais pourquoi une version plus petite en premier lieu ? Nous pensons que l'affirmation The Information est logique, car elle fournira l'occasion de créer un certain battage médiatique sur les capacités du modèle complet.

Ce que l'on sait de Llama 3 et de sa sortie

La sortie de Llama 3 remettra en question la domination du géant du LLM GPT 4, car il devrait être le LLM le plus avancé dans la catégorie open source et sera disponible dans différents modèles comme Llama 2. Nick Clegg, dent des affaires mondiales de Meta , a déclaré lors de l'événement, 

"Au cours du prochain mois, en fait moins et, espérons-le, dans un laps de temps très court, nous espérons commencer à déployer notre nouvelle suite de modèles de fondations de nouvelle génération, Llama 3."

La déclaration de Clegg fait clairement allusion à la disponibilité de différentes versions de Llama 3, comme il l'a ajouté :

"Il y aura un certain nombre de modèles différents avec des capacités différentes et des polyvalences [sorties] au cours de cette année, et cela commencera très bientôt."

source : Techcrunch

Parlez de la revendication de The Information ; ça semble légitime, n'est-ce pas ? Alors maintenant, ce que nous savons de Llama 3, c'est qu'il sera disponible en différentes versions et tailles, du petit au très grand, des modèles entièrement performants allant des modèles comme Haiku, Claude et Gemini Nano aux géants comme GPT 4. Nous ne le savons pas. Nous n'en savons pas plus, mais nous savons avec certitude qu'il sera open source, comme Llama 2 et Multimodel également, avec des capacités pour comprendre les textes ainsi que les visuels.  

Critiques comparant l'open source aux modèles fermés

Llama est un modèle open source, mais il n'est pas suspendu en l'air. Nous savons qu'il existe un tron soutien de Meta et de ses ressources, et Meta souhaite tirer parti de développeurs et de chercheurs tiers. Mais malgré tout le favoritisme envers les modèles open source, certains critiques restent sceptiques quant à leur compétence par rapport aux modèles privés proches comme GPT 4. Ils ont leurs propres raisons pour se prononcer sur la question.  

L'argument commence par les ressources nécessaires pour établir des ensembles de données géants pour les modèles de formation, affirmant que les modèles comme ChatGPT ont d'énormes structures d'ensembles de données avec des données marquées par des humains. Bien sûr, aucune machine ne peut encore rivaliser avec les capacités humaines, mais en sommes-nous en train de nous rapprocher ? cela pourrait être le cas ou non au cours des deux prochaines années. Une autre raison est la disponibilité. Bien que ce soit un argument valable, nous avons vu dans l’histoire de la technologie que les petites startups battent parfois les entreprises géantes sur certaines fonctionnalités clés avec leurs solutions prêtes à l’emploi. Mais la réalité est qu’OpenAI abrite des ingénieurs dont les salaires dépassent le million de dollars.

Un autre point qu'ils font valoir est le cadre d'équipe, l'argument est qu'une approche décentralisée open source ne peut pas égaler les réalisations des équipes centralisées. L’infrastructure du cloud public n’est pas non plus à la hauteur de celles dont se vantent OpenAI et Google, ce qui empêche également les équipes open source d’apporter des améliorations incrémentielles à un rythme rapide. Au total, ce sont suffisamment de raisons qui vont à l’encontre des systèmes open source. Mais, comme nous le savons, bien que Llama soit open source, il y a Meta derrière lui, qui le soutient en allouant d'énormes ressources.  

Méta-investissement dans les GPU

En janvier dernier, Mark Zuckerberg a déclaré qu'ils construisaient une infrastructure de calcul massive avec de nouveaux 350 000 GPU H100, et si vous incluez d'autres GPU, alors près de 600 000 H100 seraient embarqués. Mark a dit cela dans une vidéo. Ce sera une puissance de calcul bien supérieure à celle d'OpenAI, qu'il a utilisée pour former GPT 4. L'investissement se chiffre en milliards de dollars pour la seule IA.

Llama 3 alimentera l' assistant Meta AI et sera également intégré à une gamme de produits dans toute la gamme d'applications de l'entreprise. Llama 3 va-t-il contester la domination de GPT 4 ? En regardant les trac de son prédécesseur, Llama 2, était l'épine dorsale des LLM open source les plus avancés, comme Mistral de France et quelques autres, qui ont été construits en le peaufinant et en l'optimisant.

Certains d'entre eux ont même dépassé GPT 3.5 en termes de performances. Nous pouvons donc supposer que Llama 3, avec ses capacités avancées, sera utilisé pour de nouveaux produits LLM qui égaleront ou dépasseront les performances de GPT 4 avec des coûts de formation partagés et réduits, permettant à davantage de personnes de les rejoindre. dans. 

La concurrence va être très rude, avec la communauté Open Source essayant d'innover sur LLama 3 et proposant des solutions indigènes comme avant, et OpenAI publiant également GPT 5 dans les prochains mois. Nous sommes impressionnés par la période intéressante qui nous attend.

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Les investisseurs remplacent leurs positions Nvidia par d'autres actions
cryptopolite
Abonnez-vous à CryptoPolitan