Le Llama de Meta a été multiplié par 10 depuis 2023 - Mise à jour sur l’adoption de Llama

Résumé des points clés

• Les modèles Llama ont enregistré à ce jour environ 350 millions de téléchargements, soit une hausse de plus de 10x par rapport à la même période l’an dernier. Rien que sur le mois écoulé, ils ont été téléchargés plus de 20 millions de fois, ce qui fait de Llama une famille majeure de modèles open source
• Le volume d’utilisation en tokens de Llama chez les principaux partenaires fournisseurs de services cloud a plus que doublé en seulement trois mois, de mai à juillet 2024, après la sortie de Llama 3.1
• Chez certains grands fournisseurs de services cloud, l’usage mensuel de Llama (en volume de tokens) a été multiplié par 10 entre janvier et juillet 2024

Croissance de l’écosystème après la sortie de Llama 3.1

• Avec la sortie de Llama 3.1, la longueur de contexte a été étendue à 128K, la prise en charge couvre 8 langues, et Llama 3.1 405B a introduit le premier modèle d’IA open source de niveau frontier
• Le succès de Llama en tant que modèle open source stimule l’innovation dans des entreprises de toutes tailles. Des startups aux grands groupes, elles utilisent Llama pour construire des solutions on-premise ou via des services cloud
• En rendant les modèles Llama publiquement disponibles, un écosystème IA dynamique et diversifié a émergé, offrant aux développeurs plus de choix et de capacités que jamais
• En 18 mois, Llama est passé d’un modèle de base unique à un système de référence complet pour les développeurs. Llama 3.1 inclut des outils de sécurité et de sûreté qui aident les développeurs à créer facilement des agents personnalisés

Vision et engagement de Meta en faveur de l’open source

• Avec la sortie de Llama 3.1, Mark Zuckerberg a partagé une lettre ouverte sur les avantages de l’IA open source, consolidant encore sa vision et son engagement en faveur d’une approche ouverte
• L’open source est inscrit dans l’ADN de Meta, et Llama incarne et renforce l’engagement de l’entreprise à partager les résultats de la recherche de manière responsable
• L’open source favorise un écosystème plus compétitif, bénéfique pour les consommateurs, les entreprises (y compris Meta) et, au final, pour le monde

Une montée en puissance comme modèle open source de référence

• L’écosystème Llama connaît une croissance rapide. Les modèles Llama totalisent aujourd’hui environ 350 millions de téléchargements sur Hugging Face, soit plus de 10x le niveau d’il y a environ un an
• Rien que le mois dernier, ils ont été téléchargés plus de 20 millions de fois sur Hugging Face. Ce n’est qu’une partie de l’histoire du succès de Llama, car les téléchargements passent aussi par les services des partenaires
• L’usage de Llama hébergé par les principaux partenaires cloud (en volume de tokens) a plus que doublé de mai à juillet 2024 après la sortie de Llama 3.1

Expansion des partenariats et forte hausse de la demande

• Avec Llama 3.1, le nombre de partenaires du programme d’accès anticipé a été multiplié par 5, et davantage d’efforts seront déployés pour répondre à la forte hausse de la demande des partenaires
• De nombreuses entreprises comme Wipro, Cerebras et Lambda espèrent devenir à l’avenir des partenaires d’intégration LEAP et Llama

Divers cas d’usage de Llama

• Accenture : utilise Llama 3.1 pour construire un LLM personnalisé destiné au reporting ESG, avec une amélioration attendue de 70 % de la productivité et de 20 à 30 % de la qualité par rapport aux méthodes existantes
• AT&T : améliore la gestion client grâce au fine-tuning des modèles Llama. L’introduction de la GenAI a amélioré d’environ 33 % les réponses de recherche liées à la gestion client chez AT&T, tout en réduisant les coûts et les temps de réponse
• DoorDash : utilise Llama pour simplifier et accélérer les tâches quotidiennes des ingénieurs logiciels
• Goldman Sachs : via la plateforme GS AI, permet aux ingénieurs d’exploiter les modèles Llama de manière sûre et responsable pour divers cas d’usage
• Niantic : a intégré Llama pour donner vie au monde virtuel du jeu AR Peridot. La génération de réponses en temps réel permet des interactions dynamiques et uniques
• Nomura : utilise Llama sur AWS pour accélérer l’innovation et obtenir des avantages clés comme la transparence, la réduction des biais et de solides performances
• Shopify : poursuit l’expérimentation de modèles open source de premier plan, dont Llama basé sur LLaVA. L’entreprise exécute actuellement entre 40 et 60 millions d’inférences LLaVA par jour pour prendre en charge les métadonnées produit et les tâches d’amélioration
• Zoom : alimente AI Companion à l’aide de ses propres modèles ainsi que de LLM fermés et open source, dont Llama. Les utilisateurs bénéficient de résumés de réunion, d’enregistrements intelligents, de suivis, etc.

Un système ouvert en action

• Llama joue un rôle de premier plan en matière d’ouverture, de possibilité de modification et de coût-efficacité
• L’entreprise reste engagée à construire en open source afin d’étendre les bénéfices de l’IA à tous
• Les LLM peuvent aider à répondre à des questions difficiles, à accroître la productivité et à stimuler la créativité. À mesure que l’écosystème Llama s’étend, les capacités et l’accessibilité de Meta AI progressent elles aussi

L’avis de GN⁺

• La croissance rapide et l’adoption de Llama montrent que la demande pour les modèles d’IA open source est en forte hausse. Les entreprises recherchent des modèles d’IA à la fois économiques et de haute qualité, et Llama répond à cette attente
• Cela dit, l’usage de modèles open source impose aussi de prendre en compte des enjeux de biais, d’éthique et de sécurité. Les entreprises doivent mettre en place une gouvernance adaptée et définir des lignes directrices pour l’utilisation des modèles
• Sur un marché des modèles d’IA très concurrentiel, l’approche ouverte de Llama prouve qu’elle n’est pas inférieure aux modèles commerciaux en matière de qualité
• L’adoption rapide et la forte popularité de Llama confirment une nouvelle fois la valeur et l’influence de l’open source dans la communauté IA et développeur. Cela pourrait avoir un impact majeur sur l’orientation future du développement de l’IA
• À l’avenir, il est probable que des modèles open source comme Llama et des modèles basés sur API évoluent de manière complémentaire. Il sera essentiel pour les entreprises de choisir les modèles adaptés à leurs besoins et de développer les capacités nécessaires pour les exploiter efficacement