Près de la moitié du chiffre d’affaires T2 de Nvidia provient de 4 clients anonymes ayant chacun acheté pour plus de 3 milliards de dollars

• Alors que la compétition autour des investissements dans les data centers IA s’intensifie, 46 % du chiffre d’affaires trimestriel de Nvidia, soit environ 13,8 milliards de dollars sur 30 milliards, provient d’achats directs de 4 clients anonymes
• Chacun de ces clients a représenté plus de 10 % du chiffre d’affaires total, et tous les achats sont liés à la vente de puces pour data centers, le principal moteur de croissance de Nvidia
• Des puces IA comme la H200 servent non seulement à l’entraînement de grands modèles de langage comme GPT-4, mais aussi à la génération de réponses aux prompts de ChatGPT et Sora
• Le document réglementaire 10-Q montre qu’il y a eu des périodes où une part importante du chiffre d’affaires provenait d’un nombre limité de clients, et que cette concentration des revenus pourrait se poursuivre
• Jensen Huang a affirmé que la base de clients était « relativement diversifiée », mais à la même période l’an dernier, Nvidia n’avait aucun client direct représentant plus de 10 %, ce qui alimente encore les inquiétudes du marché sur la durabilité de la croissance

---

4 grands clients qui ont pesé sur le chiffre d’affaires du deuxième trimestre

• Nvidia a plus que doublé son chiffre d’affaires au deuxième trimestre, et une part importante de cette hausse provient d’un petit nombre de grands clients
• Selon le document réglementaire 10-Q, 4 clients anonymisés ont représenté 46 % des 30 milliards de dollars de chiffre d’affaires via des achats directs
  • Cela représente environ 13,8 milliards de dollars
  • Part des achats directs : {p:46}
  • Chaque client a représenté plus de 10 % du chiffre d’affaires total
  • Tous les achats sont liés à l’activité de vente de puces pour data centers
• À eux seuls, les revenus apportés par ces 4 clients dépassaient le chiffre d’affaires total de Nvidia à la même période un an plus tôt

Demande des data centers IA et candidats possibles parmi les clients anonymes

• Les noms des clients ne sont pas divulgués pour des raisons de concurrence
• Parmi les candidats évoqués pour ces grands clients IA anonymes figurent Amazon, Meta, Microsoft, Alphabet, OpenAI et Tesla
• On observe aussi la tendance d’entrepreneurs comme Elon Musk à accélérer la construction de data centers dans la ruée vers l’or de l’IA
  • Musk a publié une vidéo de l’intérieur de Cortex, un nouveau supercluster d’entraînement IA destiné à résoudre de vrais problèmes d’IA, au siège de Tesla à Austin

Où sont utilisées les puces Nvidia

• Parmi les produits phares de Nvidia figurent des puces IA comme la H200
• Ces puces sont nécessaires à l’entraînement de grands modèles de langage comme GPT-4 d’OpenAI
• Elles sont aussi utilisées pendant l’inférence, lorsque ChatGPT ou Sora génèrent des réponses à des prompts textuels

Les inquiétudes sur la durabilité alimentées par la concentration du chiffre d’affaires

• La dépendance à un petit nombre de très grands clients renforce les inquiétudes du marché sur la durée de la dynamique de croissance de Nvidia
• Certains investisseurs, comme Elliott Management et Citadel, se montrent sceptiques sur la pérennité de la croissance liée à l’IA générative
• L’industrie des semi-conducteurs est historiquement connue pour ses cycles de boom et de creux très marqués
• L’action Nvidia devait ouvrir en baisse jeudi, avec une sous-performance attendue par rapport à l’ensemble du marché actions

Ce que montre « Customer B » sur l’ampleur de la concentration

• Nvidia signale séparément le risque de concentration des clients dans la section « concentration of revenue » de son rapport trimestriel
• Il y a eu des périodes où une part importante du chiffre d’affaires provenait d’un nombre limité de clients, et cette tendance pourrait se poursuivre
• La rentabilité reste également très élevée
  • Nvidia a dégagé 5,60 dollars de bénéfice net pour chaque tranche de 10 dollars de chiffre d’affaires sur le premier semestre
  • Le bénéfice après impôts a presque quadruplé sur un an pour atteindre 31,5 milliards de dollars
• Le « Customer B » mentionné dans le document a représenté 11 % des 30 milliards de dollars de chiffre d’affaires via des achats directs
  • C’est davantage que le chiffre d’affaires de 2,9 milliards de dollars de l’activité gaming, la deuxième plus grande division de Nvidia
  • Customer B est resté sous le seuil des 10 % sur l’ensemble du premier semestre, ce qui suggère une forte hausse de ses dépenses au dernier trimestre
  • La même interprétation s’applique à « Customer C », puisque les chiffres fournis par Nvidia sont identiques

L’écart entre les propos de Jensen Huang et les chiffres publiés

• Sur Bloomberg TV, interrogé sur les sources de demande au-delà des hyperscalers comme Microsoft, Google et Amazon, Jensen Huang a déclaré que la base de clients était « relativement diversifiée aujourd’hui »
• Contrairement à cette affirmation fondée sur la diversité des catégories de clients, les propres chiffres de Nvidia montrent une dépendance accrue à certains très grands clients
• À la même période l’an dernier, Nvidia n’avait aucun client direct représentant plus de 10 % du chiffre d’affaires total ni au premier ni au deuxième trimestre
• Nvidia n’a pas immédiatement répondu à la demande de commentaire de Fortune

[GN⁺]

Avis sur Hacker News

• Selon Observer, il s’agirait de Microsoft, Meta, Google et Amazon.
  Parmi les autres gros acheteurs figurent Oracle, CoreWeave, Lambda, Tencent, Baidu, Alibaba, ByteDance, Tesla et xAI.
  https://observer.com/2024/06/nvidia-largest-ai-chip-customer...

  • Meta a explicitement mentionné ses investissements dans l’infrastructure et une hausse de plusieurs milliards de dollars de ses dépenses d’investissement d’ici fin 2025 lors de toutes ses publications de résultats cette année, ce qui permet de l’identifier comme l’un d’eux.
  • Apple semble utiliser ses propres semi-conducteurs.
    Cela a été une grosse réussite pour Apple, et je me demande si les autres entreprises FAANG pourront réellement suivre.
  • À une époque, plus de 50 % du chiffre d’affaires serveurs de NVIDIA provenait des hyperscalers, c’est-à-dire exactement les quatre entreprises citées plus haut.

• Honnêtement, ça ne me semble pas si mystérieux. Il doit y avoir tout au plus 5 ou 6 candidats.

  • Comme il existe des entreprises qui louent des accélérateurs, comme CoreWeave, cette analyse pourrait être moins simple qu’elle n’en a l’air.
  • Les noms ne sont pas divulgués, mais l’article indique aussi qu’Amazon, Meta, Microsoft, Alphabet, OpenAI et Tesla sont très probablement inclus.
  • Quels que soient ces quatre-là, il y a de fortes chances que les deux autres parmi les six candidats ne soient pas très loin derrière.

• Je trouve que Meta a été assez transparente sur ses achats de GPU. 350 000 H100, cela peut facilement représenter plusieurs milliards de dollars.
  https://blogs.nvidia.com/blog/meta-llama3-inference-accelera...

• Il y a deux questions auxquelles il faut répondre.

  1. Les chatbots peuvent-ils devenir beaucoup plus efficaces qu’aujourd’hui ? Les principaux acteurs semblent tous entrer dans une phase de stagnation, et la différenciation des modèles donne de plus en plus l’impression de se banaliser, ce qui n’augure rien de bon pour des ventes de GPU durables. S’ils ne résolvent pas le problème des hallucinations, il n’est même pas certain que cette génération d’IA puisse être déployée à grande échelle.
  2. Existe-t-il de vrais cas d’usage à grande échelle pour l’IA en dehors des LLM ? La conduite autonome semble être un axe important, mais on ne sait pas à quel point elle est prête pour la production. Des applications comme la découverte de médicaments sont aussi évoquées, mais il est difficile d’être sûr du volume de demande en GPU qu’elles peuvent réellement créer. Pour les générateurs d’images aussi, une fois passée la phase de nouveauté de la courbe d’adoption, il est apparu que beaucoup d’expériences n’étaient pas viables. Personnellement, il y a un an, mes amis généraient énormément d’images ; aujourd’hui, ils ne le font presque plus.
  • Si l’on entend par « en dehors des LLM » « en dehors du traitement de texte », la réponse est la robotique.
    L’apprentissage par imitation utilisant des LLM fonctionne étonnamment bien. Il faudra investir massivement dans les données et l’entraînement pour atteindre un stade pratique, mais les premiers signaux montrent qu’une nouvelle source de revenus pourrait s’ouvrir dans la robotique.
    La limite restante est encore la vitesse d’inférence. Pour qu’un robot intelligent agisse à une vitesse raisonnable, il faudrait, à mon avis, un traitement de prompt d’environ 10 000 tokens par seconde. Avec les puces Groq et Cerebras, on se rapproche de ce niveau sur des modèles 8B, mais ces modèles 8B sont trop stupides, surtout après fine-tuning sur des données de robotique, et les modèles 70B sont encore 20 fois trop lents pour être pratiques.

• Si la bulle de l’IA éclate, ça risque d’être laid.

  • Je ne parierais pas sur le fait que la demande de calcul à grande échelle ne restera pas élevée pendant encore un bon moment.
    Même si la bulle de l’IA se dégonfle, les gens utiliseront les GPU excédentaires à d’autres fins.
  • J’ai du mal à comprendre pourquoi cette ambiance revient sans cesse.
    L’IA et les LLM augmentent fortement mes capacités, et plus je m’adapte à cette nouvelle puissance, plus je les utilise au quotidien.
    L’action NVIDIA est peut-être surévaluée, mais l’IA elle-même est un outil qui donne du pouvoir. Il est difficile d’imaginer que son usage ne continuera pas à croître, et à mesure que les capacités s’étendent, on l’utilisera davantage. Corriger quelques bugs et rendre l’intégration plus fluide suffira déjà à multiplier largement les usages.
  • On a étrangement l’impression que 1999 est de retour.
  • C’est dommage de voir autant de ressources de calcul se créer sans qu’il semble y avoir de retombées vers le bas. Si plus tard elles sont bradées, ce serait amusant de bricoler toutes sortes de choses avec, comme hobby.
  • Je ne vois pas exactement comment ça éclaterait. ChatGPT et Google Assistant vont soudainement arrêter de fonctionner ?

• C’est un titre putaclic. L’article cite lui aussi les chiffres issus de l’interview de Jensen.
  https://youtu.be/NC5NZPrxbHk?si=8uQ4zdMU02f4X1Hc (1:41)
  Il parle des hyperscalers et de Meta. Dans le langage corporate, hyperscalers désigne AWS, GCP et Azure.

• C’est un assez bon indicateur de l’emballement spéculatif et illusoire autour de l’IA.

  • Ce n’est pas comme si l’IA n’avait produit aucun résultat ces trois dernières années ; elle n’en est qu’à ses débuts.
    Aujourd’hui, personne ne prend de parts de marché à NVIDIA. Groq et Tenstorrent sont très prometteuses, mais toutes deux sont encore des entreprises non cotées. Quand Groq entrera en Bourse, pendant un moment, des « experts » annonceront la fin de NVIDIA et l’action NVIDIA pourrait vaciller un peu. Ensuite, si la demande en GPU généralistes baisse à cause de ces entreprises et si ce segment est jugé suffisamment attractif, je pense que NVIDIA pourrait aussi vendre des accélérateurs IA dédiés.
  • Pour l’instant, je suis plutôt positif sur l’IA, mais cela ressemble quand même à une bulle des semi-conducteurs.
    NVIDIA semble être une entreprise qui sait bien surfer sur ce genre de bulles. Avant, c’était le minage de cryptomonnaies ; maintenant, c’est l’IA.
    Je ne serais pas surpris que l’un des principaux acheteurs soit un acteur spéculatif, par exemple un hedge fund dirigé par des gens issus de la crypto.

• Si je me souviens bien, les sociétés cotées doivent déclarer dans leur 10-K les clients qui représentent plus de 10 % de leur chiffre d’affaires, donc ces clients ne resteront pas longtemps des « baleines mystérieuses ».

• Il est aussi probable qu’un ou deux services de renseignement soient de gros acheteurs. Ils pourraient louer, mais cette approche pourrait avoir des implications de sécurité difficiles à accepter.