6 points par GN⁺ 2023-10-07 | 8 commentaires | Partager sur WhatsApp
  • Nvidia conserve un avantage dans le domaine de la GenAI grâce à des outils logiciels comme CUDA et cuDNN ainsi qu’à des bibliothèques optimisées
    • L’entreprise a construit autour de son matériel un puissant « fossé défensif (moat) » logiciel, qui rend la concurrence difficile pour les autres acteurs sur les marchés du HPC et de la GenAI
  • Avec la hausse de la demande en ressources de calcul pour la GenAI, le besoin en GPU augmente. Cela crée un écart entre l’offre et la demande, qu’essaient de combler des entreprises comme AMD
  • Pour rivaliser avec Nvidia, les GPU et accélérateurs d’autres fabricants doivent prendre en charge CUDA. AMD le permet via son outil de conversion HIP pour CUDA
  • La bibliothèque open source de machine learning PyTorch gagne en popularité comme alternative à TensorFlow pour créer des applications d’IA exploitant les GPU.
  • PyTorch isole les utilisateurs de l’architecture GPU sous-jacente, ce qui permet aux GPU d’AMD de franchir plus facilement le fossé de CUDA
  • La future superpuce Grace-Hopper de Nvidia, basée sur ARM avec 72 cœurs, suscite de fortes attentes pour ses performances potentielles en HPC et en GenAI
  • AMD prévoit de concurrencer la superpuce Grace-Hopper de Nvidia avec son futur processeur Instinct MI300A, qui alimentera le futur système El Capitan du Lawrence Livermore National Laboratory
  • La PDG d’AMD, Lisa Su, a affirmé leur ambition de devenir le leader du secteur des solutions d’inférence grâce à leurs choix d’architecture
  • Pour AMD et les autres fournisseurs de matériel, PyTorch a jeté un pont-levis au-dessus du fossé de CUDA
  • La bataille du matériel sur le marché de la GenAI se jouera sur la performance, la portabilité et la disponibilité

8 commentaires

 
slemma999 2023-10-08

Je lis toujours vos excellents articles avec plaisir, merci. Mais si je peux me permettre un avis personnel sur un point : ce n’est pas vraiment une traduction en coréen, et le fait de convertir en termes d’origine sino-coréenne rend le texte maladroit et difficile à comprendre. Des mots comme « pont-levis » ou « douve », par exemple, gagneraient à être laissés en anglais tels quels ou reformulés dans un coréen plus simple.

 
monovision 2023-10-09

« Moat » est un terme très utilisé, et « pont-levis » l’est moins couramment, mais si l’on consulte un dictionnaire ou d’autres références, cela semble être la traduction la plus juste.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

 
slemma999 2023-10-09

Je sais qu’on l’utilise aussi dans le domaine économique, et avec la complexification des technologies d’IA, je comprends qu’on emploie ce terme, mais ici j’ai l’impression qu’il est utilisé de manière inappropriée. Par exemple, écrire qu’en l’isolant de l’architecture CPU de base, cela « facilite le franchissement du fossé de CUDA » par les GPU d’AMD, donne à tort l’impression qu’il s’agit d’un problème techniquement simple à résoudre. En coréen, une formulation comme « disposer des capacités techniques pour dépasser le fossé de CUDA » serait plus appropriée ; telle qu’elle est écrite, cette phrase est assez maladroite, comme si une simple bibliothèque pouvait résoudre le problème. Au point qu’on en vient presque à se demander si « fossé » est vraiment le bon mot.

 
newtype 2023-10-11

« Fossé » est en fait un terme extrêmement approprié : il n’a pas vraiment de substitut évident, et il n’y a pas non plus de raison particulière de le remplacer… Vous venez peut-être seulement de le découvrir dans le dictionnaire et il vous paraît étrange, mais tous les autres lecteurs n’ont pas le même niveau de vocabulaire que vous. N’utilisons pas l’ignorance comme une arme.

 
botplaysdice 2023-10-11

Ça fait un peu mal. Mais j’espère que cela ne deviendra pas une communauté où l’ignorance est source de honte.

 
fortune 2023-10-09

C’est vrai, moi aussi il m’arrive de ressentir des formulations maladroites dans la traduction automatique.

Cela dit, dans ce cas, « fossé défensif » est aussi une expression couramment utilisée chez nous. Si vous faites une recherche d’actualités avec « fossé défensif », vous verrez qu’il y a de nombreux résultats.

 
cosine20 2023-10-08

Je crois savoir qu’OpenCL était ce à quoi AMD participait comme alternative à CUDA, donc le fait qu’il n’en soit pas question ici laisse penser qu’il n’y a pas vraiment eu, entre-temps, d’intégration avec les bibliothèques du côté de l’IA.

 
GN⁺ 2023-10-07
Avis Hacker News
  • Un utilisateur a constaté une amélioration des performances de 200x avec ROCm utilisé avec Pytorch par rapport au CPU.
  • En raison de la complexité de la configuration d’AMD, l’utilisateur recommande d’utiliser l’image Docker officielle par défaut de ROCm Pytorch.
  • Un utilisateur dit que CUDA est la seule raison pour laquelle il possède une carte Nvidia, mais qu’il apprécierait de voir davantage de projets migrer vers des environnements neutres.
  • Un utilisateur estime que faire tourner Nvidia sous Linux n’est pas plus agréable que les crashs du kernel sous Windows Vista.
  • L’utilisateur se félicite de la concurrence d’AMD et d’autres acteurs concurrents, et s’intéresse aussi aux SoC Apple Silicon dotés d’une grande quantité de RAM intégrée.
  • Pytorch permet d’utiliser d’autres matériels, et l’utilisateur aimerait voir de vrais benchmarks sur la puissance de calcul.
  • Les preuves empiriques montrant qu’AMD réduit l’écart avec Nvidia dans les logiciels scientifiques ou de ML restent limitées.
  • CUDA est le résultat des efforts de Nvidia pour soutenir son écosystème ; quand on achète du Nvidia, on achète aussi les efforts qu’ils ont investis dans cet écosystème.
  • AMD a le matériel, mais manque de support HPC en dehors de bliss et d’AOCL.
  • Un utilisateur se demande si AMD dispose d’une solution pour la compatibilité ascendante des appareils, comparable au PTX de Nvidia.
  • L’avantage de Nvidia est le fruit de plusieurs années de travail mené par la communauté open source, les grandes entreprises et les instituts de recherche.
  • Un utilisateur se demande si, une fois AMD revenu au niveau, les prix baisseront pour les hobbyistes ou les startups en bootstrap, ou si AMD augmentera aussi ses prix comme Nvidia.
  • La solution logicielle d’AMD est conçue pour fonctionner sur n’importe quel matériel, et hip étant compatible ligne par ligne avec cuda, le portage est très facile.