Le CEO d’Intel : « Toute l’industrie est motivée pour éliminer le marché de CUDA »

Le CEO d’Intel s’attaque à la technologie CUDA de Nvidia dans l’IA

• Le CEO d’Intel, Pat Gelsinger, a présenté lors d’un événement à New York les puces Intel Core Ultra et Xeon de 5e génération pour datacenter, en affirmant que les technologies d’inférence en IA deviendraient plus importantes que l’entraînement.
• Gelsinger a indiqué que CUDA de Nvidia domine le domaine de l’entraînement, mais que cela ne durera pas éternellement. Il a expliqué que MLIR, Google, OpenAI et d’autres évoluent vers une « couche de programmation de type Python » afin de rendre l’entraînement de l’IA plus ouvert.
• Il a souligné qu’Intel est compétitif non seulement dans l’entraînement, mais aussi dans l’inférence, et que l’essentiel est la capacité à exécuter efficacement les modèles.

La stratégie IA d’Intel et le standard OpenVINO

• Gelsinger a expliqué qu’Intel fait avancer ses efforts dans l’IA à travers le standard OpenVINO, tout en anticipant un avenir de calcul hybride entre le cloud et les PC.
• Sandra Rivera, vice-présidente du groupe datacenter et IA d’Intel, a ajouté qu’Intel pourrait bénéficier d’un avantage dans le choix des partenaires grâce à son échelle, du datacenter jusqu’au PC.
• Gelsinger a déclaré qu’Intel se battrait pour 100 % du marché de l’IA en datacenter avec des CPU de référence, des accélérateurs et la fonderie, tout en recherchant aussi des opportunités commerciales avec Nvidia, AMD et d’autres.

L’avis de GN⁺

• Les propos du CEO d’Intel, Pat Gelsinger, montrent une nouvelle tentative de contester la domination de la technologie CUDA de Nvidia dans l’IA. Cela peut être vu comme une partie du mouvement de l’industrie vers une approche plus ouverte et plus standardisée.
• La stratégie d’Intel, centrée sur les technologies d’inférence en IA, annonce une nouvelle dynamique concurrentielle sur le marché de l’IA. Elle suggère un déplacement de la valeur vers l’exécution et l’exploitation efficaces des modèles d’IA.
• À travers des standards comme OpenVINO, Intel donne un aperçu de la manière dont l’entreprise cherche à renforcer sa position dans l’IA. Cela pourrait contribuer à favoriser la démocratisation des technologies et l’innovation.

[GN⁺]

Réactions sur Hacker News

• Discussion sur l’importance de CUDA

  • CUDA n’est pas seulement une question de vitesse de production des puces, mais de logiciel et d’écosystème. Les concurrents doivent rivaliser avec l’écosystème.
  • Des Mi100 d’occasion sur eBay offrent des performances presque comparables à celles des A100 pour un prix cinq fois inférieur, mais les écarts logiciels font qu’il faut beaucoup plus de temps pour les faire fonctionner que les GPU Nvidia.
  • Google assure une compatibilité avec PyTorch via l’interface XLA, et Intel se trouve dans une situation similaire.
  • Les concurrents doivent tester tous les modèles et mettre en place de vastes suites de tests pour corriger les problèmes.
  • Intel a tendance à annoncer des initiatives publiques en n’apportant qu’un support minimal, et OpenVino a peu de chances de réussir. À l’inverse, Triton d’OpenAI semble plus populaire.

• La stratégie d’ingénierie logicielle de NVIDIA

  • Plus de la moitié des ingénieurs de NVIDIA sont des ingénieurs logiciel. Jensen a construit une puissante stack logicielle sur plusieurs décennies.
  • Tant qu’Intel n’aura pas trouvé un CEO à la fois technique et stratégique, il sera difficile d’organiser une réponse efficace à CUDA.

• Attentes et réalité autour des alternatives à CUDA

  • Si l’on proposait de meilleurs outils, un meilleur écosystème et une meilleure expérience de programmation que CUDA, tout le monde y gagnerait.
  • Mais à ce stade, compte tenu des tentatives précédentes comme l’échec d’OpenCL, ce type d’affirmation paraît un peu ridicule.
  • Intel et AMD ont fourni bien moins d’efforts que ceux investis dans CUDA, et le résultat est décevant.

• Question sur le véritable avantage de CUDA

  • L’avantage de CUDA réside dans son écosystème logiciel, pas dans le matériel.
  • Pour la plupart des utilisateurs, les coûts de migration ne sont peut-être pas très élevés, mais ce n’est pas forcément le cas pour les chercheurs et ceux qui repoussent les limites.

• Critique des efforts de riposte fondés sur OpenCL

  • Intel et AMD ont échoué alors qu’ils ont eu des années pour proposer des fonctionnalités similaires à partir d’OpenCL.

• Manque de motivation pour sortir de CUDA

  • La plupart des modèles et des outils utilisent encore CUDA, et on ne voit presque aucun usage du middleware NN d’AMD.

• Échec de la stratégie logicielle d’Intel et d’AMD

  • Intel n’a rien fait pendant les dix dernières années et a gaspillé des milliards de dollars dans des GPU à peine fonctionnels.
  • Nvidia a investi avec succès pour favoriser les progrès de l’IA.

• Critique de la stratégie logicielle d’Intel et d’AMD

  • Pat Gelsinger et Lisa Su comprennent mal le logiciel et comptent sur la communauté pour le logiciel destiné à du matériel complexe.
  • Nvidia a fait progresser matériel et logiciel ensemble, et le modèle de programmation CUDA était un pari majeur depuis longtemps.
  • Sans changement fondamental, Intel et AMD perdront face à ARM et Nvidia.

• Attentes envers les GPU d’Intel

  • Si un GPU Intel plus performant au même prix qu’un GPU Nvidia pouvait bien faire tourner PyTorch, il y aurait une volonté d’acheter des GPU Intel.

• Critique du monopole de CUDA

  • On peut comprendre que NVIDIA veuille préserver le monopole de CUDA, mais il est aussi vrai qu’AMD, Intel et d’autres ont laissé passer l’occasion.
  • Quand des barrières techniques ou de capacité maintiennent un monopole de fait sur certains cas d’usage, ce sont les consommateurs qui y perdent.