Project Digits de Nvidia : le « superordinateur IA personnel »

 (techcrunch.com)
3 points par GN⁺ 2025-01-08 | 2 commentaires | Partager sur WhatsApp

  • Présentation de Project Digits de Nvidia

    • Au CES 2025, Nvidia a présenté Project Digits, un « superordinateur IA personnel ».
    • Il propose la plate-forme matérielle Grace Blackwell dans un format compact.
    • Il s'agit d'une plateforme de cloud computing capable d'exécuter toute la pile logicielle IA de Nvidia.

  • Caractéristiques techniques de Project Digits

    • Conçu pour les chercheurs en IA, les data scientists et les étudiants.
    • Il intègre le GB10 Grace Blackwell Superchip, offrant jusqu'à 1 pétaflop de puissance de calcul.
    • Il peut exécuter des modèles comportant jusqu'à 200 milliards de paramètres.
    • Il est composé d'un GPU Nvidia Blackwell et d'un CPU Nvidia Grace à 20 cœurs, développés avec MediaTek.
    • Il dispose de 128 Go de mémoire et jusqu'à 4 To de stockage flash.

  • Évolutivité et prix

    • En connectant deux Project Digits, il est possible d'exécuter des modèles allant jusqu'à 405 milliards de paramètres.
    • Il peut offrir une expérience autonome ou être connecté à un PC Windows ou Mac.
    • Le prix commence à 3 000 $ et il sera disponible dès mai via des partenaires clés.

  • Marché et vision

    • Jensen Huang, le PDG de Nvidia, a déclaré que Project Digits fournirait un superordinateur IA à des millions de développeurs.
    • Il vise à aider les data scientists, les chercheurs en IA et les étudiants à contribuer à façonner l'ère de l'IA.

  • Informations complémentaires

    • Des mises à jour supplémentaires sont prévues autour de la présentation de Nvidia au CES 2025.
    • L'article a été rédigé par Kyle Wiggers (TechCrunch).

À lire aussi

2 commentaires

 
berry 2025-01-16

Si les performances sont au rendez-vous comme annoncé et que la maintenance est bien assurée, ce serait vraiment bien.
 
GN⁺ 2025-01-08
Commentaires Hacker News
  • Nvidia Jetson Nano est devenu inutile depuis l’arrêt de son support au bout de quatre ans après sa sortie. Sorti avec Ubuntu 18.04, il n’a pas reçu de mises à jour par la suite, ce qui a rendu la stack Machine Learning obsolète. Je ne rachèterai plus de SBC Nvidia tant que leur support logiciel ne sera pas intégré au noyau Linux.
  • Avec l’intérêt croissant pour l’IA et les LLM, Nvidia pourrait saper le marché des développeurs IA d’Apple. J’aurais aimé posséder des actions Nvidia.
  • DGX OS 6 est basé sur Ubuntu 22.04 et inclut les dernières mises à jour matérielles et de sécurité. Il prend en charge GPU Direct Storage et permet d’accéder à toutes les versions des pilotes GPU Nvidia et du toolkit CUDA.
  • La valeur de Nvidia ne peut pas être comparée aux solutions cloud, surtout lorsqu’il s’agit de données personnelles ou de secrets d’entreprise : il est important que les données ne quittent pas la sphère externe.
  • Nvidia a lancé un supercalculateur de bureau Linux avec un meilleur rapport performance/prix que le Wintel, et la nouvelle stack logicielle ne fonctionne que sur WSL2.
  • IBM Roadrunner était le premier supercalculateur à atteindre 1 petaFLOP, et Nvidia Project Digits fournit 1 petaFLOP de performance pour exécuter des modèles d’IA.
  • Dans le marché de la bio-informatique, Illumina accélère l’analyse génomique grâce aux puces matérielles DRAGEN, tandis qu’Oxford Nanopore utilise des GPU mais est limité en performances par la taille et la puissance.
  • Nvidia a lancé un périphérique d’inférence locale 128 GB bon marché qui fait le travail qu’Intel/AMD auraient dû faire, et qui pourrait menacer l’écosystème CUDA.
  • Cette image semble avoir été générée par l’IA.
  • Le nouveau produit de Nvidia n’est pas un simple périphérique, mais un ordinateur complet exécutant Linux. Il est possible que chacun en vienne à en posséder un à l’avenir.