11 points par jhj0517 2025-01-08 | 7 commentaires | Partager sur WhatsApp

NVIDIA dévoile DIGITS, un superordinateur personnel pour l’IA avec 128 Go de RAM basée sur LPDDR5X

  • NVIDIA a présenté DIGITS, un superordinateur personnel pour l’IA doté de 128 Go de RAM, lors du CES organisé à Las Vegas le 7 janvier 2025 (heure locale)
  • DIGITS embarque la nouvelle superpuce NVIDIA GB10 Grace Blackwell de NVIDIA
  • L’objectif de NVIDIA est de mettre un superordinateur d’IA sur le bureau de chaque data scientist, chercheur en IA et étudiant, afin de leur permettre de prendre part à l’ère de l’IA

Performances de la nouvelle superpuce GB10 de NVIDIA

  • La superpuce GB10 est un « system-on-chip » (SoC) basé sur l’architecture NVIDIA Grace Blackwell, offrant jusqu’à 1 pétaflop (PetaFlop, 10¹⁵/s, soit 1 000 billions d’opérations par seconde) de puissance de calcul en précision FP4
  • La GB10 intègre un GPU NVIDIA Blackwell avec des cœurs CUDA® de dernière génération et des cœurs Tensor de 5e génération
  • Elle est reliée via l’interconnexion puce à puce NVLink®-C2C à un CPU basé sur l’architecture Arm comportant 20 cœurs
  • MediaTek, leader du marché de la conception de SoC basés sur Arm, a collaboré à la conception de la GB10

Caractéristiques générales du superordinateur personnel pour l’IA DIGITS

  • DIGITS embarque 128 Go de mémoire unifiée et cohérente (unified, coherent memory) ainsi que jusqu’à 4 To de stockage NVMe
  • Ici, la mémoire unifiée et cohérente est un concept différent de la VRAM d’un GPU, et DIGITS utilise des puces LPDDR5X pour constituer ses 128 Go de mémoire
  • Il peut exécuter des LLM allant jusqu’à 200B (200 milliards) de paramètres
  • Via le réseau NVIDIA ConnectX®, il est également possible de relier deux superordinateurs d’IA DIGITS pour exécuter un LLM allant jusqu’à 405B paramètres

Date de sortie prévue et prix

  • DIGITS sera disponible à partir de 3 000 $ dès le mois de mai de cette année via les principaux partenaires de NVIDIA

Estimation de la bande passante mémoire (vitesse) de DIGITS

  • La bande passante mémoire est l’un des principaux indicateurs utilisés pour estimer les performances d’un GPU
  • Les spécifications détaillées de DIGITS, notamment la bande passante mémoire, n’ont pas encore été dévoilées
  • Un article indique que, d’après les images publiées par NVIDIA, DIGITS semble embarquer six modules LPDDR5X, sur la base desquels la bande passante mémoire est estimée à 825 Go/s
  • Cela représente une vitesse 2,3 fois supérieure aux 360 Go/s de la RTX 3060, mais 0,8 fois inférieure aux 1 008 Go/s de la RTX 4090, ce qui reste une performance tout à fait solide compte tenu des 128 Go de RAM
  • Toutefois, il ne s’agit que d’une estimation personnelle dont les bases ne sont pas clairement établies, et il faudra attendre la publication des spécifications détaillées pour connaître les performances exactes

7 commentaires

 
mintfrape 2025-02-06

Haha, 128 Go de mémoire système classique et ils appellent ça un supercalculateur perso..?
Même le shih tzu de chez moi se marre, M. Huang.
Et quand le prix sera « adapté à la Corée », ça montera bien à 6 millions de wons…

 
nuthatch 2025-01-09

Dans ce cas, quel OS utiliserait-on ?

 
reagea0 2025-01-10

Ce sera Linux, non ? Ubuntu.

 
hided62 2025-01-09

Autrement dit... comparé à un modèle avec iGPU AMD haute performance (comme le 8840HS)..

  • comme c’est du NVIDIA, on a CUDA,
  • et ce n’est pas du x86 mais de l’ARM.
    C’est bien ça ?
 
scari 2025-01-09

On dirait qu’il se positionne un peu comme le Mac mini M4, mais de ce côté-là, ce n’est pas polyvalent, et pourtant j’ai l’impression que le rapport qualité-prix est meilleur.

 
jujumilk3 2025-01-09

À part ça, est-ce qu’il fera aussi bien tourner les jeux ?

 
jhj0517 2025-01-09

Comme il diffère d’un GPU classique, notamment avec ses 128 Go de mémoire unifiée et cohérente, je ne sais pas trop ce que ça donnera !
On lit aussi ailleurs qu’il ne serait pas adapté au gaming : https://dirox.com/post/nvidia-project-digits