Sortie de l’Apple M3 Ultra
(apple.com)- Apple a dévoilé la M3 Ultra, sa puce haut de gamme pour Mac, renforçant encore le positionnement du Mac Studio comme station de travail pour les gros workloads d’IA, de graphisme et de vidéo
- Les spécifications clés comprennent un CPU 32 cœurs, un GPU jusqu’à 80 cœurs, un Neural Engine 32 cœurs, Thunderbolt 5 et jusqu’à 512 Go de mémoire unifiée
- Par rapport au Mac Studio de la génération précédente, Apple indique un CPU jusqu’à 1,5 fois plus rapide que la M2 Ultra et un GPU jusqu’à 2 fois plus rapide que la M2 Ultra
- UltraFusion relie deux dies M3 Max via plus de 10 000 interconnexions à haute vitesse, de sorte que le logiciel les perçoit comme une seule puce
- Avec plus de 800 Go/s de bande passante mémoire et jusqu’à 512 Go de mémoire, la puce vise le rendu 3D, les effets visuels, l’IA et l’exécution on-device de LLM de plus de 600 milliards de paramètres
Rôle de la M3 Ultra et spécifications de base
- Apple présente la M3 Ultra comme la puce la plus performante qu’elle ait jamais conçue
- Elle est positionnée comme la puce offrant le CPU et le GPU les plus puissants sur Mac, un Neural Engine 32 cœurs et la plus grande quantité de mémoire unifiée jamais proposée sur un ordinateur personnel
- Voici sa configuration principale
- jusqu’à 32 cœurs CPU
- jusqu’à 80 cœurs GPU
-
Neural Engine 32 cœurs
-
Thunderbolt 5
- jusqu’à 512 Go de mémoire unifiée
- la M3 Ultra est utilisée pour propulser les performances du nouveau Mac Studio
Performances et workloads IA
- Le CPU se compose de 24 cœurs de performance et 8 cœurs d’efficacité, avec des performances jusqu’à 1,5 fois supérieures à la M2 Ultra et jusqu’à 1,8 fois supérieures à la M1 Ultra
- Le GPU, la plus grosse configuration jamais proposée sur une puce Apple, monte jusqu’à 80 cœurs graphiques et se montre jusqu’à 2 fois plus rapide que la M2 Ultra et jusqu’à 2,6 fois plus rapide que la M1 Ultra
- Les comparaisons de performances reposent sur le système Mac Studio de la génération précédente
- M1 Ultra : CPU 20 cœurs, GPU 64 cœurs, 128 Go de RAM
- M2 Ultra : CPU 24 cœurs, GPU 76 cœurs, 192 Go de RAM
- L’architecture graphique inclut le dynamic caching, le mesh shading accéléré matériellement et le ray tracing
- Pour les tâches d’IA et de machine learning, les accélérateurs ML du CPU, le GPU, le Neural Engine et une bande passante mémoire de plus de 800 Go/s sont mis à contribution
- Le Mac Studio équipé de la M3 Ultra peut exécuter directement sur l’appareil des grands modèles de langage de plus de 600 milliards de paramètres
Mémoire unifiée et travaux volumineux
- L’architecture de mémoire unifiée de la M3 Ultra met en avant une bande passante élevée et une faible latence
- La mémoire commence à 96 Go et peut être configurée jusqu’à 512 Go
- Apple affirme que cette capacité dépasse la mémoire fournie par les cartes graphiques de stations de travail haut de gamme actuelles
- La configuration vise à réduire les goulots d’étranglement dans les workloads professionnels comme le rendu 3D, les effets visuels et l’IA, qui demandent beaucoup de mémoire graphique
Thunderbolt 5 et extensibilité
- La M3 Ultra introduit Thunderbolt 5 sur le Mac Studio, avec des débits de transfert de données pouvant atteindre 120 Gb/s
- La bande passante est plus de deux fois supérieure à celle de Thunderbolt 4
- Chaque port Thunderbolt 5 s’appuie sur un contrôleur conçu par Apple et directement intégré à la puce
- La bande passante dédiée par port vise les utilisateurs professionnels qui utilisent du stockage externe, des docks, des hubs et des châssis d’extension de nouvelle génération
- Thunderbolt 5 permet aussi de relier plusieurs systèmes Mac Studio entre eux
Technologies internes de la puce
- UltraFusion utilise un interposeur silicium intégré pour connecter deux dies M3 Max via plus de 10 000 signaux
- bande passante inter-die à faible latence de plus de 2,5 To/s
- pour le logiciel, la M3 Ultra apparaît comme une seule puce
- Le moteur média dispose de deux fois plus de ressources que celui de la M3 Max et prend en charge davantage de traitements vidéo simultanés
- prise en charge matérielle du H.264, du HEVC et de quatre moteurs d’encodage/décodage ProRes
- lecture possible de jusqu’à 24 flux 8K ProRes 422
- Le moteur d’affichage prend en charge jusqu’à 8 Pro Display XDR et pilote plus de 160 millions de pixels
- Le Secure Enclave fonctionne avec un démarrage sécurisé vérifié matériellement et des technologies de protection contre les exploits à l’exécution
Efficacité énergétique et objectifs environnementaux
- L’efficacité énergétique de la M3 Ultra contribue à ce que le nouveau Mac Studio réponde aux critères d’efficacité énergétique d’Apple
- Elle participe aussi à la réduction de l’énergie totale consommée sur l’ensemble du cycle de vie du produit
- Apple indique être actuellement neutre en carbone pour ses opérations d’entreprise dans le monde, et prévoit d’atteindre la neutralité carbone sur l’ensemble de son empreinte carbone d’ici fin 2030 conformément à son objectif Apple 2030
1 commentaires
Réactions sur Hacker News
512 Go de mémoire unifiée, c’est vraiment du jamais-vu
Je me demandais quand Apple dépasserait enfin la contrainte mémoire, et voilà qu’on monte à 0,5 To de mémoire unifiée. C’est très pratique pour faire tourner de gros modèles d’IA en local, et je trouve intéressante cette approche qui consiste à intégrer autant de mémoire très efficace sur une seule puce, par rapport à la solution façon NVIDIA. Je me demande toutefois ce que donnera une conception qui “colle” ensemble deux M3 Max en termes de chaleur et de consommation électrique
La vraie question, c’est de savoir si, à cette échelle, les grands modèles de langage tournent avec des performances réellement exploitables. Même avec suffisamment de mémoire unifiée, si la bande passante mémoire reste la même, alors malgré la hausse des performances IA de la nouvelle puce, on finit par avoir des rendements décroissants. Il doit y avoir au final un ratio optimal entre puissance de calcul, bande passante mémoire et taille du pool mémoire
Du côté des Epyc SP5 en double socket, la bande passante mémoire devrait être supérieure à celle de ce produit Apple, et à ce niveau de prix on pourrait probablement embarquer à peu près deux fois plus de RAM. La solution Apple sera sans doute plus efficace sur le plan énergétique
D’un point de vue pratique, je me demande quelles applications grand public bénéficieraient vraiment de cette combinaison entre une telle quantité de mémoire et des performances de calcul correctes mais relativement intermédiaires. À 14 000 dollars pour un système full option, on pourrait peut-être préférer par exemple deux NVIDIA Project DIGITS
J’aurais pensé qu’on voudrait réserver le meilleur nœud de gravure au calcul, et utiliser un procédé moins coûteux pour la RAM
Étonnant que ce soit une M3 et non une M4. Je me demande si c’est essentiellement pour exploiter les rendements de tri, mais il me semble avoir lu quelque part que l’interposeur qui rendait cela possible sur les puces M1 n’existe plus
Cela dit, 512 Go de RAM unifiée accessibles au NPU, c’est un vrai game changer. On dirait qu’Apple a développé cette puce pour ses propres travaux internes en IA, et qu’on en est maintenant au stade où ils la rendent disponible à d’autres. Mais ce matériel a vraiment besoin d’un format rack 2U. À l’heure actuelle, c’est le système d’exploitation qui freine ce matériel
Le CPU n’a quasiment pas de concurrent en termes de vitesse et de bande passante mémoire. C’est étonnant qu’aucune autre entreprise n’ait encore réussi à produire une puce serveur Arm réellement compétitive
Comme OS grand public, c’est selon mes goûts meilleur que Windows, mais il accumule de plus en plus d’éléments inutiles et de vieux restes, au point de devenir difficilement supportable pour des charges de travail de serveur en production. S’il existait un OS serveur capable de traiter le matériel sous-jacent comme un hyperviseur, afin d’attacher ou de partager différents composants entre VM et conteneurs, ce serait d’une valeur énorme dans de petits datacenters ou des environnements edge. Un NPU on-premises avec autant de RAM serait extrêmement utile pour accélérer localement l’IA partagée entre plusieurs utilisateurs sur le LAN
La base de cette spéculation, c’était l’absence visible d’interposeur sur les photos du die du M3 Max, mais cela ne signifiait en réalité pratiquement rien quant au fait que cette configuration M3 Ultra puisse être prise en charge. L’annonce d’aujourd’hui en est la preuve
Malgré cela, les gens finiraient par porter des logiciels, et comme MacPorts et Homebrew existent déjà, ils pourraient être adaptés pour fonctionner aussi sur cette plateforme. Mais Apple ne semble pas intéressé par ce marché, donc cela ne se réalisera probablement pas
La M1 Max avait 24 à 32 cœurs GPU, la M2 Max 30 à 38, la M3 Max 30 à 40 et la M4 Max 32 à 40. Côté dates d’annonce, la M1 Max date du 18 octobre 2021, la M1 Ultra du 8 mars 2022, la M2 Max du 17 janvier 2023, la M2 Ultra du 5 juin 2023, la M3 Max du 30 octobre 2023, la M3 Ultra du 12 mars 2025, et la M4 Max du 30 octobre 2024. Vu le délai supplémentaire entre la présentation des M3 Max et Ultra, l’hypothèse selon laquelle Apple aurait développé cette puce pour ses propres travaux internes en IA paraît tout à fait plausible
Le modèle précédent, le M2 Ultra, montait à 192 Go de mémoire au maximum, et les modèles Pro ou certains M3 à 128 Go. Même cela semblait suffisant pour 99,9 % des usages professionnels.
Mais maintenant on monte à 512 Go, et le prix du Mac Studio en configuration 512 Go atteint l’absurde total de 9 499 dollars. C’est presque à coup sûr l’effet de la ruée vers l’or de l’IA
Par exemple, un modèle quantifié en 4 bits de Llama-3.1 405B devrait y tenir sans problème
Même aujourd’hui, des gens peuvent monter des systèmes Epyc avec autant de RAM, voire davantage, pour bien moins cher et faire tourner DeepSeek à environ 6 tokens par seconde. Mais tout le monde n’aime pas assembler et régler ce genre de machine, donc il existe un marché pour ceux qui veulent éviter ces corvées. On parle de « ruée vers l’or de l’IA » comme si c’était forcément mauvais, mais ce n’est pas nécessairement le cas
À l’heure actuelle, Docker ne prend pas en charge le GPU Metal
Si vous exécutez des LLM avec Docker sur une puce Apple M3 ou M4, Docker fonctionnera en mode CPU, quel que soit le niveau de la puce, parce qu’il ne prend en charge que les GPU Nvidia et Radeon. Si vous développez des LLM dans Docker, mieux vaut envisager un laptop Framework avec un GPU Nvidia ou Radeon. Pour référence, je développe un framework d’agents IA qui exécute des LLM dans Docker sur un M3 Max : https://kdeps.com
S’ils ont mis à jour le Studio avec un M3 Ultra maintenant, le M4 Ultra pourrait peut-être aller directement dans le Mac Pro à la WWDC. Le timing est intéressant, et ils pourraient aussi changer le format du Mac Pro
En plus, ce sera probablement un produit à très faible volume, donc le fait d’être sur le procédé N3B n’est sans doute pas rédhibitoire. En même temps, ces puces coûteront très cher à fabriquer, donc les associer à des configurations RAM haut de gamme se défend assez bien
Il faut prendre cette information avec prudence, mais elle serait directement issue d’Apple. Cela rend encore plus mystérieux ce qu’ils comptent faire du Mac Pro M2
[0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
[1] Contexte supplémentaire chez Macrumors : https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
Avec l’approche actuelle, il faut concevoir les puces Max autour de l’interconnexion. En théorie, une configuration multi-SoC pourrait s’étendre à une gamme plus large au-delà de deux puces
Quoi qu’il en soit, le Mac Pro M2 donnait déjà l’impression d’un produit par lequel Apple demandait à ses clients : « Pouvez-vous faire quelque chose d’intéressant avec ces slots PCIe ? Parce qu’à part étendre la connectique, nous n’avons pas vraiment d’idée. » À moins qu’Apple ne repense Apple Silicon pour prendre en charge des GPU évolutifs, le Mac Pro semble condamné
On dirait un produit de fin de vie destiné à faire patienter les utilisateurs de PCIe jusqu’à ce qu’ils déplacent tout vers Thunderbolt. Ils ont recyclé un design pensé pour accueillir plusieurs gros GPU, mais comme il ne prend plus en charge les GPU, l’essentiel du refroidissement et de l’alimentation n’est plus qu’un vestige. En plus, l’extension PCIe a elle aussi été discrètement revue à la baisse, et Apple Silicon n’a pas beaucoup de lignes PCIe, donc les slots sont fortement sursouscrits via des commutateurs PCIe
Pour les charges IA, 512 Go de mémoire unifiée sont vraiment énormes. Comparé au nombre de GPU NVIDIA nécessaires, le prix paraît presque raisonnable
Je voulais dire par là que les cœurs NPU et GPU doivent pouvoir accéder à cette RAM, et que les performances doivent rester raisonnables
C’est cher, mais beaucoup plus rapide, et cela évite d’avoir à adapter le code pour qu’il fonctionne sous macOS
Pour faire tourner des modèles d’IA, il faut la mémoire maximale de 512 Go, et si l’on accepte de brancher un disque externe pour stocker les poids du modèle, on peut l’acheter pour un peu moins de 10 000 dollars. C’est une machine de rêve
NVIDIA Project DIGITS est annoncé à 3 000 dollars, « bientôt », mais un Mac avec les mêmes spécifications, 128 Go et 4 To, coûte environ 4 700 dollars, peut être livré en moins d’une semaine, et a en plus l’avantage de faire tourner macOS. Je ne connais pas la différence de performances. J’aimerais vraiment voir quelqu’un tester rapidement le modèle DeepSeek complet avec ça, et cela pourrait peut-être devenir le premier petit appareil d’IA personnel que l’on possède vraiment et que l’on peut utiliser librement
Si c’est une brique d’IA Apple, elle devrait durer assez longtemps
Sur cet appareil, on peut faire tourner une version quantifiée, mais pas le modèle complet
Thunderbolt 5 est assez utile. On peut utiliser un ordinateur portable très fin et léger, puis accéder à un GPU externe ou à un eGPU via TB 5 quand c’est nécessaire [1]
On peut donc désormais cumuler l’avantage d’un portable léger et celui d’un GPU puissant
[1] Asus a annoncé le premier eGPU Thunderbolt 5 au monde :
https://www.theverge.com/24336135/asus-thunderbolt-5-externa...
En revanche, le mode de partage d’écran haute performance assez récent ajouté dans Sonoma est vraiment excellent. Si l’on connecte un MacBook à un Mac Studio, on peut choisir ce mode et régler les paramètres d’affichage sur résolution dynamique. On obtient alors un « thin client » utilisant tout l’écran 16:10 du MacBook en plein écran, avec des performances réelles de 60 fps à faible latence, même dans les jeux, et l’audio est aussi transmis, ce qui permet même de participer à des réunions, tandis que l’écran du Mac Studio hôte reste éteint. Ce sont des choses impossibles avec VNC, et même si RDP est bien meilleur, ce nouveau partage d’écran haute performance va encore plus loin. J’ai toujours pensé qu’un portable fin et léger accédant à distance à une machine puissante offrait une meilleure vraie mobilité que de tout faire tourner localement sur le portable en souffrant. Avec un petit ajustement du pare-feu, cela fonctionne même en LTE
Apple devrait peut-être réexaminer Xserve
Apple a sûrement une équipe d’infrastructure serveur sous une forme ou une autre, mais construire sa propre infrastructure serveur avec son propre matériel et son propre logiciel mérite d’être exploré. S’ils liaient l’écosystème applicatif et les serveurs Apple pour les proposer dans le cloud ou à l’achat direct, cela pourrait devenir une activité de services très intéressante. Surtout maintenant que même l’iPad utilise des puces M, l’App Store a besoin de meilleures applications au vu de la puissance matérielle disponible. Un service matériel et logiciel basé sur le cloud, conçu pour l’écosystème d’applications, serait assez séduisant
Chez Apple, le matériel a évolué plus vite que le logiciel. Dans la plupart des entreprises technologiques, c’est plutôt le logiciel qui avance plus vite que le matériel ne peut suivre, mais chez Apple c’est l’inverse
Je me demande quand viendra le jour où Apple Silicon prendra en charge nativement des systèmes d’exploitation comme Linux
Apple semble réticent à publier une documentation technique de référence détaillée sur les SoC de la série M, ce qui complique l’exécution native de Linux sur Apple Silicon
Si quelqu’un achète du matériel Apple pour faire tourner Linux, cela ne devrait pas avoir d’impact négatif sur AAPL