Un dirigeant d’Apple Silicon évoque la demande en IA pour le Mac mini et l’avenir de l’on-device

 (macrumors.com)
1 points par GN⁺ 4 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Alors que la demande augmente pour des machines dédiées capables de faire tourner longtemps des agents IA, les Mac mini et Mac Studio attirent l’attention comme ordinateurs de bureau pour développeurs
  • Les tâches agentiques exigent un système séparé de la machine principale, contrôlé directement par l’utilisateur et pouvant fonctionner 24 heures sur 24, 7 jours sur 7
  • La position de l’écosystème Mac se renforce, avec de nombreux outils d’IA Mac-first ou Mac-only et une présence devenue courante des Mac chez les développeurs des laboratoires d’IA de pointe
  • Brooks voit l’IA agentique non comme un simple problème de GPU, mais comme une question de conception globale de puce couvrant l’exécution de LLM, les appels d’outils et le traitement des workflows
  • Apple relie l’IA on-device à la confidentialité, la sécurité et au coût d’inférence, et anticipe une exécution hybride où appareils et cloud se répartissent les rôles

La demande en agents IA se concentre sur le Mac mini et le Mac Studio

  • Doug Brooks, responsable produit senior d’Apple Silicon, a abordé la stratégie d’Apple en matière de puces et la demande liée à l’IA dans une interview accordée à The Deep View juste avant la WWDC 2026
  • Apple constate une “incredible demand” pour les Mac mini et Mac Studio
  • Pour les workloads agentiques, les conditions suivantes sont importantes
    • Un système que l’utilisateur peut contrôler directement
    • Un environnement séparé de la machine principale
    • Une machine capable de fonctionner 24 heures sur 24, 7 jours sur 7
  • Brooks estime que, dans ces conditions, le Mac mini est un “amazing system”
  • De nombreux outils d’IA sont proposés en Mac-first ou Mac-only, et les Mac sont également cités comme un environnement couramment utilisé dans les laboratoires d’IA de pointe

L’IA on-device visée par Apple Silicon

  • Brooks ne voit pas l’IA agentique uniquement comme une tâche centrée sur le GPU
    • Il ne suffit pas que le GPU prenne en charge l’exécution des LLM
    • Plusieurs parties de la puce interviennent aussi dans les appels d’outils et les tâches périphériques aux workflows
    • Cette architecture rejoint les points forts d’Apple Silicon
  • Les atouts d’Apple liés à l’IA découlent de décisions de conception de puces prises avant l’arrivée de LLM comme ChatGPT
    • Le Neural Engine a été conçu pour des opérations matricielles efficaces sur le plan énergétique
    • Les accélérateurs de réseaux neuronaux moins connus intégrés au CPU traitent des tâches sensibles au temps, comme la voix
    • Plus récemment, Apple a aussi ajouté des accélérateurs de réseaux neuronaux au GPU, afin d’étendre les performances IA depuis les puces de niveau iPhone jusqu’aux grands siliciums des Mac
  • Apple continue de concevoir ses puces pour des machines spécifiques et de développer ensemble le matériel et le logiciel
  • L’exécution de l’IA montre une tendance à migrer partiellement du cloud vers le local ; Brooks cite comme raisons la confidentialité, la sécurité et la hausse des coûts d’inférence liée à l’augmentation de l’usage de tokens par les agents
  • L’avenir de l’exécution de l’IA s’annonce moins comme un basculement entièrement local que comme une approche hybride, où les agents décident quelles tâches traiter sur l’appareil et lesquelles envoyer dans le cloud
  • Sur iPhone et iPad, l’accent est mis sur la “transparent AI”
    • Cela désigne des fonctions qui opèrent discrètement dans le système d’exploitation et les apps tierces, sans mettre en avant qu’il s’agit d’IA
    • Le générateur d’images Draw Things, qui fonctionne sur iPhone, iPad et Mac, est cité en exemple
    • SwingVision, qui analyse en temps réel des matchs de tennis et de pickleball avec la caméra de l’iPhone, figure aussi parmi les cas cités
  • Brooks qualifie le rythme actuel du développement de l’IA de “just crazy” et dit qu’il est difficile de prévoir non seulement ce qui se passera dans un an, mais même dans trois mois ou un mois

À lire aussi

1 commentaires

 
GN⁺ 4 시간 전
Avis sur Hacker News

  • Apple n’a jusqu’ici presque pas proposé d’expériences IA vraiment intéressantes, mais je pense quand même qu’il y a de fortes chances qu’elle devienne, dans cinq ans, le fournisseur dominant de l’IA
    Il suffirait d’une ou deux avancées supplémentaires côté puces, modèles, ou les deux, pour pouvoir faire tourner gratuitement de très bons modèles locaux sur des appareils Apple de milieu de gamme ; à ce moment-là, la combinaison confidentialité/coût/latence sera difficile à battre pour OpenAI/Anthropic/Google
    Je l’écris ici pour être félicité ou moqué dans cinq ans

    • J’aime plutôt le fait qu’Apple ne transforme pas toute son activité autour de l’IA
      On commence à en avoir un peu marre. Au travail, je l’utilise par nécessité pratique, ce qui enlève déjà une partie de ce qui la rend intéressante et amusante ; si je l’utilisais autant en dehors du travail, je pense que ce serait pareil
    • Il y a deux grandes raisons pour lesquelles l’inférence locale aura du mal à concurrencer le cloud pendant un bon moment
      Premièrement, la plupart des tâches utiles avec les LLM se traitent en parallèle. Un Mac Mini peut exécuter un seul thread d’inférence LLM à la fois, tandis que le cloud peut en lancer des dizaines et les traiter efficacement par lots sur toute une flotte de matériel
      Deuxièmement, les matériels d’inférence plus rapides comme ceux de Cerebras ou Groq ne peuvent pas être utilisés localement. Un débit de tokens par thread plus de 5 fois supérieur est un avantage difficile à sous-estimer, et si l’on y ajoute l’avantage du multi-threading, c’est un coup fatal pour les LLM locaux
      L’inférence locale a tout de même son rôle. Si vous traitez des sujets extrêmement sensibles, ou si vous voulez avoir des conversations sexuelles ou générer des images NSFW avec des modèles non censurés, le local est le seul choix. Apple et d’autres entreprises continueront probablement à faire tourner beaucoup de tâches utiles en local, comme les suggestions de modification de phrases, la reconnaissance vocale, la synthèse vocale ou la manipulation d’images, et ces fonctions s’amélioreront à mesure que le matériel local progressera
      Mais pour la plupart des tâches LLM, je pense que le cloud gardera l’avantage très longtemps, peut-être pour toujours
    • L’intégration discrète du machine learning dans l’app Photos est réussie. Identification des plantes, reconnaissance des visages, suppression d’arrière-plan, recherche de texte par OCR, et même recherche dans l’écriture manuscrite : tout cela est bien intégré
    • Avant un monde entièrement local ou entièrement en ligne, je pense qu’on aura surtout de l’hybride
      Le contrôle de l’ordinateur ou la délégation de tâches seraient gérés par des modèles locaux, tandis que les tâches nécessitant un raisonnement poussé, de la planification ou l’accès à des connaissances seraient confiées à des modèles en ligne. Je serais ravi d’avoir tort, mais j’ai l’impression que les modèles grossissent plus vite que le matériel ne progresse
    • En avril 2023, j’avais écrit : « nous devrions tous acheter des Mac Studio toutes options, avec 128 Go de RAM, 20 cœurs CPU, et de nombreux cœurs GPU et Neural »
      Nous étions à la fois en retard et en avance
      https://news.ycombinator.com/item?id=35527692

  • Si Apple conçoit Private Cloud Compute comme un environnement d’exécution dédié à chaque personne, elle pourrait sans doute vendre des machines à partir de 10 000 dollars
    Il faudrait évidemment une trajectoire pour descendre vers un modèle à 2 500 dollars, mais sur ce créneau, parmi les marques grand public, il me semble qu’Apple est à peu près la seule à pouvoir le faire
    [1] https://security.apple.com/blog/private-cloud-compute/

    • Certains M3 Ultra Mac Studio épuisés, avec plus de 800 Go/s de bande passante mémoire, se vendent 24 000 dollars sur eBay, donc c’est tout à fait possible
    • À l’époque où iCloud Drive était en développement, par l’intermédiaire d’un commercial venu nous présenter une app médicale iPad interne, j’avais demandé à Apple de faire quelque chose comme ça pour iCloud
      Un Mac Pro montable en rack vers lequel des appareils « gérés » pourraient pointer ? On aurait facilement payé 50 000 dollars, mais Apple n’a absolument pas compris la demande
    • À chaque sortie d’un ancien Mac, avec des collègues, on s’amusait à configurer la version la plus chère possible
      À une époque, on arrivait facilement à des montants à six chiffres en dollars, mais avec le temps ça a progressivement baissé
    • Apple est assez hostile aux utilisateurs professionnels, donc je ne pense pas
    • Ça relève davantage de l’entreprise. Dans l’informatique personnelle, j’ai du mal à imaginer un cas d’usage qui justifie une machine à 10 000 dollars

  • Si l’idée est seulement d’utiliser des logiciels du type Claude Code ou openclaw via des API LLM ou des abonnements, sans faire tourner de modèle local, et d’obtenir uniquement un workflow de « second cerveau » toujours allumé avec accès au système de fichiers local, je ne suis pas sûr qu’un Mac mini soit nécessaire
    Ça devrait aussi tourner sur un Raspberry Pi ou un vieux portable ; je serais curieux de savoir si quelqu’un l’a réellement fait

    • Je ne comprends pas trop l’engouement pour le Mac mini
      Je pense que c’est probablement l’un de ces deux cas : 1) des gens entendent que « le Mac est bon pour l’IA », en achètent un, puis font en réalité l’inférence avec Claude, sans savoir qu’on peut appeler l’API Anthropic depuis un sèche-cheveux tant qu’il a une connexion Internet. 2) des gens veulent que leur agent ait les bulles bleues iMessage
      J’ai du mal à croire que des gens ordinaires fassent autant d’inférence sur l’appareil au point de provoquer une rupture de stock du Mac Mini ; et même si c’était le cas, le Mac mini n’est pas une plateforme particulièrement excellente pour cet usage
    • Pour ce seul usage, un Mac Mini n’est pas nécessaire, mais il était assez peu cher et de bonne qualité
      Les acheteurs n’exploitent peut-être pas toute sa puissance, mais ils privilégient souvent la commodité plutôt que l’objet le moins cher possible
      En supposant qu’on le garde longtemps et qu’on l’utilise aussi pour autre chose, ça peut se justifier dans une certaine mesure
    • Parce que, sur un Mac mini, on peut envoyer des SMS via iMessage. C’est tout
    • Oui. Pour des tâches comme lancer un navigateur, un peu de marge de performance aide, mais si l’objectif est de dépenser peu, des mini-PC reconditionnés ou des machines de marques comme Minisforum ou GMKTec font très bien l’affaire
      Il faut au moins 16 Go de mémoire, 32 Go si possible
    • Si l’on utilise seulement openclaw et des API, pas besoin d’un gros PC
      Je fais tourner quelque chose de léger sur un RPI4 8 Go. Beaucoup de gens font tourner des LLM en local, et dans ce cas un Mac est utile. Honnêtement, je pense qu’il est difficile de battre le rapport qualité-prix d’un abonnement OpenRouter et des appels API

  • Si j’avais le capital, j’aimerais créer un appliance d’inférence domestique
    Sans périphériques à part l’Ethernet : uniquement une unité de calcul intégrant CPU+GPU+mémoire, du stockage secondaire, une carte mère et une alimentation. Juste le minimum de matériel nécessaire pour faire tourner des modèles comme un utilitaire, sans fioritures
    Ce serait bien aussi que la façade soit un écran affichant l’état, comme sur les anciennes chaînes Hi-Fi
    Pour préciser, j’imagine une sorte de série de modules composée d’un CPU RISC-V + d’un GPGPU Vortex + de mémoire

    • En hiver, ça pourrait chauffer la maison, et en été la piscine
    • Ça ressemble à un Mac mini/Studio dont on aurait juste un peu changé l’apparence
    • Ce n’est pas ce que fait George Hotz chez tiny ? https://tinycorp.myshopify.com/
    • Parmi ce qui existe aujourd’hui, ce qui s’en rapproche le plus semble être l’ASIC LLM conçu par Taalas
      https://taalas.com/products/
      Dommage que le chatbot de cette société soit étonnamment rapide, mais ne sache absolument rien de l’entreprise qui l’exploite
      Quoi qu’il en soit, un ASIC capable de faire tourner localement un modèle de langage à diffusion ne serait pas une mauvaise chose. Même s’il devenait obsolète un jour, ce serait mieux que de tout confier à une entreprise financée par du capital-risque, susceptible de disparaître à l’avenir ou, pire, de dominer le marché et de facturer ce qu’elle veut
    • Je garde un œil sur Tenstorrent pour cet usage
      Le prix devrait se situer quelque part entre une plateforme à mémoire unifiée très intégrée et un GPU spécialisé
      C’est à la limite de ce qui a du sens à la maison, mais c’est intéressant

  • Faire tourner des modèles sur l’appareil avec un Mac est assez pénible
    Rien que comprendre ce qui va fonctionner — BF16, FP8, BF16+FP8, NVFP4, INT8, GGUF, etc. — est, pour le dire gentiment, loin d’être clair. Apple fournit très peu d’outillage. Il y a bien MLX, mais si vous n’avez pas l’intention de convertir vous-même les modèles dans ce format, vous vous retrouvez vite à la traîne
    Des apps comme LM Studio, Ollama ou Draw Things simplifient bien les choses, mais cela reste contraignant

    • Je ne vois pas exactement ce qui est contraignant. C’est juste une phase d’apprentissage, et on s’y fait en un jour ou deux
      On dirait qu’on a oublié que, ces 50 dernières années, faire toutes sortes de choses avec un ordinateur était ennuyeux, complexe, et prenait beaucoup de temps rien que pour que ça fonctionne. Mon premier ordinateur avait 48 Ko de RAM, et pour jouer il fallait charger le jeu depuis une cassette pendant 5 minutes. Ça, c’était pénible
      À côté de ça, LM Studio, qui télécharge et charge un modèle puis permet de discuter avec lui ou d’y brancher un agent, est extrêmement simple et demande très peu d’effort
    • J’utilise assez souvent LM Studio, et l’équipe MLX ainsi que la communauté publient généralement une version MLX un ou deux jours après la sortie d’un nouveau modèle
    • Je serais curieux de savoir quels problèmes vous rencontrez. Je fais tourner plusieurs agents Qwen Coder next en local, et ça fonctionne bien
    • Convertir un modèle en MLX, c’est littéralement faire un git clone puis exécuter mlx_lm.convert
      Après le clone, c’est une opération de 5 minutes
    • À l’inverse, j’utilise avec satisfaction ce LLM local d’antirez, connu pour Redis
      [1] https://github.com/antirez/ds4

  • Le point essentiel, ce n’est pas l’inférence IA, mais les appels d’outils, l’exécution d’apps GUI de bureau et de navigateurs
    Il n’existe pas encore de modèle embarqué suffisant pour faire du vrai travail sur un Mac Mini d’entrée de gamme. Mais s’il s’agit de faire tourner quelques navigateurs et apps GUI, acheter un Mac Mini est bien plus pertinent que de payer pour des conteneurs cloud plus chers et moins performants
    Les navigateurs ne sont pas conçus pour tourner dans des conteneurs Linux, et fonctionnent au mieux sur un OS de bureau bare metal. Le Mac Mini M4 offre, en puissance de calcul brute par dollar — autrement dit en score Geekbench — de meilleures performances single-core que n’importe quelle VM louable dans le cloud

    • Au prix d’origine, un lot de 4 machines était une très bonne solution pour l’exigence tokens par seconde/dollar

  • Le lien soumis aurait dû être cet article éditorial original
    https://www.thedeepview.com/articles/how-apple-s-decade-long...

  • L’affirmation selon laquelle « d’après Doug Brooks, responsable produit senior Apple silicon, les Mac mini et Mac Studio d’Apple sont devenus les machines privilégiées pour faire tourner des agents IA » est surtout un phénomène américain
    Autour de moi, il n’y a pas de Mac mini ni de Mac Studio, seulement des portables ThinkPad et MacBook connectés à des hyperscalers

    • Je ne sais pas de quel “autour de moi” il s’agit. Au Royaume-Uni, l’électricité est absurdement chère, donc c’est assez populaire comme l’une des options basse consommation pour les LLM locaux
      Si vous n’êtes pas dans le milieu des LLM locaux, il est normal que vous ne le voyiez pas. C’est un peu comme dire « le tennis n’est pas populaire ici » sans jamais aller sur un court

  • De la même manière que les gens ont acheté des voitures diesel parce qu’elles consommaient moins que l’essence, dans de nombreux pays l’électricité est très chère, donc certains achètent des machines à mémoire unifiée Apple dont le coût d’exploitation est inférieur à celui de configurations Nvidia
    À mesure que les options de mémoire unifiée non Apple se multiplieront, beaucoup de gens se tourneront davantage vers elles

  • Cet article est une réécriture de https://www.thedeepview.com/articles/how-apple-s-decade-long...