Qui a peur des modèles chinois ?

 (stratechery.com)
3 points par GN⁺ 15 시간 전 | 2 commentaires | Partager sur WhatsApp
  • Le modèle chinois à poids ouverts Kimi K3 s’est rapproché de l’état de l’art, mais la compétitivité dans l’IA se joue moins sur les coûts de développement du modèle que sur le coût des ventes (COGS) nécessaire pour fournir une intelligence au niveau de la bonne réponse
  • La quantité de tokens nécessaire pour parvenir à la bonne réponse varie selon les modèles : les tokens eux-mêmes ne sont donc pas une marchandise interchangeable ; ce qui est réellement marchandisé, c’est l’intelligence produite avec ces tokens
  • Les prix élevés d’Anthropic et d’OpenAI tiennent en grande partie à une pénurie d’offre de calcul ; même si les modèles chinois sont moins chers par token, leur avantage de coût peut disparaître s’ils utilisent davantage de tokens de raisonnement
  • La Chine cherche à marchandiser l’IA via des modèles à poids ouverts afin de renforcer ses industries de la robotique et du monde physique, et bénéficie aussi d’un avantage structurel en utilisant, par distillation, les modèles américains de pointe comme enseignants à faible coût
  • Si les États-Unis n’assouplissent pas les restrictions sur les modèles de pointe pour la cybersécurité et n’autorisent pas leurs développeurs de modèles à poids ouverts à pratiquer la distillation, les entreprises américaines finiront par dépendre de modèles chinois pour se défendre

Une structure de coûts de l’IA différente de celle du logiciel

  • Dans le logiciel, les coûts marginaux et les coûts de transaction sont quasiment nuls, ce qui a donné aux entreprises contrôlant la demande des avantages de centralisation et d’échelle ; dans l’IA, en revanche, le coût marginal redevient déterminant pour la structure du secteur
  • Les modèles à poids ouverts permettent d’économiser les coûts de R&D nécessaires à la création des poids, mais ne rendent pas pour autant le coût du service gratuit
    • Les coûts de R&D sont des coûts fixes, indépendants du chiffre d’affaires
    • Les coûts d’inférence sont un coût des ventes qui augmente avec l’usage et le chiffre d’affaires
  • Si le coût de génération des tokens est de 0,50 dollar par dollar de chiffre d’affaires, 100 millions de dollars de chiffre d’affaires entraînent 50 millions de dollars de coût des ventes, et 100 000 dollars entraînent 50 000 dollars
  • Kimi K3 coûte 3 dollars par million de tokens en entrée et 15 dollars par million de tokens en sortie ; Sol coûte respectivement 5 et 30 dollars
  • Mais le seul prix unitaire des tokens ne permet pas de bien comprendre le coût réel auquel un modèle fournit de l’intelligence

Ce ne sont pas les tokens qui sont marchandisés, mais l’intelligence

  • Si Nvidia définit les GPU comme des « usines à tokens » indépendantes des modèles, alors les principaux indicateurs deviennent les tokens par seconde, le temps jusqu’au premier token, les tokens par watt et le coût des tokens
  • À l’ère ChatGPT, où les tokens étaient transmis directement à l’utilisateur, cette méthode de mesure fonctionnait bien ; mais à l’ère du raisonnement, les tokens de chaîne de pensée explosent et le nombre de tokens nécessaires pour parvenir à la bonne réponse varie selon les modèles
    • Kimi est réputé utiliser beaucoup plus de tokens que Sol, ce qui peut annuler l’avantage de son prix affiché
    • Dans les workflows d’agents aussi, le nombre de tokens nécessaires pour accomplir une tâche varie selon les modèles
  • Les tokens ne sont pas interchangeables : ils diffèrent donc de marchandises comme le pétrole brut, le cuivre ou le blé
  • Si plusieurs modèles peuvent produire la même bonne réponse, ce qui a une valeur de marchandise n’est pas le token, mais l’intelligence au niveau de la bonne réponse ; le nombre de tokens consommés pour y parvenir crée l’écart de coût des ventes
  • Le coût des ventes de l’intelligence est déterminé par cinq facteurs
    • Taille du modèle : les poids et l’état d’exécution déterminent la quantité de mémoire coûteuse et le nombre d’accélérateurs nécessaires aux réplicas de service
    • Efficacité d’inférence : des architectures comme les Mixture-of-Experts réduisent la quantité de calcul par token généré
    • Efficacité mémoire : réduire les besoins du cache KV permet d’augmenter les requêtes simultanées et le taux d’utilisation des GPU
    • Efficacité de service : le batching, l’ordonnancement, la mise en cache des préfixes, etc. partagent le travail entre les requêtes et améliorent l’utilisation
    • Efficacité en tokens : moins il faut de tokens pour obtenir la bonne réponse, plus le coût d’inférence est faible
  • Des applications CRUD basiques peuvent déjà être créées avec des modèles de plusieurs fournisseurs ; pour ce type de tâches, la rentabilité dépend davantage d’une meilleure structure de coûts que d’un prix élevé

Prix et structure de profits sur un marché de matières premières

  • Sur un marché de commodités, tous les fournisseurs vendent la même chose, si bien que le prix est déterminé par l’offre et la demande
    • Plus le prix baisse, plus la demande augmente : c’est l’élasticité-prix
    • Le volume d’offre dépend du coût marginal de production de la marchandise
  • Comme le coût marginal varie selon les fournisseurs, le coût du fournisseur marginal le plus cher détermine le prix de marché, et le profit des autres fournisseurs dépend de l’écart entre ce prix et leur coût de production
  • Si les fournisseurs A, B et C produisent chacun 10 unités à des coûts unitaires de 10, 15 et 20 dollars, et que la demande est de 25 unités à un prix de 20 dollars, alors :
    • A vend 10 unités et gagne 10 dollars par unité
    • B vend 10 unités et conserve 5 dollars par unité
    • C vend 5 unités mais ne réalise aucun profit unitaire
  • En réalité, A et B peuvent fixer un prix légèrement inférieur à celui de C et les variations de prix affectent aussi la demande, mais la structure reste la même : le fournisseur aux coûts les plus élevés supporte le risque de faillite
  • Le prix d’équilibre du marché ne peut pas intégrer les coûts fixes comme la R&D ou la dette liée à l’acquisition d’équipements, mais ces coûts peuvent pousser les fournisseurs les moins rentables à sortir du marché
  • Quand des fournisseurs sortent, les prix augmentent jusqu’à ce que d’autres fournisseurs entrent ou que les fournisseurs existants augmentent leurs capacités

La position des modèles chinois sur le marché actuel de l’intelligence

  • Le marché actuel des modèles de pointe ne remplit pas les conditions d’un véritable marché de commodités, car la demande dépasse l’offre en raison d’une pénurie de calcul
  • Nvidia fournit du calcul avec de fortes marges, et des clients comme SpaceXAI peuvent aussi le revendre avec de fortes marges à Anthropic, qui peut à son tour appliquer un prix plus élevé à ses tokens
  • Anthropic et OpenAI font probablement partie des entreprises ayant le coût unitaire le plus bas pour fournir une intelligence de qualité de pointe, grâce aux performances de leurs modèles, à leur échelle de service et à leur efficacité en tokens
    • Elles fournissent un certain niveau de performance plusieurs mois avant leurs concurrents
    • Elles réutilisent leurs meilleurs modèles pour optimiser les coûts
  • La demande du marché se dirige encore directement vers Anthropic et OpenAI plutôt que vers une intelligence abstraite, tandis que SpaceXAI et Meta, moins performants, vendent de la capacité à Anthropic
  • Définir les tâches par le niveau d’intelligence nécessaire permettrait de créer un marché de commodités où les acheteurs peuvent changer de fournisseur
  • À long terme, les modèles de pointe descendent quelques mois plus tard vers le marché non frontier ; entre-temps, leurs développeurs peuvent optimiser les coûts de service, ce qui donne aux entreprises de pointe un avantage même sur les marchés inférieurs
  • Le faible prix affiché des modèles chinois peut simplement résulter d’une comparaison avec les prix élevés qu’Anthropic et OpenAI pratiquent en raison de la pénurie d’offre
  • Il manque des preuves que Kimi soit moins cher sur la base du coût marginal ; en intégrant aussi l’efficacité en tokens, la réaction économique aux modèles chinois pourrait être excessive

Pourquoi les laboratoires de pointe se méfient des modèles chinois

  • Les laboratoires de pointe restent liés à une structure financière datant de l’époque où l’entraînement consommait davantage de GPU que l’inférence
    • Pour financer l’entraînement suivant, ils devaient maximiser les revenus d’inférence, ce qui nécessitait des prix d’inférence élevés
    • Même si les coûts d’entraînement continuent d’exploser, le marché de l’inférence devrait croître encore plus vite
    • Le paradigme des agents a ouvert une demande massive ; avec suffisamment de calcul disponible, la croissance peut venir de prix plus bas et d’un usage plus élevé
  • L’intelligence n’est pas une marchandise parfaite, et les données collectées lors de l’utilisation réelle rendent le modèle suivant plus intelligent
    • Quand l’offre de calcul augmente, l’incitation à baisser les prix pour accroître l’usage et les données se renforce
    • La stratégie de Microsoft, centrée sur l’aide aux entreprises pour exécuter leurs propres modèles, devient aussi plus réalisable à mesure que les modèles chinois deviennent une alternative
  • Les laboratoires de pointe peuvent se différencier des modèles chinois et des autres laboratoires en remontant vers l’expérience client
    • Claude Code et Codex montrent une forte persistance des utilisateurs dans le premier harnais qu’ils ont choisi
    • Cette persistance peut être encore plus forte chez les utilisateurs non techniques
    • La montée des laboratoires vers les couches supérieures menace les fournisseurs de logiciels, y compris Microsoft
    • Les éditeurs de logiciels qui contrôlent déjà l’expérience client résistent plus facilement à l’intrusion des laboratoires lorsqu’ils ont accès à des modèles compétitifs
  • Anthropic défend l’idée que seule elle peut être digne de confiance pour gérer une IA puissante ; les alternatives à poids ouverts sapent cette prémisse

La stratégie chinoise des poids ouverts

  • Qwen3.8 Max d’Alibaba compte 2,4 billions de paramètres, et l’entreprise le classe au deuxième niveau derrière Fable 5 d’Anthropic
    • Kimi K3 de Moonshot AI compte 2,8 billions de paramètres
    • Qwen3.8 Max est disponible sur les plateformes de codage d’Alibaba, dont Qoder
    • Alibaba prévoit de publier les poids après la préversion
    • Face à l’afflux de demande pour des modèles chinois, Moonshot a temporairement suspendu les nouveaux abonnements
  • Alibaba avait auparavant cessé de publier les poids de ses modèles de pointe, mais revient désormais aux poids ouverts
  • Le discours de Xi Jinping sur l’IA encourage l’open source, l’ouverture, la coopération et le partage, et souligne que l’IA passe du monde numérique au monde physique
    • Il appelle à utiliser l’IA pour transformer les industries traditionnelles, faire croître les industries émergentes et planifier les industries futures, afin que tous les secteurs et toutes les entreprises en bénéficient
  • La stratégie de la Chine consiste à marchandiser une IA qui complète ses propres industries
    • Le monde physique et la robotique, où la Chine est forte, peuvent bénéficier de modèles d’IA largement disponibles
    • Elle peut empêcher les États-Unis d’obtenir un avantage asymétrique dans l’IA et affaiblir la puissance des laboratoires américains de pointe
    • Elle peut aussi absorber l’innovation issue de l’écosystème ouvert

L’écart structurel créé par la distillation

  • Il est peu probable que la Chine empêche les attaques par distillation contre les laboratoires de pointe
  • Il serait tout aussi erroné d’attribuer tout le succès des laboratoires chinois à la distillation que de nier les grands avantages qu’elle procure
  • Depuis un an, l’apprentissage par renforcement en post-entraînement est devenu important pour les performances des modèles, ce qui a accru l’efficacité de la distillation
    • Les laboratoires chinois peuvent utiliser les modèles de pointe comme enseignants sans construire d’environnements d’apprentissage par renforcement à partir de zéro
    • Cela leur permet de s’améliorer rapidement à un coût bien moindre
    • La distillation n’est pas le seul facteur qui explique les faibles coûts de développement des modèles chinois, mais elle est importante
  • En Occident aussi, les modèles chinois eux-mêmes servent à la distillation
    • Thinking Machines, qui a publié un modèle à poids ouverts, s’appuie sur des modèles chinois pour résoudre le problème du démarrage à froid en apprentissage par renforcement
  • Selon l’analyse de Dean Meyer et Konstantine Buhler, les laboratoires chinois disposent d’excellents chercheurs, de capacités de calcul massives, de puissants modèles pré-entraînés, d’une co-conception logiciel-matériel et de capacités améliorées de post-entraînement
    • La distillation compresse l’écart final coûteux entre de solides modèles de base et des systèmes proches de l’état de l’art
    • Les contrôles peuvent rendre la distillation à grande échelle plus difficile et plus chère, mais ils ne l’élimineront pas chez les acteurs soutenus par un État
    • Chaque progrès des modèles de pointe occidentaux donne aux laboratoires chinois un nouvel enseignant
  • Les développeurs américains de modèles à poids ouverts doivent respecter les conditions d’utilisation des laboratoires de pointe, ce qui les désavantage par rapport aux modèles chinois ; au final, ils en viennent à distiller à nouveau des résultats déjà distillés via les modèles chinois
  • Les grands modèles de langage eux-mêmes résultent aussi de la collecte des connaissances de l’Internet public et de leur compression dans des modèles ; il y a donc une contradiction à ne considérer comme fautive que la distillation des réponses d’API d’autres modèles
  • Les États-Unis ont besoin de deux mesures juridiques
    • Il faut préciser que la collecte de données pour entraîner des modèles relève du fair use
    • Au moins pour les entreprises américaines, il ne faut pas autoriser les conditions d’utilisation qui interdisent la distillation
  • Plutôt que de bloquer une distillation difficile à distinguer des requêtes API, il faut protéger juridiquement l’apprentissage des laboratoires et permettre d’utiliser ses résultats pour l’innovation ultérieure

Le véritable domaine de préoccupation : la cybersécurité

  • L’infrastructure de production de Hugging Face a été compromise par un système d’agents IA autonomes, et les garde-fous des modèles américains de pointe n’ont pas su distinguer les intervenants en réponse à incident des attaquants, ce qui a empêché la réponse
  • L’équipe de défense a exécuté le modèle open source GLM 5.2 de la société chinoise Z.ai sur sa propre infrastructure afin d’analyser plus de 17 000 journaux et traces laissés par l’attaquant
  • Hugging Face recommande de valider, avant un incident, un modèle performant pouvant être exécuté sur sa propre infrastructure
    • Cela permet d’éviter les blocages d’accès dus aux garde-fous
    • Cela empêche les données d’attaque et les identifiants de sortir vers un environnement externe
  • Dans un contexte où des modèles dotés de capacités offensives sont déjà largement disponibles, les défenseurs doivent eux aussi avoir accès aux modèles les plus performants
  • En raison des directives de l’administration Trump, les défenseurs ne peuvent pratiquement pas utiliser Fable ou Sol pour la cybersécurité ; les modèles chinois deviennent donc la meilleure alternative
  • Les États-Unis doivent appliquer deux politiques
    • Assouplir les restrictions de cybersécurité de Fable et Sol
    • Garantir que les développeurs américains de modèles à poids ouverts puissent concurrencer la Chine à conditions égales
  • Si l’on laisse les laboratoires de pointe monopoliser les critères de sûreté et de sécurité, ou bloquer l’accès ultérieur au savoir collectif, la défense des entreprises américaines dépendra des modèles chinois
  • Les laboratoires américains devraient concurrencer par de meilleurs modèles et de meilleures structures de coûts, plutôt que d’empêcher la concurrence par des restrictions, et ne pas céder à la Chine le leadership de l’ouverture et de l’innovation

À lire aussi

2 commentaires

 
kaydash 6 시간 전

Pardon, la Terre.
 
GN⁺ 15 시간 전
Avis sur Hacker News

  • Ceux qui craignent le plus les modèles chinois sont les sociétés de capital-risque qui ont investi dans les valorisations astronomiques d’Anthropic et d’OpenAI. Anthropic vise 1,2 billion de dollars, et OpenAI 850 milliards de dollars, des valorisations fondées sur l’hypothèse qu’elles pourront dégager d’énormes bénéfices avec des API coûteuses.
    Les laboratoires chinois sapent cette stratégie en distribuant gratuitement d’excellents modèles ouverts ; si même les laboratoires de pointe entrent dans une guerre de baisse des prix des tokens, les valorisations actuelles des entreprises deviendront difficiles à justifier et les investisseurs subiront d’énormes pertes comptables.

    • L’article couvre aussi assez bien une bonne partie de ces enjeux. La rentabilité d’un marché de commodités est déterminée par le coût marginal de production et, contrairement au logiciel traditionnel, l’inférence des LLM a un coût marginal.
      Le modèle est gratuit à télécharger, mais son exécution ne l’est pas ; son économie ressemble donc davantage à celle de l’industrie manufacturière qu’à celle du logiciel. En utilisant GLM 5.2 sur de vraies tâches, il m’a coûté plus cher que GPT 5.6, et les laboratoires américains sont en avance sur le coût d’inférence par tâche.
      À mesure que la part de l’inférence augmente avec les tâches agentiques, celle du coût d’entraînement diminue ; l’efficacité en tokens est difficile à distiller, si bien que les LLM chinois semblent inefficaces. Les modèles optimisés pour une forte demande d’inférence peuvent atteindre un faible coût par tâche, et OpenAI, grâce à une tokenisation efficace et à des réponses courtes, revient à moins de la moitié du coût par tâche d’Anthropic ; sur les tâches de pointe, il est à la fois moins cher que les modèles chinois et meilleur.
    • Dans ce cas, il ne faudrait sans doute pas chercher à acheter des actions OpenAI sur le marché privé.
    • Tout le monde comprend sans doute que les modèles finiront par devenir des commodités. Sur le marché grand public, ce sont la base d’utilisateurs monétisable par la publicité et l’upsell, ainsi que les couches additionnelles propriétaires, qui gagneront de l’argent.
      Les entreprises non plus ne dépenseront pas des fortunes en tokens. Quand les laboratoires n’auront plus besoin de subventionner les coûts d’entraînement, le coût des tokens sera divisé par 10 ; puis, quand les modèles seront gravés dans les puces, il sera encore divisé par 10, au point qu’il pourrait devenir difficile de consommer une quantité significative de tokens à moins de le vouloir délibérément.
    • Les laboratoires chinois ont démontré que le modèle lui-même ne peut pas être un moat, et que les inquiétudes de sécurité n’étaient qu’une tentative de capture réglementaire. C’est aussi pour cela qu’OpenAI et Anthropic se dépêchent de trouver une sortie avant que leurs valorisations ne soient remises en question.
    • À l’inverse, les sociétés de capital-risque investies dans des entreprises SaaS veulent que les tokens deviennent une commodité bon marché et que la valeur s’accumule dans la couche SaaS et applicative.

  • Contrairement à l’idée selon laquelle Claude Code et Codex seraient très collants, j’ai utilisé Claude Code presque exclusivement en hiver et au printemps, puis je suis passé à Codex au début de l’été sans aucune difficulté. Avant cela, j’utilisais Cursor, et la transition s’était faite de la même façon ; j’ai aussi utilisé brièvement Conductor, mais cela m’a surtout semblé fournir un environnement d’exécution pour Claude/Codex.

    • C’est vrai pour un usage personnel, mais dans les entreprises, les décisions d’achat ont des coûts de changement très élevés. Les achats et les validations exigent de nombreuses procédures, donc un produit installé reste en place longtemps.
      Quelques années plus tard, si un commercial convainc un dirigeant en mettant en avant des économies, l’entreprise changera de nouveau, davantage pour le prix que pour un meilleur produit. Dans l’entreprise de ma femme aussi, ils changent de suite logicielle tous les un à deux ans, à peu près au moment où tout le monde s’est habitué au nouvel outil.
    • Je suis passé du site web de ChatGPT au site d’Anthropic, puis à Cursor, Windsurf!, Claude, opencode, ohmypi, Codex, avant de revenir à Cursor. La combinaison de grok 4.5 fast et de l’ergonomie de Cursor est excellente, et le coût pour changer de modèle et d’environnement d’exécution était pratiquement nul.
    • Les formes et les fonctionnalités convergent tellement qu’il m’arrive d’en ouvrir un et de croire que c’est un autre produit.
    • Pour mettre en place un flux de travail IA destiné à des non-développeurs, il faut installer des connecteurs MCP et certaines fonctionnalités, contourner les particularités des modèles et des environnements d’exécution, et définir des périmètres de sécurité. Cela demande un travail conséquent ; une fois que cela fonctionne correctement, la plupart des gens n’ont plus envie de modifier la configuration.
    • Les personnes de mon entourage qui peuvent utiliser les deux passent souvent de l’un à l’autre, qu’elles soient techniciennes ou non. Les écarts de performance sont faibles et, selon le contexte, l’un fait mieux le travail souhaité que l’autre.

  • J’exploite un gros site d’analyse B2B qui reçoit des données backend de clients, et nous observons un volume important de trafic en provenance de Shenzhen Tencent Computer Systems Company Limited depuis la région du Xinjiang, dans le nord-ouest de la Chine. Cinq ou six autres entreprises chinoises sollicitent aussi en continu les sites web de nos clients.
    Les images satellite montrent la construction de grands datacenters utilisant une énergie solaire bon marché. Depuis quelques mois, les informations de géolocalisation de ces IP ont commencé à indiquer Shanghai ou Shenzhen, mais les mesures de latence suggèrent qu’elles fonctionnent toujours depuis le Xinjiang.
    La référence est « You Can't Cheat Time: Finding foes and yourself with latency trilateration » https://youtu.be/_iAffzWxexA, fournie par l’utilisateur HN lopoc. Distinguer Shenzhen du Xinjiang est difficile, mais la différence entre Shanghai et le Xinjiang apparaît clairement.
    Supposer que la Chine ne fait que de la distillation serait une grave erreur. Comme le montrent ByteDance et Xiaomi, la Chine n’est plus un pays à la traîne qui se contente de copier à faible valeur ajoutée.
    Les entreprises chinoises, comme les entreprises américaines, paient des humains et crawlent le web pour obtenir des données. D’après ce que je comprends, le gouvernement encourage certaines grandes entreprises à collecter rapidement le web pour constituer des corpus, puis à les fournir à des entreprises stratégiques en Chine.
    Il existe aussi des agrégateurs qui achètent des données d’apps, de sites web et de services ; et via des systèmes comme OpenRouter ou Cursor, il est possible d’entraîner des modèles sur les traces d’exécution des agents de code et des conversations. Cela réduit fortement les coûts pour de petites entreprises comme DeepSeek, qui n’ont pas besoin de récupérer elles-mêmes des données auprès de centaines de sites et d’agents de code.
    Il existe également des sociétés qui achètent des API LLM américaines pour les relayer à des entreprises chinoises. Même si plus de 10 000 entreprises utilisent des produits d’IA américains, il est possible que la Chine enregistre leurs usages et leurs traces d’exécution pour les exploiter dans l’entraînement.

  • Le postulat central selon lequel « Anthropic et OpenAI ont probablement le coût par unité d’intelligence de pointe le plus faible » n’est pas suffisamment démontré. Il n’existe pas non plus de benchmark comparant, à conditions identiques, le nombre de tokens nécessaires pour obtenir une réponse ; il n’y a qu’une vague insinuation selon laquelle les modèles américains seraient plus efficaces en tokens.
    Il ne compare pas non plus les prix moyens de l’électricité en Chine et aux États-Unis, point sur lequel la Chine semble avantagée. Je suis d’accord pour dire que les benchmarks de code et autres ignorent le coût des ventes, mais la conclusion selon laquelle « les labos de pointe s’en sortiront » repose sur une hypothèse importante.

    • Si l’on exécute des modèles chinois dans des datacenters américains, on peut se demander en quoi le prix de l’électricité en Chine change quoi que ce soit. La menace posée par Kimi tient au fait que, même s’il n’atteint pas la dernière version de Claude, il permettrait d’exécuter sur son propre matériel un modèle comparable aux versions précédentes, rendant Claude inutile.

  • Si l’on autorise le scraping des connaissances publiques d’Internet pour créer des LLM, il paraît logique d’autoriser aussi la distillation de ces modèles. La proposition consistant à consacrer la collecte de données d’entraînement comme fair use tout en interdisant les conditions d’utilisation qui proscrivent la distillation ressemble fort à un retour de bâton.

    • Si les LLM peuvent s’entraîner sur des données protégées par le droit d’auteur, il serait juste qu’ils puissent aussi s’entraîner sur les sorties d’autres LLM, qui ne peuvent pas être protégées par le droit d’auteur. Cela dit, il est difficile de convaincre qu’il faudrait empêcher les conditions d’utilisation d’interdire la distillation, et l’on peut se demander s’il faut aussi interdire à OpenAI de choisir les types de clients qu’elle souhaite servir.
    • Interdire la distillation revient un peu à interdire d’utiliser un compilateur pour créer un nouveau compilateur meilleur et plus efficace.
    • Sinon, ce n’est qu’une règle que les labos de pointe aiment appliquer « aux autres seulement ».
    • Créer un LLM à partir de données brutes ajoute de la valeur, tandis que la distillation ne fait qu’extraire de la valeur : c’est une différence. La frontière est floue et il n’y a pas de réponse certaine, mais il faut commencer par reconnaître cette différence.
      On peut considérer Internet comme un bien public et taxer les labos, mais c’est une question différente de celle de la distillation.

  • Après avoir construit moi-même un environnement d’exécution pour agents, j’ai constaté que les performances de l’IA viennent presque entièrement du modèle lui-même, et que l’environnement d’exécution compte assez peu. Même avec une configuration minimale comme mini-swe-agent pour les benchmarks, le modèle accomplit bien les tâches.
    Je suis donc sceptique face à l’idée que l’environnement d’exécution constitue un moat, d’autant que Claude Code a longtemps été très bogué.

    • Ici, l’environnement d’exécution semble désigner non seulement le code, mais l’ensemble de l’expérience produit pour l’utilisateur final. Je continue à utiliser Codex parce que l’app Mac est meilleure et que je me suis habitué à sa façon d’exécuter les automatisations ; plus on construit de workflows — outils de design, collaboration, etc. — plus l’effet de verrouillage augmente.
      L’article lié est https://stratechery.com/2026/anthropics-safety-superpower/. Si l’on possède le point de contact avec l’utilisateur et que l’on devient le canevas de toutes les tâches, un fort effet de verrouillage apparaît ; les labos de pointe qui ne veulent pas rester de simples intrants génériques pour les logiciels finiront donc par entrer en conflit avec les éditeurs de logiciels existants.
    • On se retrouve surtout captif parce que les fournisseurs de modèles n’autorisent les forfaits subventionnés que dans leur propre environnement d’exécution. Bien sûr, il reste possible de changer à la fois de modèle et d’environnement d’exécution.
    • L’environnement d’exécution deviendra lui aussi une commodité, mais pour l’instant, surtout dans les produits qui ne sont pas basés sur le terminal, les écarts de qualité comptent énormément.

  • On assimile « chinois » à « non fiable », mais la distinction la plus importante est entre ouvert et fermé. Les modèles ouverts peuvent être audités et fine-tunés, et peuvent aussi tourner entièrement sur son propre matériel ; les modèles fermés reviennent essentiellement à dire « faites-nous confiance ».

    • Les modèles à poids ouverts sont plus faciles à auditer que les modèles fermés, mais il reste possible d’y dissimuler des backdoors pratiquement indétectables.

  • Le monde entier, à commencer par les États-Unis, doit surveiller les labos de pointe chinois. On ne peut pas présumer que la Chine aura toujours quelques mois de retard ; elle pourrait être au même niveau, voire en avance.
    Les décideurs politiques doivent tirer les leçons de l’acier, du solaire et des véhicules électriques. La manière dont le gouvernement chinois construit un système capable de dominer des industries entières mérite d’être respectée et étudiée ; les démocraties, si elles ne changent pas de système, seront intrinsèquement plus lentes à adopter l’IA.
    Les gouvernements démocratiques comme ceux des États-Unis, de l’Europe et de l’Inde doivent élaborer une stratégie IA de long terme exécutable indépendamment des alternances politiques et protéger rigoureusement leurs labos nationaux. Mais cela n’est possible que si le prix de l’intelligence par tâche productive de ces labos est comparable à celui des modèles à poids ouverts, ce qui n’est pas le cas aujourd’hui.
    La protection ne doit pas prendre la forme de plans de sauvetage, mais d’une énergie bon marché et d’autorisations rapides pour les datacenters. Il faut aussi mettre en place des garde-fous minimaux pour que les clients n’utilisent des modèles à poids ouverts que lorsqu’ils sont hébergés localement par des entreprises nationales ; sinon, la compétitivité risque de s’éroder progressivement.

  • Même @deanwball d’OpenAI ne semble pas adhérer à la logique de la distillation : https://xcancel.com/deanwball/status/2078133895766114412#m

    • Il est difficile de comprendre l’idée selon laquelle « les modèles ouverts sont intrinsèquement décélérationnistes ». Son raisonnement est que la baisse des coûts réduirait les fonds qu’OpenAI consacre au développement, ralentissant ainsi la vitesse des progrès de l’IA ; cela ressemble à un exceptionnalisme excessif, comme si OpenAI était seule à faire avancer le domaine.
    • Prédire qu’un « Covid de l’IA » s’échappera d’un labo chinois est ridicule.
    • Il affirme que les modèles à poids ouverts mèneront au « communisme de l’IA » et à un « enfer dystopique », puis propose immédiatement de créer une agence fédérale américaine pour limiter l’usage des modèles ouverts chinois. Le raisonnement orienté par les motivations va trop loin.
    • Plusieurs formulations de ce texte devraient être reformulées en termes compréhensibles par le grand public. On ne voit pas clairement quels risques il y aurait à laisser la Chine publier des modèles aussi performants, ni ce que signifie l’idée que le Parti communiste chinois serait ignorant de la possibilité de l’AGI et aurait une vision proche de celle de Yann LeCun.
      Il est également difficile de comprendre pourquoi les poids ouverts ralentiraient intrinsèquement le progrès, ni pourquoi un monde centré sur les modèles ouverts mènerait à un communisme intégral de l’IA, où l’État fournirait l’IA comme infrastructure publique numérique, puis à une dystopie.

  • Si Anthropic possède un modèle comme Mythos, il est très probable que des pays concurrents comme la Russie et la Chine aient déjà développé quelque chose de similaire ou de meilleur, ou qu’ils ne soient pas très loin derrière.