L’essor du logiciel industriel

• Les progrès des outils de codage par IA font passer la production logicielle d’un mode artisanal à une phase industrialisée et automatisée, rendant possibles la réduction des coûts et la production à grande échelle
• Comme effet secondaire de cette industrialisation, une nouvelle catégorie de logiciels jetables émerge : des logiciels générés sans attente de propriété, de maintenance ni de compréhension à long terme
• Selon le paradoxe de Jevons, l’amélioration de l’efficacité entraîne au contraire une hausse de la consommation totale, et le même phénomène est attendu dans la production logicielle
• De la même manière que l’industrialisation de l’agriculture a produit non pas l’abondance, mais des aliments ultra-transformés et une crise de l’obésité, l’industrialisation du logiciel pourrait créer une pression économique en faveur d’une production de masse de faible qualité
• Le progrès technique résulte de l’interaction entre industrialisation et innovation, et la question centrale se résume à : « Qui assurera la maintenance des logiciels que personne ne possède ? »

---

La transition du logiciel vers l’industrialisation

• Historiquement, le logiciel relevait d’un artisanat dont le coût de production était déterminé par le coût du travail de professionnels hautement qualifiés
• L’industrialisation vise, par l’automatisation, à réduire la dépendance au travail humain tout en obtenant à la fois une baisse des coûts et une production plus extensible
• Le rôle humain se réduit à la supervision, au contrôle qualité et à l’optimisation des processus industriels
• Effets primaires et secondaires de l’industrialisation
  • Effets primaires : perturbation des chaînes d’approvisionnement en produits de haute qualité, désintermédiation du travail, baisse des barrières à l’entrée, intensification de la concurrence, accélération du rythme du changement
    • Ces effets commencent déjà à apparaître dans l’industrie logicielle traditionnelle
  • Effets secondaires : de nouvelles formes de production de masse de produits à faible qualité et faible coût deviennent possibles
    • Industrialisation de l’imprimerie → apparition des romans de genre en format poche
    • Industrialisation de l’agriculture → apparition de la junk food ultra-transformée
    • Industrialisation des capteurs d’image numériques → apparition de la vidéo générée par les utilisateurs
• Dans le logiciel, l’industrialisation de la production fait émerger le logiciel jetable (Disposable Software)
  • Logiciel jetable : logiciel produit sans attente durable de propriété, de maintenance ni de compréhension à long terme
  • Ses partisans parlent de « vibe-coded software », tandis que ses sceptiques le qualifient de « AI slop »
  • Sa reproductibilité facile réduit la valeur économique de chaque production logicielle individuelle
  • Ce manque de valeur peut pousser à considérer la tendance comme une mode passagère, mais ce serait une erreur de jugement

Le paradoxe de Jevons et l’addiction au slop

• Paradoxe de Jevons : théorie économique selon laquelle, au XIXe siècle, l’amélioration de l’efficacité de la consommation de charbon a réduit les coûts, accru la demande, puis augmenté la consommation totale
  • On observe aujourd’hui le même phénomène dans le calcul IA : plus l’efficacité de prédiction des tokens par les modèles augmente, plus la demande explose, ce qui accroît la consommation totale
• Dans le développement logiciel aussi, l’histoire suggère qu’une baisse du coût d’effort peut conduire à davantage de consommation et de production
• Leçon de l’industrialisation agricole
  • Au début du XXe siècle, on espérait que les progrès scientifiques éradiqueraient la faim et ouvriraient une ère d’abondance alimentaire, mais en 2025, 318 millions de personnes sont toujours en situation de faim aiguë
  • Le taux d’obésité chez les adultes aux États-Unis atteint 40 %, tandis que la crise du diabète s’aggrave
  • Bien que les aliments ultra-transformés soient largement reconnus comme nocifs, la majorité des Américains en consomment chaque jour
  • Les systèmes industriels créent continuellement une pression économique vers la surabondance et les produits de faible qualité
    • Lorsque les coûts de production tombent suffisamment bas, les produits médiocres deviennent ceux qui maximisent le volume, la marge et la portée
• Il est probable que l’appétit pour l’AI slop soit tout aussi difficile à rassasier
• Comme le smartphone a démocratisé la capture photo, vidéo et audio, la démocratisation du logiciel pourrait conduire à des logiciels générés par les utilisateurs à l’échelle des réseaux sociaux, créés, partagés puis abandonnés
• Une boucle de rétroaction entre nouveauté et récompense pourrait provoquer une explosion de la production logicielle qui ferait paraître dépassé le développement des cinquante dernières années

Le logiciel traditionnel peut-il survivre ?

• Tout comme les aliments ultra-transformés ne sont pas la seule option, il existe une demande réelle et croissante pour une production alimentaire saine et durable
• Un mouvement de « logiciel biologique » pourrait émerger
• Exemple de l’industrie de l’habillement : avant l’industrialisation, les vêtements étaient produits par des artisans, des guildes, du travail manuel, des ressources locales et une expertise accumulée sur plusieurs années
  • Après l’industrialisation : transport intercontinental des matières premières, production de masse en usine, assemblage mécanique, mode rapide, jetable et exploitante
  • Pourtant, les vêtements artisanaux existent toujours, du costume sur mesure à l’écharpe tricotée main
  • Pour des raisons variées : coupe personnalisée, affichage de richesse, durabilité du produit, ou simple plaisir de l’artisanat comme loisir

• La spécificité du logiciel : bien immatériel et innovation

  • Si le logiciel était un produit physique, le logiciel écrit par des humains aurait peut-être été relégué à une niche, comme la haute couture ou la maille faite main
  • Mais le logiciel est un bien immatériel (intangible good) et, contrairement à d’autres domaines industrialisés, il possède intrinsèquement une longue histoire de réutilisation de composants
  • L’innovation ne se limite pas à produire des versions meilleures ou moins chères de l’existant, elle inclut aussi l’expansion même de l’espace des solutions
    • Comme la machine à vapeur a permis les pièces mécaniques réutilisables, qui ont permis les chaînes de production, lesquelles ont à leur tour permis l’automobile
  • Le mécanisme de progrès technologique dans le développement logiciel inclut non seulement l’industrialisation, mais aussi l’innovation
  • La R&D coûte cher, mais c’est le seul chemin qui crée davantage de valeur avec le temps

• Différence entre innovation et industrialisation

  • L’innovation ne consiste pas à répliquer plus efficacement ce qui existe aujourd’hui
  • Elle consiste à identifier et résoudre de nouveaux problèmes, à construire sur l’existant et à fournir des capacités qui n’auraient pas pu exister auparavant
  • L’industrialisation arrive ensuite pour apporter échelle et marchandisation, et fournir la base sur laquelle le prochain cycle d’innovation pourra se construire
  • L’interaction entre ces deux forces constitue le « progrès »

• Grands modèles de langage : le moment machine à vapeur du logiciel

  • Les LLM sont le moment machine à vapeur du logiciel
  • Ils abaissent brutalement le coût d’une classe de tâches qui dépendait auparavant entièrement d’un travail humain rare, et permettent une accélération extraordinaire de la production
  • La machine à vapeur non plus n’est pas apparue dans le vide : les moulins à vent et à eau ont précédé les turbines de plusieurs siècles
  • La mécanisation n’a pas commencé avec le charbon et l’acier ; elle a atteint un point d’inflexion où automatisation, échelle et capital se sont combinés pour produire une transformation économique
  • Le logiciel est industrialisé depuis longtemps lui aussi :
    • composants réutilisables (code open source)
    • portabilité (conteneurisation, cloud)
    • démocratisation (outils low-code/no-code)
    • interopérabilité (standards d’API, gestionnaires de paquets)

Le cycle sans fin du progrès

• Nous entrons dans une révolution industrielle du logiciel, mais il s’agit moins d’une rupture que d’une accélération massive
• L’industrialisation ne remplace pas le progrès technologique, mais accélère fortement à la fois l’absorption des nouvelles idées et la marchandisation des nouvelles capacités
• À mesure que le coût de construction sur les nouvelles technologies baisse plus rapidement, l’innovation se débloque plus vite
• Le cycle du progrès continue, mais à l’ère de l’automatisation de masse, la roue tourne plus vite que jamais

La question centrale : écosystème et maintenance

• La vraie question n’est pas de savoir si le logiciel industriel dominera, mais ce que cette domination fera à l’écosystème environnant
• Les précédentes révolutions industrielles ont externalisé leurs coûts vers des environnements qui semblaient infinis, jusqu’à ce qu’ils ne le soient plus
• L’écosystème logiciel n’est pas différent : chaînes de dépendances, charge de maintenance, surface d’attaque de sécurité qui se multiplie avec l’échelle de production
• La dette technique est la pollution du monde numérique : elle reste invisible jusqu’à étouffer les systèmes qui en dépendent
• À l’ère de l’automatisation de masse, le problème le plus difficile ne sera peut-être pas la production, mais la gestion responsable (stewardship)
• Question centrale : « Qui assure la maintenance des logiciels que personne ne possède ? »

[GN⁺]

Commentaires sur Hacker News

• Cet article confond le build logiciel et l’écriture de logiciel
  Il existe déjà dans le monde des logiciels bon marché produits en masse capables d’accomplir presque toutes les tâches
  Le rôle du développeur est de créer de nouveaux plans, comme un architecte ou un ingénieur de conception
  Ce type de conception demande un sens esthétique et une compréhension du contexte, et les LLM n’aident pas beaucoup sur ce point
  Apprendre le russe ne fait pas de vous Tolstoï

  • Comme l’a dit Jeff Bonwick, cité par Bryan Cantrill, le code est à la fois de l’information et une machine
    Quand un architecte produit des plans, ils sont réalisés sous la forme d’un bâtiment physique, mais quand un développeur écrit du code, celui-ci devient lui-même une machine en fonctionnement
    Cette idée est aussi expliquée dans cette vidéo YouTube
    Dessiner une architecture en UML ne revient pas à fabriquer une machine réelle
  • On dirait que vous vous accrochez trop au sens technique des termes
    L’idée principale du texte est que la plupart des logiciels ne seront plus des produits d’artisanat, mais des produits industrialisés fabriqués en masse
    Cela n’empêchera pas l’existence de très bons logiciels
  • Travaillant dans la construction, je dirais que les ingénieurs de conception peuvent laisser les détails aux entreprises de réalisation, mais ce n’est pas possible en logiciel
    Le logiciel englobe la conception, l’exploration des cas limites et l’implémentation réelle
    Autrement dit, la conception ne représente qu’un tiers du processus
  • En réalité, beaucoup de projets finissent en code spaghetti à cause de l’ignorance des décideurs métier
    De bons ingénieurs peuvent en atténuer les effets, mais seulement jusqu’à un certain point
    Au bout du compte, avec des processus irréfléchis, on ne peut produire que du code comparable à des « déchets industriels »
  • L’analogie du texte est mal interprétée
    Ce que produisent les LLM, ce n’est pas un « chef-d’œuvre de la littérature russe », mais du code du niveau de commentaires sur les réseaux sociaux russes
    Les LLM excellent à produire du logiciel de mauvaise qualité à bas coût
    Grâce à eux, on peut facilement créer de petits scripts simples qui auparavant ne valaient pas la peine d’être développés,
    mais cela a aussi pour effet secondaire de faire proliférer le contenu poubelle

• Penser par analogie paraît convaincant, mais en pratique c’est fragile
  Les biens physiques et les logiciels ont des structures de coût marginal totalement différentes
  Pour les biens physiques, le coût unitaire est supérieur à zéro, alors que pour les biens numériques, le coût marginal est nul
  Comme la plupart des logiciels sont déjà gratuits ou très bon marché, la notion d’« industrialisation low cost » n’est pas vraiment pertinente
  Même si l’IA réduit les coûts de développement, la structure du marché ne changera pas fondamentalement

  • Les analogies sont utiles pour explorer de nouvelles possibilités, mais elles ne doivent pas servir de logique d’exclusion
  • Le texte précise lui-même qu’il ne s’agit pas d’une comparaison totalement 1:1
  • Les biens numériques ont eux aussi des postes de coût : stockage, bande passante, électricité, etc.
    De plus, les consommateurs sont souvent plus sensibles au prix qu’à la qualité
    La domination des jeux mobiles gratuits sur les jeux payants en est un bon exemple

• J’ai récemment mené un projet personnel presque terminé avec un LLM
  J’ai créé un site web sur l’histoire de mon village, et il était difficile d’empêcher le modèle de partir dans une direction absurde au fil du temps
  La vitesse a augmenté, mais il fallait toujours quelqu’un pour tenir le rôle du capitaine

  • Le problème, c’est que le rôle des « rameurs » disparaît
    Quand on passe d’un capitaine et 100 rameurs à un capitaine et une machine à vapeur, on finit par se demander où tous les autres sont censés aller

• L’idée selon laquelle l’industrialisation ferait baisser la qualité est erronée
  Les systèmes de production de masse peuvent au contraire améliorer de manière extrême le contrôle qualité
  Dans bien des cas, une voiture de série de milieu de gamme est meilleure qu’une voiture fabriquée artisanalement

  • L’industrialisation garantit un plancher de qualité plus élevé, mais implique aussi un plafond
    Comme pour le pain artisanal ou les meubles faits main, certains produits d’artisan sont bien supérieurs aux produits de masse
    Mais leur potentiel de marché est plus faible
  • Les supercars artisanales ou les produits de pâtisseries artisanales restent supérieurs aux produits de grande série
    Autrement dit, l’industrialisation ne remplace pas tous les segments de qualité
  • Je doute que l’IA puisse améliorer le contrôle qualité
  • Il faudrait déjà clarifier ce qu’on entend par « qualité »
    La plupart des voitures de luxe sont encore fabriquées de manière artisanale
  • Dans ce cas, comment expliquer des exemples comme les meubles amish ?

• En tant que développeur avec 30 ans de carrière, la plupart du code que j’ai écrit a fini à la poubelle
  Je continue à faire du traitement de données, de l’analyse de logs, de la modélisation, et l’arrivée de l’IA ne change pas l’essentiel
  Le résultat a simplement des « couleurs » un peu plus voyantes

  • Cela fait 25 ans que je travaille, mais j’ai très peu de code réellement déployé en production
    La plupart des projets ont été annulés ou se sont arrêtés au stade du prototype
  • De la même façon qu’un tailleur voit ses vêtements finir par être jetés, le logiciel aussi a une durée de vie
    La relation entre vêtements faits main et fast fashion ressemble à celle entre développement traditionnel et code généré par IA
  • Je trouve cette réalité inquiétante
    C’est pourquoi je pense qu’il faut chercher un sens émotionnel hors du travail, dans les voyages, la famille, l’art, etc.

• On voit aujourd’hui de plus en plus de logiciels personnels “vibe-coded”
  Les side projects de Simon Willison en sont un exemple
  À l’avenir, je pense qu’on verra davantage de forks à usage individuel

  • J’ai moi aussi commencé récemment à contribuer à l’open source en ajoutant de petites fonctionnalités
    Mais l’intégration en amont prend beaucoup de temps
    Automatiser l’environnement de build avec Nix m’a grandement facilité la vie
    J’aimerais que Nix soit plus largement utilisé, même si j’ai aussi des inquiétudes sur la monoculture

• Un aspect important du logiciel, c’est le coût d’apprentissage pour l’utilisateur
  Les logiciels propriétaires forcent les utilisateurs à s’adapter aux nouvelles versions, alors que l’open source peut offrir des interfaces stables qui réduisent ce coût de réapprentissage
  Exemples : mutt, vim, talon

  • La frontière ne passe pas uniquement entre open source et non-open source
    Windows a au contraire fourni des API stables, et même dans l’open source il existe de nombreux cas de changements cassants
  • J’appelle ce concept le Knowledge Pool
    C’est le réservoir de connaissances collectives qu’une organisation partage à propos d’un outil ou d’une méthode donnée
    Les changements d’interface inutiles épuisent ce réservoir de connaissances, donc le préserver devient un avantage concurrentiel

• La révolution industrielle du logiciel a déjà commencé avec l’apparition des langages de haut niveau
  C’est à partir du moment où il est devenu possible d’utiliser des langages de haut niveau au lieu de l’assembleur que tout a commencé

  • Le texte le reconnaît aussi
    L’open source, le cloud, le low-code/no-code, la standardisation des API, etc. poussent déjà cette industrialisation
  • Mais le terminal, le clavier, les environnements d’édition en temps réel ont aussi été une autre révolution
    Le passage des cartes perforées à un environnement de développement interactif a été la véritable révolution
  • Quand on regarde des modèles comme Codex ou Claude Code, on voit bien que ce n’est encore que le début
    Jusqu’à présent, les avancées n’ont été qu’un gain de vitesse, et des changements bien plus profonds restent à venir

• Moi aussi, je comprends la vision de l’auteur
  La plupart des logiciels sont inutilement complexes, et je veux simplement des outils qui résolvent mes problèmes
  Par exemple, j’ai créé avec un LLM un outil qui prend des fichiers audio, les découpe scène par scène et les synchronise avec des images pour produire une vidéo
  Il y a des bugs et il manque des fonctionnalités, mais c’est suffisant pour résoudre mon problème
  Au fond, je n’ai pas besoin du logiciel, mais du résultat final (la vidéo)
  Je pense pouvoir faire une meilleure version au prochain projet
  L’ère du logiciel industrialisé a déjà commencé, et nous devons nous y adapter

  • Mais les logiciels connectés au monde réel, comme la banque, les impôts ou la paie, sont différents
    Ces systèmes ne peuvent pas être remplacés simplement par du code, et il existe déjà des alternatives gratuites

• L’assembleur, les compilateurs, le garbage collection, les langages de haut niveau, tout cela n’a été au fond que des outils pour élever encore plus la montagne de complexité
  Les LLM aussi : ils permettent seulement d’empiler la complexité plus vite, sans la réduire

  • D’après mon expérience, les LLM n’aident pas à gérer la complexité
    Ils accélèrent simplement le développement