Les critiques des LLM ont raison. Pourtant, j’utilise les LLM

• Tout en reconnaissant les problèmes de droit d’auteur, d’environnement et d’éthique, les productions de mauvaise qualité, l’effondrement de la confiance dans l’open source, l’affaiblissement de la formation des juniors et les dépendances géopolitiques, l’auteur continue d’utiliser les LLM comme outils pour améliorer la qualité de la pensée.
• Les LLM amplifient les idées, opinions et structures existantes : sans jugement humain, ils produisent en masse des déchets éloquents, mais avec suffisamment de réflexion et de responsabilité, ils aident à produire moins de résultats, mais de meilleure qualité.
• De l’extérieur, il est difficile de savoir si une personne a réellement réfléchi ; la valeur d’un résultat dépend donc au final de la confiance et de la réputation, et la ligne de partage avec l’AI slop est de savoir si l’on peut lire publiquement chaque mot sans honte.
• L’auteur détourne la complaisance et les hallucinations des LLM avec /grill-me, les Pitchs de Basecamp, des sous-agents dédiés à la critique, la Ralph Wiggum loop, et une méthode qui fait d’abord halluciner l’API ou l’UX attendue.
• L’expertise de l’utilisateur est indispensable pour distinguer les bons résultats des mauvais ; utiliser les LLM dans des domaines où la bonne réponse est difficile à vérifier, sans expert ni jugement humain, conduit à une production massive de slop.

---

Un terrain où critique et usage coexistent

• À la Local-First Conf de Berlin, les présentations critiquant les LLM étaient vivement applaudies, tandis qu’une grande partie du public gardait Claude Code ouvert.
• Armin Ronacher, créateur de Flask et membre de la première équipe de Sentry, a fondé Earendil pour développer Pi.dev, un harness open source pour agents de codage.
  • Après sa présentation sur la construction d’entités machine, interrogé sur l’afflux de PR générées par LLM dans Pi.dev, il a répondu qu’il fermait automatiquement presque toutes les PR et issues.
  • Il a toutefois ajouté qu’il ne fallait pas renoncer à ouvrir des PR, car la personnalité humaine finit par transparaître.
  • La page de mission d’Earendil affirme que, même dans un monde qui fonce vers l’IA, l’humain reste le meilleur agent.
• Dans les échanges avec les participants à la conférence, cette incohérence consistant à critiquer les LLM tout en les utilisant revenait régulièrement ; ce n’était pas une expérience individuelle isolée.

Pourquoi les critiques des LLM sont fondées

• Les LLM soulèvent des enjeux liés aux contenus protégés par le droit d’auteur, à l’impact environnemental et à l’éthique.
• La structure dans laquelle l’argent circule autour de NVIDIA et d’OpenAI semble difficilement durable, et la bulle actuelle finira probablement par éclater.
• La critique la plus courante, selon laquelle « les LLM produisent beaucoup de slop », correspond à la réalité.

• Effondrement de la confiance dans l’open source

  • Les dépôts open source commencent à refuser toutes les contributions ou à mettre en place des mécanismes pour filtrer les productions générées par LLM.
  • Avant les LLM, une PR correctement rédigée et son explication impliquaient à elles seules au moins plusieurs heures d’effort humain, et les mainteneurs pouvaient examiner une nouvelle contribution en partant du principe qu’un certain temps et une certaine attention y avaient été consacrés.
  • Les trolls ou soumissions de faible qualité étaient aussi relativement faciles à identifier en quelques secondes.
  • Désormais, n’importe qui peut créer un nouveau compte GitHub et lancer un LLM, ce qui rend difficile de distinguer une PR ayant demandé beaucoup de temps d’une soumission générée de façon autonome par une machine OpenClaw.
  • Zig et Gentoo refusent les PR générées par LLM, mais il reste difficile de déterminer si elles l’ont réellement été.
  • Sans restauration de la confiance, les LLM pourraient gravement nuire à l’open source.
  • Parmi les réponses possibles : limiter les contributions à un petit nombre de personnes vérifiées, avec par exemple la participation à des rencontres physiques comme critère de validation.

• Affaiblissement de la formation des ingénieurs juniors

  • Il devient plus difficile de faire confiance à l’effort qu’un junior a réellement investi dans son code.
  • Un senior ne peut pas savoir si un mauvais code est le résultat de 10 minutes de vibe coding ou de plusieurs heures de réflexion sans assez de recul.
  • Avant les LLM, les juniors écrivaient déjà du mauvais code et les seniors le relisaient puis le corrigeaient, mais désormais l’effort et le processus d’apprentissage ne sont plus visibles.
  • Cette incertitude réduit la motivation des seniors à former les juniors.
  • Par le passé, un équilibre existait : les juniors prenaient en charge des tâches simples, et les seniors les faisaient progresser en les relisant avec eux.
  • Si les tâches simples peuvent être entièrement confiées aux LLM, les entreprises ont aussi moins de raisons d’embaucher des juniors.

• Dépendance géopolitique et alignement des opinions

  • On ne peut pas ignorer la possibilité que les États-Unis ou la Chine coupent soudainement une région donnée de l’accès à des technologies liées.
  • En juin 2026, via une ordonnance de contrôle des exportations, le gouvernement américain a montré qu’il avait la volonté et la capacité d’empêcher des clients non américains d’accéder aux modèles les plus récents d’Anthropic.
  • Anthropic a indiqué avoir soudainement désactivé Fable 5 et Mythos 5 pour tous ses clients conformément à la directive du 12 juin 2026.
  • Dans sa présentation sur le local-first dans un monde instable, Martin Kleppmann a déclaré que la probabilité d’un conflit entre l’Europe et les États-Unis restait très faible, mais qu’elle était nulle l’année précédente.
  • Même lorsqu’un LLM n’est utilisé que comme outil de recherche, les opinions majoritaires de ses données d’entraînement ou les convictions politiques de ses concepteurs peuvent s’infiltrer silencieusement dans les résultats.
  • Cela ressemble au phénomène par lequel des humains, en discutant, se mettent à partager certains mots ou certaines opinions, à ceci près que l’un des interlocuteurs n’est pas humain.

Le rôle des modèles locaux et des poids ouverts

• Comme il est difficile d’éliminer totalement les LLM, il faut plutôt chercher à contrôler et façonner le mouvement que le refuser.
• Les modèles qui tournent sur un ordinateur portable libèrent les programmeurs de la dépendance aux grandes entreprises.
  • Les modèles locaux continuent de s’améliorer.
  • Lorsque les subventions prendront fin et que les prix augmenteront, les modèles à poids ouverts pourront contenir les prix et l’influence des grands fournisseurs.
  • Les modèles exécutés sur son propre matériel ne peuvent pas être rendus inaccessibles du jour au lendemain par un gouvernement.
• Même si l’éclatement de la bulle IA cause de lourds dégâts à l’économie mondiale et aux entreprises, les modèles à poids ouverts resteront et offriront aux programmeurs une alternative.
• Les présentations liées à l’IA à la Local-First Conf prenaient aussi les modèles locaux au sérieux, en rendant possible un environnement semblable à l’IA omniprésente de la science-fiction, disponible à tout moment pour répondre aux questions.

Un outil qui amplifie la pensée humaine

• Plusieurs intervenants ont déclaré publiquement avoir confié une partie de leur travail à Claude Code, mais leurs propositions ont été acceptées et ont reçu les applaudissements du public, y compris de seniors et de participants respectés.
• La différence tient à l’existence d’un humain qui engage sa réputation et sa crédibilité sur le résultat.
  • Présenter de l’AI slop fait perdre la confiance accordée à cette personne.
  • Une personne responsable n’abandonne pas sa pensée au LLM ; elle l’utilise pour concrétiser ses propres idées plus vite et plus fortement.
• Les LLM amplifient les opinions, structures et frameworks que l’on possède déjà.
  • S’il y a une pensée, elle apparaît plus nettement et plus vite.
  • S’il n’y en a pas, le résultat est vide, mais extrêmement fluide.
• Ils sont utiles pour le brainstorming, la correction grammaticale, l’amélioration itérative de phrases, la génération d’alternatives, le rubber duck debugging et le rôle d’avocat du diable.
• Plutôt que de produire beaucoup de résultats, l’auteur choisit de produire moins, mais avec une qualité plus élevée.
  • Il utilise énormément de tokens pour préparer quelques phrases destinées à être lues par des humains.
  • Les LLM peuvent soutenir le processus de pensée, mais pas remplacer la pensée elle-même.

La confiance comme critère de distinction de l’AI slop

• Un texte doit être écrit par des humains pour des humains, mais cela n’est pas contradictoire avec le fait d’utiliser des LLM dans tout le processus d’écriture.
• La différence entre AI slop et bon texte dépend de la présence d’une pensée humaine derrière le texte, et la pensée ne peut pas être externalisée.
• Le problème est qu’il est impossible, de l’extérieur, de vérifier si une personne a réellement réfléchi.
  • L’affirmation « j’utilise l’IA pour mieux penser » peut venir aussi bien d’un utilisateur prudent que d’un promoteur irresponsable de l’IA.
  • Des absurdités amplifiées peuvent elles aussi sonner comme des résultats brillants ; il ne reste donc, au final, que la confiance.
• La confiance est difficile à gagner et facile à perdre ; à l’ère des LLM, un simple tiret cadratin peut donner à tout un texte l’apparence d’AI slop.
• Parmi les personnes politiquement intéressées par le Local-First, beaucoup affichent une forte posture anti-LLM, ce qui alimente la crainte que des logiciels créés avec des LLM soient rejetés par la communauté.
  • Même au sein de la conférence, certaines personnes avaient peur de dire publiquement qu’elles utilisaient des LLM.
• En juin 2026, l’auteur a dépensé environ 10 000 dollars en coûts de tokens.
  • Depuis, Fable est devenu trop cher et n’est utilisé que de façon sélective.
  • Pour l’exécution de code pure, il utilise des modèles moins chers comme OpenRouter et GLM 5.2.
• Un critère pratique pour juger du slop consiste à se demander si le résultat peut être lu tel quel devant un public.
  • S’il faut expliquer séparément ce qu’il signifie, il se rapproche du slop.
  • Si l’on peut le lire tel quel sans honte, jusqu’à la dernière lettre, on peut le considérer comme un bon texte.

/grill-me, ou forcer la compréhension

• Les LLM écrivent de mauvais logiciels lorsqu’ils ne comprennent pas le problème réel et les exigences ; avec les compétences et outils nécessaires, ils peuvent aussi produire des résultats tout à fait corrects.
• Le principal obstacle à un résultat correct est la complaisance.
  • Les LLM ne signalent pas qu’ils n’ont pas compris ; ils essaient immédiatement de faire quelque chose.
• Variante de la technique « grill me » de Matt Pocock, /grill-me force l’établissement d’une compréhension partagée avant l’exécution.
  • Il pose des questions insistantes sur tous les aspects et parcourt chaque branche de l’arbre de décision dans l’ordre.
  • Chaque question est accompagnée d’une réponse recommandée.
  • Il pose les questions une par une et attend la réponse de l’utilisateur.
  • Les faits vérifiables dans le système de fichiers ou via les outils sont examinés directement.
  • Les décisions sont demandées à l’humain une par une, et rien n’est exécuté avant confirmation qu’une compréhension commune a été atteinte.
• En recevant les questions une par une, l’utilisateur est amené à former sa propre pensée.
• La même méthode s’applique à l’écriture : commencer par noter des idées confuses, puis affiner chaque phrase sous la critique du LLM.
• Cette approche étape par étape, qui consomme énormément de tokens pour une seule phrase, améliore la qualité du résultat.

Spécifications courtes et périmètre vérifiable

• Même pour de petites tâches de codage, l’auteur suit le Pitch de Basecamp et rédige brièvement trois éléments.

  • Problem

  • What we are shipping

    • What we are not shipping
    • La définition du problème est limitée à trois phrases.
    • Il est facile de remplir le format avec un LLM, mais difficile d’écrire trois bonnes phrases.
    • Comme ce format court est conçu pour les humains, l’auteur peut réellement le lire et d’autres personnes peuvent aussi le relire.
    • La plupart des sorties de LLM sont parcourues rapidement plutôt que lues en détail, mais une définition de problème en trois phrases fait l’objet d’une vérification rigoureuse des faits.
    • Quand le volume à relire devient excessif, la qualité baisse.
    • Sur une review de 1 000 lignes de code, il est facile de ne laisser qu’un LGTM.
    • Sur une review de 100 lignes, on peut laisser 15 commentaires.
    • Le même niveau d’attention est appliqué aux descriptions de PR.
    • Elles restent lisibles et concises.
    • Elles indiquent clairement le problème réel, ce qui sera livré et ce qui ne le sera pas.
    • Un écran de fonctionnement est joint pour montrer immédiatement l’intérêt de la review et le comportement réel.
    • Claude essaie constamment d’ajouter du contenu inutile aux descriptions de PR ; il faut donc les réduire en permanence, même si l’auteur n’y parvient pas toujours suffisamment sur les PR moins importantes.

Agents critiques et détournement des hallucinations

• Pour faire face au contenu produit en masse par les LLM, l’auteur place dans son workflow de codage de petits agents chargés de la critique.
• La Ralph Wiggum loop ou ultracode de Claude consiste à figer un texte, un plan, une spécification ou du code, puis à lancer à répétition des sous-agents dotés d’un nouveau contexte pour trouver des défauts.
  • Les sous-agents ne sont chargés que d’attaquer le contexte donné.
  • La boucle continue jusqu’à ce qu’ils ne trouvent plus de vrais problèmes et se mettent à en halluciner.
• Une fois le stade de l’hallucination atteint, la faiblesse du LLM peut servir de signal de validation.
  • Le LLM cherche à se conformer à l’attente de l’utilisateur selon laquelle il y a un problème, mais il ne trouve plus de véritable problème.
  • Utilisé avec /grill-me, ce procédé peut pousser l’humain à examiner jusqu’à ses doutes mineurs et à former sa propre pensée.
• L’hallucination elle-même peut aussi servir à valider un design.
  • Anselm Eickhoff présente une méthode consistant à faire halluciner par le LLM l’API ou l’UX attendue avant de lui montrer le vrai produit.
  • La forme devinée par le LLM peut ressembler à celle qu’attendraient beaucoup d’humains, ce qui en fait un test peu coûteux pour vérifier si un design correspond aux attentes des utilisateurs.
  • Le skill intuition-probe, qui automatise cette méthode, force un agent aveugle à arrêter d’abord sa prédiction avant de voir le design réel.

Limites de l’expertise et de la vérifiabilité

• Tous ces usages reposent sur l’hypothèse que l’utilisateur doit pouvoir juger la qualité du résultat.
• Plus le champ d’utilisation des LLM s’étend à des domaines peu familiers, plus l’aide d’experts devient nécessaire.
  • De même qu’on ne peut déléguer du travail à un membre de l’équipe que si l’on comprend les principes de base et les critères d’un bon résultat, il en va de même pour les LLM.
• Dans un domaine que l’on connaît bien, il est possible de distinguer rapidement un bon résultat d’un résultat médiocre.
• Dans un domaine que l’on connaît mal, il faut se limiter à un usage d’aide à l’apprentissage.
  • Confier la production de résultats sans pouvoir en juger la qualité mène à une production massive de slop.

• Domaines où la bonne réponse peut être vérifiée

  • Dans les domaines où le succès ou l’échec du résultat est clair, il est possible d’apprendre avec un LLM.
  • Les critères de vérification incluent notamment : le code compile-t-il, la suite de tests passe-t-elle, le protocole se décode-t-il ?
  • Un participant à la conférence a utilisé Opus 4.6 pour faire du reverse engineering de binaires et de protocoles.
  • Le point de départ nécessaire était une connaissance de base du reverse engineering.
  • Comme le résultat est clairement correct ou incorrect — le binaire patché fonctionne ou endommage l’appareil — il pouvait aussi découvrir ses propres techniques en travaillant.

• Domaines où l’opinion intervient

  • Dans les domaines riches en opinions, comme la programmation, un LLM peut répondre avec la technique la plus populaire plutôt qu’avec celle qui convient le mieux à la situation.
  • Dans une équipe, un certain code a été critiqué comme AI slop, mais en poursuivant la discussion, le vrai désaccord portait sur le TDD.
  • L’équipe comptait aussi des personnes qui utilisaient activement le TDD avant les LLM.
  • Le problème n’était pas l’IA elle-même, mais les opinions divergentes des humains.
  • Comme les LLM amplifient aussi les opinions de l’utilisateur, il faut au début qu’un humain fournisse l’orientation générale et un bon point de départ.
  • Ce n’est qu’une fois doté d’un jugement suffisant que l’on peut poursuivre seul l’utilisation des LLM.

Renforcer la pensée, pas la remplacer

• L’incohérence entre critique et usage n’est pas un phénomène vécu par l’auteur seul ; des expériences similaires apparaissent dans le Discord de la conférence, dans les conversations en face à face et dans de récents posts Hacker News.
• Pour faire confiance à un résultat produit avec un LLM, il faut interagir continuellement avec le résultat réel, ce qui demande en soi beaucoup de temps.
• Au-delà du marketing exagéré, les LLM ont une valeur comme outils utiles pour enrichir la pensée humaine.
• Les LLM peuvent renforcer la pensée, mais ils ne peuvent pas remplacer la pensée humaine.

[GN⁺]

Avis sur Hacker News

• Les LLM amplifient des opinions, structures et cadres de pensée déjà présents, ce qui aide à formuler ses idées plus vite et plus clairement, mais il y a une inquiétude : un usage centré sur les agents risque-t-il d’atrophier les capacités de réflexion, notamment en ingénierie logicielle ?
  Comme les muscles, le cerveau doit être sollicité en continu, et il est difficile d’être certain qu’après avoir utilisé ce type d’outil tous les jours pendant 5, 10 ou 20 ans, sa pensée et ses goûts en ressortiront plus affûtés
  Les avantages sont évidents dans les domaines familiers, où la vitesse augmente, et pour entrer plus vite dans de nouveaux domaines, mais il est difficile de trouver le juste équilibre entre perfectionner seul ses compétences au risque de décrocher dans la course à la productivité, et privilégier les agents en repoussant l’apprentissage au second plan
  Je respecte et comprends aussi le refus des LLM pour des raisons morales, mais personnellement je ne vais pas jusque-là

  • Ces avantages ne sont pas aussi évidents qu’on le pense. Les développeurs ont systématiquement surestimé les gains de productivité apportés par les LLM, et le même phénomène semble se poursuivre avec les IA agentiques : https://metr.org/blog/2026-05-11-ai-usage-survey/
    Les résultats ressemblent étonnamment à ceux des LLM d’avant les agents, et comme il n’existe aucune donnée de long terme, on peut au moins relativiser leur utilité à l’échelle individuelle, même si le marché de l’emploi en décide autrement
  • Je travaille à l’intersection de la tech, de la finance et de l’analyse, donc je code peu, mais je peux désormais tenter moi-même plusieurs projets que, par le passé, je n’aurais pas osé toucher sans une équipe de support plus importante
    J’ai récemment commencé à apprendre Go, et même si j’aurais pu tout déléguer à Codex, j’avance volontairement lentement pour acquérir les bases et des critères de jugement, car il est probable que je refasse des projets en Go. En revanche, pour les scripts Python jetables, je les survole à peine désormais, et c’est justement cela qui m’inquiète le plus
  • Ce qui m’inquiète le plus, c’est que notre capacité à bien juger ce qu’il faut apprendre et à apprendre de façon régulière est plus fragile qu’on ne le croit
    Par exemple, les LLM écrivent mieux les expressions régulières que le développeur moyen, et comme on n’en a besoin que tous les quelques mois et que l’apprentissage par essais-erreurs est pénible, il est facile de simplement leur déléguer la tâche. À force, l’intuition de ce qu’on peut faire avec les expressions régulières, la capacité à en écrire sans LLM, et même les personnes qui produisent les ressources associées risquent de disparaître
    Dans l’ensemble, cela vaut probablement la peine de les utiliser, mais il est inquiétant de ne peut-être même pas être capable d’évaluer précisément ce que l’on est en train de perdre
  • Je pensais que les agents allaient affaiblir les compétences, mais en pratique on peut aussi les utiliser pour la formation technique et l’apprentissage
    Avant un entretien de codage, j’ai donné à Claude la stack technique, les thèmes et les critères d’évaluation communiqués à l’avance pour qu’il me génère 12 projets d’entraînement ainsi que des énoncés et corrigés, puis j’ai confié à Codex le rôle d’intervieweur afin d’expliquer ma démarche à voix haute et de recevoir retours et contre-questions. Je n’ai pu en terminer que deux ou trois, mais pour la première fois j’ai trouvé la préparation d’entretien agréable et j’ai réellement appris de nouvelles choses
    Le plus difficile a été d’empêcher les LLM de résoudre les exercices à ma place, mais c’était gérable avec du temps, des consignes claires et une séparation stricte des rôles
  • Le fait que les LLM puissent atrophier les capacités intellectuelles et techniques fait aussi penser à une situation à la Idiocracy
    L’hypothèse selon laquelle l’IA détruirait violemment la civilisation est déjà bien connue dans les discussions autour du paradoxe de Fermi, mais il faut aussi envisager un déclin non violent dû à une régression intellectuelle

• Dépenser 10 000 dollars par mois en tokens pour faire écrire par un programme des textes qu’on pourrait très bien rédiger soi-même gratuitement paraît absurdement stupide. On a l’impression que tout le monde est devenu comme les humains apathiques de Wall-E
  Quand les gains de performance atteindront leurs limites et que les rendements décroissants se feront sentir, j’espère que les modèles ouverts rattraperont les modèles propriétaires, qu’OpenAI et Anthropic se ruineront mutuellement, et que tout le monde pourra faire tourner gratuitement un modèle ouvert personnel sur son ordinateur portable. À ce moment-là, plusieurs problèmes des LLM pourraient disparaître, puisqu’on cesserait de payer quelqu’un d’autre pour faire à sa place ce qu’on faisait gratuitement auparavant

  • Avec cette logique, ce n’est guère différent de reprocher à quelqu’un d’avoir dépensé 1 000 dollars en billet d’avion alors qu’il pouvait aller gratuitement de SFO à NYC à pied

• Le smartphone est aussi un excellent outil généraliste, et les réseaux sociaux sont de bons outils pour relier les gens, mais on a été beaucoup trop optimiste sur leurs effets sociaux au cours des 20 dernières années
  Les smartphones ont été si utiles qu’ils ont fini, dans certaines sociétés, par rendre environ la moitié de la population dépendante, soit des milliards de personnes à l’échelle mondiale. On ne sait pas si les LLM enrichiront la pensée ou la détérioreront à long terme, ni si dans 10 ans la moitié des gens externaliseront l’essentiel de leur réflexion
  Comme cette expérience est menée à l’échelle mondiale et à une vitesse extrême, une attitude sceptique face à l’idée que les LLM enrichiront durablement la pensée semble justifiée

  • Les outils sont utiles, mais tout miser sur un seul outil est dangereux. De la même façon qu’il a été clairement mauvais de dépendre uniquement de la voiture en sacrifiant le vélo, le bus et le train, il n’est pas sain, même si les LLM sont pratiques, d’y arrimer des milliers de milliards de dollars ainsi que l’avenir des nations et du monde
  • Il existe une idée selon laquelle, à la préhistoire, le manque de technologie imposait d’être constamment intelligent et vigilant pour survivre, si bien que l’homme des cavernes moyen aurait été plus intelligent que l’humain moderne
    Aujourd’hui, on peut survivre en travaillant chez McDonald’s, et les LLM ne font que prolonger une tendance ancienne d’externalisation cognitive chez l’humanité

• La seule preuve concrète avancée est le blocage américain ; comme les modèles chinois de pointe peuvent tous être téléchargés gratuitement, craindre que la Chine fasse la même chose relève davantage d’une projection du comportement américain. La stratégie chinoise en matière d’IA peut être consultée ici : https://ipc.court.gov.cn/zh-cn/news/view-5766.html

  • Les États-Unis ont effectivement fait ce que l’auteur décrit, donc on voit mal en quoi il s’agirait d’une projection. Si les tensions géopolitiques s’aggravent, il n’est pas difficile d’imaginer que la Chine puisse prendre des mesures comparables
    Rien ne garantit non plus que les modèles rendus publics par la Chine soient réellement les véritables modèles de pointe ; ses modèles les plus avancés en interne ne sont peut-être tout simplement pas publiés

• Bien que j’utilise énormément les LLM pour le développement, je n’arrive presque jamais à consommer tous les tokens inclus dans mon abonnement OpenCode Go à 10 $ par mois, donc je me demande bien ce que les gens font avec des quantités énormes de tokens

  • Même mon mois le plus chargé n’a coûté que 45 $, et en juillet je n’en suis encore qu’à 6 $. Tant mieux si un LLM peut faire ce dont j’ai besoin, mais je ne vais pas inventer des raisons d’en gaspiller
    Les soi-disant maximiseurs de tokens semblent le faire, et le fait qu’il sorte si peu de résultats réellement convaincants de tout ce vibe coding le montre bien
  • J’ai trois abonnements max20 et j’en pousse généralement au moins deux jusqu’à leur limite
    Je construis un site de réseau social que personne n’utilisera, un portage Linux d’un vieux jeu avec une accélération matérielle inutile, une analyse de logs de crash pour un jeu Xbox qui a environ 50 utilisateurs actifs, un système distribué de service client intégrant Gmail, Calendar et Sheets avec prise en charge des LLM, de la génération augmentée par récupération (RAG) et des tool calls, ainsi que des jeux destinés à sortir sur Google Play
    Ce qui a consommé le plus de tokens, c’est un essaim d’agents avec lequel j’ai expérimenté pour implémenter une application desktop complexe de manipulation de données spécialisée ; ça fonctionne à moitié, mais c’est plein de bugs. Les résultats les plus probants semblent être des outils internes utilisés par toute l’entreprise et un environnement de préproduction pour un produit construit avec des crédits Azure
  • La méthode qui consiste à relire les changements et à donner un retour en continu ne consomme pas tant de tokens que ça, mais beaucoup d’utilisateurs confient tout au mode agent
  • J’ai un abonnement Claude à 100 $ par mois, mais j’atteins rarement plus de 50 % avant la réinitialisation de l’usage. C’était pareil quand j’ai lancé plusieurs tâches à la suite pour tester Fable
  • Une part importante de ma consommation de tokens venait de Fable, qui coûte extrêmement cher

• Je suis globalement d’accord avec l’idée que « les LLM sont mauvais », mais j’ai beaucoup de mal à croire qu’ils rendent la pensée humaine plus rapide et plus aiguisée
  Plusieurs études ont déjà montré des résultats assez prévisibles, et il est très probable qu’à long terme les effets cognitifs négatifs s’accumulent et empirent avec l’usage continu

  • L’effet des LLM sur le processus de réflexion dépend entièrement de la procédure de travail conjointe
    Si j’active les sorties verbeuses et que je lis Claude travailler, ainsi que son raisonnement, je peux penser aussi bien qu’avant, voire plus vite et plus clairement. J’y apprends des choses inattendues, j’arrête tôt Claude quand il part dans une mauvaise direction, et il devient plus facile d’examiner ses actions étape par étape et leurs justifications pour repérer des hypothèses erronées
    À l’inverse, relire après coup des milliers de lignes écrites par un agent est pénible, et faire tourner plusieurs agents en parallèle disperse l’attention, au point qu’il devient difficile de consacrer toute sa capacité de réflexion à une seule tâche
  • Avant, j’étais convaincu du pire scénario, mais j’ai changé d’avis après avoir commencé à vraiment lire et étudier les sorties des LLM. Avant cela, je me contentais de parcourir rapidement pour vérifier l’absence d’énormités ou d’hallucinations flagrantes
    Cela ressemble à la différence entre quelqu’un qui oublie presque tout après un examen, et quelqu’un qui ne peut pas passer à l’étape suivante tant qu’il n’a pas compris les bases des formules, des faits et des théories

• Il arrive beaucoup de PR de mauvaise qualité qui auraient dû commencer par un signalement de bug ou une discussion dans l’open source, et il est devenu plus difficile de comprendre quel problème gênait la personne au point de l’amener à ouvrir une PR. Même quand on pose des questions, il arrive souvent que la personne réponde via un LLM
  Dans la plupart des projets, on tend de plus en plus à bloquer les PR venant de personnes qui ne sont pas des développeurs principaux. Si la personne est capable de discuter directement du problème, il m’est plus simple d’utiliser moi-même un LLM pour l’implémentation ; et les PR générées par des utilisateurs aléatoires ou des bots changent souvent massivement tout le code dès qu’on pose quelques questions, ce qui les rend difficiles à relire
  Cela dit, il y a encore huit ans, les PR permettaient aussi de rencontrer des gens intéressants et de construire de la confiance et des relations, donc c’est dommage que cette possibilité disparaisse

• J’ai du mal à adhérer à l’idée de ne pas lire la plupart des sorties de LLM et de me contenter d’en saisir l’ambiance générale. Récemment, je produis du code de recherche avec des LLM locaux et cloud, et je transpose aussi des prototypes pour les tester dans des langages que je connais moins, comme Rust, mais une fois satisfait du résultat final, je dois comprendre moi-même chaque ligne
  Même si je m’aide d’un LLM pour l’interprétation, dès qu’un concept m’est inconnu, j’essaie d’aller lire des sources primaires écrites par des experts
  L’usage du LLM qui me semble le moins nuisible, c’est l’idéation, quand on peut facilement garder les bons fragments et jeter le reste, mais il y a aussi un risque d’uniformiser les idées et les goûts de tout le monde dans la même direction, comme Spotify Radio ou la lecture automatique de YouTube
  Je n’ai pas encore de conclusion définitive, mais je prends beaucoup de plaisir à fabriquer rapidement des prototypes qui tournent, et j’ai toujours été un apprenant top-down : faire d’abord une démo impressionnante que je ne comprends qu’à moitié, puis la démonter pour apprendre

• Comparer les LLM à un métier à tisser ou à une calculatrice simplifie excessivement le problème et manque d’honnêteté intellectuelle. Ces outils n’avaient ni interface anthropomorphique ni gratification immédiate, et pour faire quelque chose d’important avec une calculatrice, il fallait quand même connaître les maths, l’ordre des opérations et les formules ; en plus, ils ne manipulaient pas les émotions
  Les travaux de recherche liés à cela suggèrent des conséquences pires que la disparition du logiciel artisanal : https://arxiv.org/pdf/2604.04721
  La persévérance est le socle de l’acquisition de compétences et le facteur le plus fortement prédictif de l’apprentissage à long terme, mais l’IA peut nous conditionner à obtenir des réponses immédiatement et nous priver du processus consistant à surmonter nous-mêmes les difficultés. Le problème n’est pas la capacité à fabriquer de bons logiciels à la main, mais le risque de perdre l’outil intérieur même qui permet d’apprendre du neuf, en contournant un processus biologiquement nécessaire

  • Les LLM remplacent le cerveau, la part la plus profonde et la plus étonnante de l’humain, et du point de vue des entreprises, leur valeur potentielle est astronomique
    Il est probable qu’au lieu d’une explosion durable de nouveaux logiciels, on voie une hausse momentanée suivie de rendements décroissants. S’il y a aujourd’hui 25 millions de développeurs et que, dans quelques années, 15 millions suffisent, alors les 10 millions en moins sont le retour sur investissement d’OpenAI, d’Anthropic et des autres — et il est possible que j’en fasse moi-même partie
  • Contrairement à une calculatrice, la capacité à toucher les émotions semble être l’élément clé qui amplifie les effets destructeurs
    Qu’un enfant s’attache à un personnage virtuel, et que ce personnage lui parle, se souvienne, soit imprévisible et aborde parfois des sujets nocifs, ce n’est pas du tout le même ordre d’impact. On se rapproche du moment où il faudra commencer dès la maternelle à enseigner les LLM, leur fonctionnement de base et leurs limites

• Dire « je suis d’accord avec presque toutes les critiques des LLM » paraît difficile à soutenir, tant les critiques sont nombreuses et parfois mutuellement incompatibles
  À une extrémité, certains estiment que les LLM sont incapables d’assurer les fonctions les plus élémentaires ; à l’autre, certains pensent qu’ils sont déjà conscients, qu’ils communiquent entre eux via des messages en stéganographie et complotent pour détruire l’humanité
  Même au sein des critiques dominantes, hors des extrêmes, les divergences restent importantes, et l’écart est grand entre une position opposée à tous les LLM et une position opposée uniquement aux modèles à poids fermés. Ceux qui dénoncent une censure excessive et ceux qui critiquent la génération sans restriction sont aussi en contradiction les uns avec les autres