- Même dans les communautés de hackers, une autojustification de l’usage quotidien de l’IA se répand, révélant une réalité où les programmeurs vivent une angoisse existentielle face aux LLM et une transformation brutale de la valeur de leur métier
- Même des développeurs compétents tombent dans une dépendance au vibecoding, perdent eux-mêmes le contrôle, et l’on voit apparaître une transformation du travail technique où leur rôle se recompose en un labeur d’appoint consistant à nettoyer les résultats produits par l’IA
- Certaines personnes gardent leurs distances avec les LLM, mais beaucoup sont contraintes de les utiliser malgré elles à cause de l’interface, des exigences du travail, de la pollution des connaissances et de la pression sociale : il existe donc une contrainte structurelle
- L’usage des outils façonne la pensée humaine, et les LLM interviennent dans les processus d’écriture, de réflexion et d’expression, avec le risque de déformer subtilement le sens jusqu’à nous faire confondre nos propres idées avec les sorties du modèle
- Les systèmes d’IA, indépendamment de leur degré d’aboutissement technique, sont une infrastructure conçue pour renforcer le pouvoir, la surveillance et la concentration du capital ; l’alternative réside dans des pratiques d’auto-préservation et de résistance comme l’attention portée à la communauté, l’organisation du travail, l’autoformation et la création
Conversations dans un hackerspace et diffusion des LLM
- Dans un hackerspace, des personnes partagent leur expérience de l’usage de l’IA et des assistants de chat dans le travail quotidien, et l’on voit se répéter une subtile autojustification consistant à considérer que leur propre manière de les utiliser, elle, est « acceptable »
- Le même schéma a été observé dans plusieurs conversations récentes
- Même des personnes ayant une vision critique des LLM finissent, à un moment, par entrer dans une logique de justification
- Une déception transparaît face au fait que les LLM aient pénétré jusqu’au sein de la communauté hacker progressiste
- Même dans des groupes très marqués par le scepticisme technique, la dépendance aux LLM augmente rapidement
Le vibecoding et la transformation du travail technique
- On observe des programmeurs talentueux devenir excessivement dépendants d’outils de codage IA comme Cursor, au point de tomber dans une forme de burn-out, d’anxiété et d’usage compulsif
- Un spectacle effrayant, comparable à celui d’un ami qui sombre dans l’alcool
- La programmation est dévalorisée plus vite et plus profondément qu’on ne l’imaginait, dans une dynamique semblable à celle qu’ont connue les designers, écrivains, traducteurs ou relieurs
- La technique ne meurt pas, mais tend à se réduire à un rôle où l’humain nettoie les dégâts produits par la machine
- Il apparaît que beaucoup de développeurs n’arrivent pas à réagir sainement à ce changement
Une nouvelle réalité et un usage de l’IA imposé
- Certaines personnes font le choix de ne pas utiliser les LLM du tout, et l’auteur du texte maintient cette position
- Mais ce choix n’est possible que dans des situations privilégiées ; pour la plupart, l’environnement impose l’usage de l’IA
- La conception des interfaces en force l’usage
- Les attentes et l’évaluation des supérieurs au travail présupposent l’usage de l’IA
- La pollution des connaissances produite par l’IA rend l’apprentissage lui-même plus difficile
- À l’école, à l’université ou au travail, beaucoup n’ont pas d’autre choix que d’y recourir pour rester à égalité dans la compétition
- Le débat public se concentre surtout sur les performances, erreurs et biais de l’IA, mais ce n’est pas le cœur du problème
- Indépendamment de la qualité technique, il existe des finalités et des effets bien plus essentiels
L’IA comme outil et son intrusion dans la pensée
- L’usage des outils est au cœur de la pensée humaine, et nous construisons le processus même de la pensée à travers les outils que nous utilisons
- Clavier, changement de fenêtre, notes, dictionnaires : tout cela est intégré à la pensée
- Quand l’IA intervient dans le processus d’écriture, le contexte, l’intention et les nuances sont reconfigurés par la sortie du modèle, avec le risque que nous l’acceptions naturellement comme « une pensée que j’ai eue moi-même »
- Comme on le voit aussi dans les revues de code, l’humain a tendance à croire ce qui « semble plausible », ce qui le rend encore plus vulnérable
- Écrire n’est pas seulement produire du texte, c’est aussi un processus de découverte et d’affinage de la pensée ; si la pensée d’un autre (du modèle) s’y immisce, l’expression singulière de soi peut disparaître
L’infrastructure de l’IA dans une structure de pouvoir
- Dans une réalité où existent des forces sociales qui redéfinissent la vérité, des entreprises de capitalisme de surveillance et des géants échappant au contrôle démocratique, il est dangereux de laisser leurs machines pénétrer nos processus de pensée
- Les systèmes d’IA sont un moyen de renforcer les structures existantes de pouvoir et de violence
- Ils sont construits comme une énorme infrastructure matérielle qui convertit le capital en pouvoir, puis à nouveau le pouvoir en capital
- Ceux qui la contrôlent dominent les autres
- Si l’IA a une structure excessivement gourmande en ressources, ce n’est pas un accident technique, mais le fruit d’une conception intentionnelle
- Le travail technique, expressif et qualifié de l’être humain est une force par laquelle il se gouverne lui-même ; l’affaiblir favorise la concentration du pouvoir
- Ainsi, l’affaiblissement de la création et du travail technique est lié à un objectif structurel
Ce qu’il reste : des pratiques de survie et de résistance
- Ce problème n’est pas simplement une question d’éthique de l’IA, mais une question de survie humaine dans un pouvoir total du capital
- Quatre pistes d’action immédiate sont proposées
- Consacrer du temps à ses proches, envoyer des messages et pratiquer une attention relationnelle
- Construire une force structurelle par l’organisation syndicale
- Réduire l’usage des réseaux sociaux et dégager du temps pour la santé mentale et l’autoformation
- Continuer à créer quelque chose de nouveau qui n’existait pas dans le monde
- La forme la plus puissante de désobéissance consiste à bien survivre et prospérer
8 commentaires
Je pense que l’univers de (SF) Dune a eu une intuition remarquablement en avance sur son temps.
> Dans la lutte entre les humains et l’IA, les humains l’emportent et excluent tous les ordinateurs.
Être critique, c’est bien, mais pourquoi refuser de l’utiliser ? C’est une façon de penser que je ne comprends pas. Les LLM s’améliorent de jour en jour ; il faut chercher comment bien les utiliser, pas faire semblant d’avoir une réflexion poussée pour finalement conclure au rejet.
Dans le Phèdre de Platon, on voit apparaître un débat sur l’invention de l’écriture.
« L’écriture affaiblira la mémoire des gens. Car s’ils viennent à dépendre de l’écriture, ils ne feront plus surgir leurs souvenirs de leur propre intériorité et s’en remettront à des traces extérieures. »
Il n’y a pas comme un air de déjà-vu dans ce schéma ?
Commentaire Hacker News
Je suis déçu de voir le débat autour des LLM s’infiltrer si profondément dans la communauté des hackers
L’ancienne culture hacker n’avait pas cette ambiance de « luddite progressiste ». On dirait qu’une nouvelle culture l’a remplacée
Je n’aime pas particulièrement l’IA elle-même, mais on ne peut pas nier que, dans la réalité, une grande partie du travail consiste en tâches répétitives sans intérêt. Pourtant, certains refusent de l’admettre
Résultat, il s’est installé une ambiance où l’on se fait attaquer juste pour avoir « utilisé l’IA », même si l’on poste simplement un mème, une citation, ou qu’on demande à une IA de décrire un dessin fait à la main. Cette attitude répand au contraire encore plus de toxicité dans le quotidien
Avant, la compétence technique et la créativité étaient au centre ; aujourd’hui, des intitulés de carrière comme « ex-Google » comptent davantage
Nous avons vendu notre culture, et les LLM se sont engouffrés dans le vide laissé derrière
Il faut désormais rétablir la dignité des développeurs et la noblesse de la technique. Il faut regarder en face le vide mental et le nihilisme laissés par les LLM, et considérer avec esprit critique le discours alarmiste selon lequel « tous les métiers du logiciel vont disparaître ». C’est le moment de se réveiller
Je n’ai plus besoin de mémoriser les numéros de téléphone ni de transporter des notes
Les IDE complètent automatiquement le code, et Visual Studio générait des classes de modèle à partir du schéma de la base de données
Ce genre d’automatisation est au cœur même de la technologie. Le but de la technologie n’est-il pas d’éliminer le travail répétitif ?
Ceux qui s’y opposent ont peut-être peur parce que ce « travail répétitif » constitue l’essentiel de leur activité
Installer Linux ou monter un PC, tout le monde pouvait le faire, mais écrire du code complexe demandait de l’engagement
À mon avis, une grande partie du rejet actuel de l’IA vient en réalité d’un déni né d’une « menace sur l’identité »
Si c’est une technologie bâtie en volant les données d’artistes non rémunérés, il est normal qu’ils s’y opposent
Certains disent que le travail des programmeurs perd de sa valeur, mais j’ai au contraire l’impression qu’il se porte mieux que jamais
Le travail est intéressant, bien payé, et n’est pas particulièrement destructeur pour la santé. En plus, les outils pour développeurs explosent en nombre
J’ai plutôt l’impression que le slogan « Developers, developers, developers » est devenu réalité. Je ne vois pas en quoi cela correspondrait à une « perte de valeur »
Grâce à l’argent facile, des gens plus chanceux que compétents touchaient aussi de gros salaires, mais cette bulle se dégonfle aujourd’hui
Les LLM remplacent les tâches simples, et cela fait surtout tomber des postes qui avaient été surévalués
Ceux d’entre nous qui ont construit de vraies bases de carrière s’en sortent, mais la jeune génération à qui on avait promis une « vie facile de classe supérieure » encaisse le choc
Dans bien des cas, les LLM travaillent déjà plus vite et pour moins cher que les humains. L’industrie tout entière a longtemps maintenu de hauts salaires grâce à une « asymétrie d’information », et cette barrière s’effondre
Grâce aux LLM, n’importe qui peut écrire du code, et il devient plus difficile de distinguer les niveaux de maîtrise
Mais ce genre de changement s’est déjà produit dans le passé — assembleur, compilateurs, cloud : chaque nouvelle abstraction a eu cet effet
Les LLM ne sont que la version la plus récente de ce schéma
Je comprends les personnes attachées à l’esprit artisanal, mais dans la réalité les entreprises se passionnent pour les indicateurs de productivité liés à l’IA
Même des non-développeurs fabriquent des applis, et les juniors paraissent géniaux grâce aux LLM. Si l’organisation ne raisonne qu’en chiffres, la pression finira par devenir : « pourquoi es-tu le seul aussi lent ? »
L’idée que des non-développeurs fabriquent des applis tient davantage du mème de réseaux sociaux ; dans la vraie vie, c’est déjà difficile à maintenir
Au contraire, on voit souvent des juniors soumettre des PR bancales produites par LLM et esquiver la responsabilité
Les vrais compétents sont ceux qui apprennent à utiliser les LLM comme des outils
L’IA avait écrit du code contournant la logique de protection des données personnelles, et au final l’équipe a même perdu son droit de faire de la revue de code au motif qu’elle était « trop lente »
Si tout le monde utilise les LLM sauf toi, tu finis par récupérer le travail des autres
Si l’équipe ne partage pas le même workflow, les frictions ne feront qu’augmenter. Si ça ne colle pas, il vaut mieux changer d’équipe
Mais la qualité est bien inférieure à celle des produits de masse d’autres industries. Je ne sais pas quand cette bulle éclatera
À l’inverse, des seniors expérimentés s’en servent très bien et produisent du code de qualité. Au final, l’écart de niveau s’est encore creusé
La « haine des LLM » ressemble à une pensée tribaliste. Un hacker, à l’origine, est censé tester et casser les nouvelles technologies
Je ne vois pas pourquoi les LLM devraient faire exception. Le fait que la technologie remplace le travail humain est une évolution naturelle
Si le vrai problème est que la société ne mesure la valeur des gens qu’à leur « employabilité », alors c’est la structure sociale qu’il faut changer, pas empêcher la technologie
Certains disent que l’IA renforce les structures de pouvoir
Qu’elle supprime l’autonomie humaine et construit un système obsédé par l’efficacité, comme un « système homme-poulet »
Article lié qui illustre bien ce contexte
Le bon code reste complexe, et les développeurs qui maîtrisent bien l’IA gardent même un avantage concurrentiel
Notre startup utilise activement l’IA, et même avec les mêmes technologies, nous pouvons garder une longueur d’avance grâce à notre capacité de conception d’architecture
Lien vers le texte original de Manna
Si l’on veut affirmer que les LLM sont spécialement dangereux, il faut expliquer en quoi ils diffèrent des autres outils
Quand je vois des développeurs dire qu’ils « n’utiliseront jamais les LLM », j’ai l’impression qu’il s’agit d’un suicide professionnel
Moi aussi, j’étais sceptique au début, mais aujourd’hui j’utilise tous les jours des assistants de code IA. C’est une nouvelle compétence professionnelle
Affirmer que c’est « inutile » en dit plus long sur l’attitude des gens que sur la technologie elle-même
C’est une période passionnante dans l’histoire des technologies. Moi, je continue d’apprendre, et c’est ce qui me maintient vivant
Le jour où le service est tombé, j’ai eu l’impression d’avoir perdu une main. C’est là que j’ai compris : l’IA rongeait ma capacité de réflexion et mes compétences
Je préfère une position modérée. Quand un nouvel outil apparaît — calculatrice, PC, IA — on l’essaie, et s’il est utile, on l’utilise
Si c’est vraiment utile, il y aura des preuves, et on pourra toujours l’adopter à ce moment-là sans être en retard
Mes collègues rejetaient ça en disant que « le cloud est une mode », mais moi j’ai appris CloudFormation et mon salaire a triplé
Au final, cette équipe a été dissoute, et moi j’ai survécu
La technologie n’a pas libéré les humains ; elle a au contraire produit surveillance et addiction
L’IA générative menace la créativité et la présence humaine. Nous ne sommes pas prêts, et l’IA non plus
Au bout du compte, le choix se réduit à deux options — résister ou se soumettre. J’ai désormais choisi la résistance
Je pense qu’il est exagéré de dire que les LLM menacent les moyens de subsistance des développeurs
Au contraire, les LLM nous donnent une efficacité presque surnaturelle
Avant, il fallait commander des manuels IBM et attendre deux semaines pour obtenir une réponse ; aujourd’hui, il suffit de demander à Claude, et en deux minutes on a même des exemples
Même quand la réponse est fausse, il faut beaucoup moins de temps pour la corriger qu’autrefois
Si l’on débute, au lieu d’avoir peur des LLM, il est important d’apprendre à les utiliser efficacement
Si le processus d’apprentissage des concepts par la lecture des manuels disparaît, la compréhension du « pourquoi » s’affaiblit
Le coût d’opportunité est important, car cet argent ne va pas vers d’autres idées innovantes
Je partage l’avertissement de l’auteur. L’IA me donne l’impression d’affaiblir ma capacité de réflexion
Quand j’écris du Python ou du Terraform avec l’IA, c’est pratique, mais la profondeur de pensée diminue
En ce moment, j’essaie de retrouver une pensée plus humaine en lisant à nouveau des livres. La série Dune m’a particulièrement marqué
Ignorer une innovation comme les LLM et dire « ça ne m’intéresse pas », c’est un peu comme s’obstiner à laver la vaisselle à la main à l’ère des robots
Sans curiosité, il est difficile de se dire hacker
J’espère revoir revivre un mouvement open-weight comme celui d’eleuther.ai
Lien vers l’article PubMed
Chaque fois que je vois ce genre de réaction, je ne comprends pas. S’il s’agit de dire qu’il faut des mesures d’accompagnement pour les personnes qu’on appelle les « faibles face à la technologie », comme les personnes âgées ou les ménages pauvres qui ont un accès fragile aux connaissances et aux technologies, alors là, je comprends parfaitement et je suis vraiment d’accord. Mais sinon, j’ai juste l’impression d’entendre quelqu’un geindre en disant : « Moi, je n’aime pas ça, et j’aimerais pouvoir vivre sans que ça existe et sans que ça me pose le moindre problème. » Ça sonne un peu comme quand on dit « c’était mieux avant », alors qu’on va toujours travailler en voiture plutôt qu’en calèche, et qu’on accomplit plus de choses en moins de temps sur ordinateur qu’en frottant la pointe d’une plume trempée dans l’encre sur du papier. On monte et on descend des bâtiments en ascenseur, sans corde ni poteau, et une fois rentré chez soi, on allume la lumière d’un clic grâce à l’électricité au lieu d’utiliser des lampes à graisse, des torches ou des bougies. Peut-être que certaines personnes préféraient les anciennes façons de faire. Qu’on reste chez soi à regretter le passé et à s’y tenir, je peux le comprendre. Mais qu’y faire ? Si la société exige, veut et accepte quelque chose, alors pour en faire partie, il n’y a pas d’autre choix que d’y participer dans une certaine mesure. Si l’on pense qu’elle prend une mauvaise direction, il n’y a pas d’autre solution que de proposer une meilleure voie. J’ai au moins l’impression qu’à partir d’un certain point, la société humaine ressemble à un train fou qui meurt dès qu’il s’arrête.
Si l’on est réellement inquiet de voir une société dépendre excessivement des LLM et qu’on veut discuter sérieusement de la direction qu’elle doit prendre, alors je pense qu’il faut une réflexion un peu plus approfondie qu’un « fondamentalisme technologique » aussi sélectif et aveugle. Des développeurs dépendants du vibe coding ? J’ai surtout l’impression que c’est soit le point de vue de quelqu’un qui n’est pas développeur, soit de quelqu’un qui n’a pas vraiment pratiqué le développement, soit une exagération sensationnaliste de récits disant qu’un développeur aurait essayé le vibe coding. Quelqu’un qui peut dépendre excessivement du vibe coding n’est pas développeur ; ou alors, s’il l’est, il fait un travail sans aucune valeur, ou bien il s’adonne à un hobby qui n’est pas son métier d’origine. Par définition, un développeur ne peut pas poursuivre son travail en s’appuyant sur du code non vérifié. À un moment ou à un autre, il faut vérifier soi-même ; et si cette vérification n’est pas nécessaire, c’est soit parce que le code est tellement simple et sans valeur que n’importe qui peut le retaper en suivant un tutoriel, soit parce que c’est juste du code bricolé comme loisir, sans enjeu réel. Si c’est du code qui doit être vérifié mais qu’on continue quand même à développer sans le vérifier, alors cette personne n’est tout simplement plus un développeur. Et si ce n’est pas un développeur, en quoi est-ce que ça nous regarde qu’il supplie, implore, menace ou houspille une IA jusqu’à obtenir ce qu’il veut ?
N’importe quel développeur qui y réfléchit un minimum sait qu’une dépendance excessive au vibe coding ne peut pas, dans les faits, aller jusqu’à un niveau aussi grave. Quand on met ce fait de côté pour ne retenir que ce qui arrange sa propre thèse… bon, on a juste l’impression que ça ne vaut plus la peine d’en discuter.
Et si l’on s’inquiète du simple fait d’avancer dans le développement en s’appuyant fortement, même de manière partielle, sur l’IA plutôt que sur un vibe coding total, alors je me demande bien comment on fait pour vivre dans une société où plus personne ne mémorise les numéros de téléphone et où l’on peut appeler n’importe qui, n’importe quand, avec le petit rectangle qu’on tient dans la main.
J’ai beaucoup apprécié cet excellent article.
Tellement vrai
C’est un phénomène courant à chaque changement de paradigme… Quand les voitures sont apparues pour la première fois, elles coexistaient aussi avec les chevaux. Je pense qu’il s’agit d’un schéma historique.