- La production de masse de code complexe généré par l’IA se généralise, et le phénomène consistant à produire du code que personne ne lit se répand dans toute l’industrie
- Les dirigeants s’en servent pour justifier des réductions d’effectifs liées à l’IA, tandis que les développeurs subissent une pression pour atteindre un quota de code produit par l’IA
- Ce « vibe coding » provoque un état de « dark flow » comparable aux mécanismes addictifs du jeu d’argent, créant une illusion de productivité
- Des recherches montrent qu’avec des outils de codage IA, on a l’impression d’être 20 % plus productif, alors qu’en réalité on est 19 % plus lent
- L’IA est utile, mais elle ne remplace ni la réflexion, ni la créativité, ni les compétences humaines en ingénierie logicielle ; y renoncer expose au contraire à un risque de régression
La diffusion du vibe coding et la prise de conscience du problème
- Le vibe coding consiste à produire en masse du code complexe généré par l’IA, au point de le rendre difficile à lire ou à maintenir pour un humain
- Certaines entreprises justifient des licenciements en affirmant que l’IA peut remplacer le travail humain
- Les développeurs subissent une pression : s’ils n’atteignent pas leur quota de code généré par l’IA, ils risquent d’être désavantagés dans leur évaluation de performance
- Chez les étudiants comme chez les salariés, on observe aussi une hésitation à investir dans leur propre développement sous l’effet de l’angoisse que « l’IA va bientôt remplacer mon travail »
- L’IA est réellement utile, mais le vibe coding exige de la prudence et peut entraîner des conséquences négatives lorsqu’il est mal employé
La différence entre le « flow » et le « dark flow »
- Le psychologue Mihaly Csikszentmihalyi définit le « flow » comme un état d’immersion où défi et compétence sont en équilibre
- À l’inverse, on peut aussi ressentir une immersion dans des activités sans lien avec la compétence, comme les jeux d’argent, ce qui relève d’un « faux flow »
- Comme dans le cas des machines à sous avec le Loss Disguised as a Win (LDW), on subit en réalité une perte tout en ayant l’illusion d’avoir gagné
- Des recherches montrent que le LDW provoque des réactions physiologiques proches de celles d’une vraie victoire, renforçant ainsi une immersion addictive
- Ce phénomène est appelé « dark flow » ou « junk flow », c’est-à-dire un état d’immersion addictive sans progression
Les ressemblances entre vibe coding et jeu d’argent
- Le développeur Armin Ronacher explique qu’après avoir utilisé des outils de codage IA, il avait produit beaucoup de code sans presque rien pouvoir réellement réutiliser
- Cela correspond à une structure d’illusion similaire à la « fausse victoire » dans le jeu d’argent
- Le vibe coding viole les conditions du flow sur plusieurs points
- Absence de feedback clair sur la performance, remplacé par un faux sentiment d’accomplissement
- Déséquilibre entre le niveau de défi et le niveau de compétence
- Illusion de contrôle qui amène l’utilisateur à croire qu’il maîtrise les résultats
- La qualité du code généré par l’IA ne révèle souvent ses problèmes qu’après plusieurs semaines, lorsque les bugs et une complexité ingérable en maintenance apparaissent enfin
- Les LLM comme les machines à sous sont conçus pour maximiser les réactions psychologiques de l’utilisateur, afin d’encourager un usage continu
Illusion de productivité et « narrateur peu fiable »
- Selon une étude de METR, les développeurs utilisant des outils IA avaient l’impression d’être 20 % plus rapides, alors qu’ils étaient en réalité 19 % plus lents
- Cela représente un écart de 40 % entre l’efficacité perçue et l’efficacité réelle
- Les textes rédigés avec l’IA aussi peuvent sembler comparables en apparence tout en étant de moindre qualité
- Le billet de blog d’un chercheur en IA, une fois rédigé par l’IA, a adopté un style moins lisible qu’auparavant
- Les humains ont du mal à évaluer objectivement leur propre productivité et tendent à la surestimer après avoir utilisé l’IA
Prévisions erronées et risques pour la carrière
- Les prévisions selon lesquelles l’IA remplacerait complètement le codage se sont répétitivement révélées fausses
- Geoffrey Hinton avait prédit qu’avant 2021, l’IA remplacerait les radiologues, ce qui ne s’est pas produit
- Sundar Pichai et Jeff Dean de Google avaient affirmé qu’avant 2023, tous les data scientists utiliseraient des outils automatiques de conception de réseaux neuronaux, ce qui ne s’est pas concrétisé
- Dario Amodei d’Anthropic a prédit qu’avant fin 2025, l’IA écrirait 90 % de tout le code, sans fondement solide
- Dans ce contexte, cesser de développer ses propres compétences sur la base de perspectives exagérées est risqué
- Le rythme des progrès de l’IA a été constamment surestimé par rapport à la réalité
L’importance durable de la réflexion et de la créativité humaines
- Les agents de codage IA génèrent du code syntaxiquement correct, mais
- ils ne savent pas produire des abstractions utiles, une bonne modularisation ni une meilleure structure de code
- autrement dit, le codage a été automatisé, mais pas l’ingénierie logicielle
- Les textes générés par l’IA aussi peuvent être naturels sur le plan grammatical sans pour autant affiner la pensée ni dégager l’essentiel
- Jeremy Howard avertit que « si l’on délègue entièrement sa réflexion à l’IA, on perd sa capacité à apprendre et à progresser »
- L’IA est utile comme outil, mais ne remplace pas les capacités humaines fondamentales
Aucun commentaire pour le moment.