-
Le codage par IA récent permet de produire rapidement du « code qui s’exécute », mais ne parvient pas encore à créer automatiquement le « bon produit » attendu par l’utilisateur
-
L’auteur voit principalement deux causes à cela
- le manque de bon sens / de connaissances implicites de l’IA
- dans l’apprentissage fondé sur le RLVR, une structure où il est plus facile de récompenser le « succès d’exécution du code » que le « bon code / bon produit »
-
Il cite comme exemples l’hallucination autour du MacBook Pro du roi Sejong, un test de station de lavage auto et l’échec de génération d’images de salles de classe / d’élèves coréens, pour montrer que même les modèles les plus récents peuvent manquer des bizarreries qu’un humain repère immédiatement
-
Si la récompense du RLVR appliqué au code est trop centrée sur l’exécution, les LLM peuvent produire un excès de
try-except, de fallback et de logique défensive, accumulant ainsi de la dette technique -
Aux échecs de go, il suffit de gagner ; mais dans le logiciel, l’enjeu n’est pas que « ça tourne à peu près », c’est de créer un produit que les gens veulent et pour lequel ils sont prêts à payer
-
Dans la perspective d’AJI (Artificial Jagged Intelligence) de Karpathy, les points faibles actuels de l’IA se situent du côté du « taste », du sens du produit et du bon sens implicite
-
Anthropic considère aussi que le design et le « taste » restent encore largement pris en charge par les humains, même si les frontières sont en cours de renégociation à mesure que les modèles progressent
-
L’auteur estime qu’à mesure que les modèles passent de GPT-5.4 à GPT-5.5, cet écart va progressivement se réduire
-
À terme, si l’IA acquiert un niveau de sensibilité et de jugement difficile à distinguer de celui d’un humain, elle pourra réussir le test de Turing, et ce moment pourra être considéré comme l’arrivée de l’AGI
Résumé :
Le problème du codage par IA n’est pas qu’elle « ne sait pas coder », mais qu’elle est optimisée pour produire des résultats exécutables sans savoir quel produit les humains veulent réellement. Le rôle actuel des humains est de compenser ce qui manque encore à l’IA en matière de bon sens, de « taste » et de jugement produit.
10 commentaires
Je ne sais pas qui est l’auteur de ce texte, mais personnellement, c’est l’un des articles les plus médiocres que j’ai lus ces dix dernières années.
J’ai été tellement choqué qu’en le lisant, j’en suis resté sidéré.
Alors, écrivez donc vous-même un bon article.
Je suis d’accord sur certains points, et pas sur d’autres. Au final, pour l’instant, il semble bien que l’intervention active de l’intelligence humaine reste indispensable. Même les vibe coders, même s’ils ne savent pas vraiment coder, doivent développer en s’appuyant au moins sur l’architecture logicielle et un minimum de bon sens. En fin de compte, une idée qu’on ne sait ni manager ni soutenir par une connaissance du domaine me paraît être un château de cartes, qui ne tiendra pas longtemps.
J’ai l’impression que c’est un long texte qui enfonce des portes ouvertes et aligne plusieurs noms connus, sans grand intérêt à la lecture.
Je pense aussi que c’est évidemment vrai.
Cela dit, si j’ai écrit ce texte, c’est parce que je l’ai réellement constaté moi-même et entendu dans plusieurs communautés.
Ohlala
On entendait déjà cela depuis longtemps. Mais au final, c’est un problème que le temps finira par résoudre. Dans 10 ans, sera-ce encore comme aujourd’hui ?
Je pense que c’est différent.
Si un jour l’IA devient capable de se poser des questions et d’exprimer un avis sur des éléments qui ne figurent même pas dans les consignes,
alors peut-être que l’humain pourra vraiment être remplacé,
mais un peu comme les gens riches qui se déplacent avec un chauffeur au lieu de conduire eux-mêmes,
est-ce que l’ingénieur du futur (moi, en quelque sorte) deviendra quelqu’un qui vérifie à la place des autres, point par point, tout ce qu’on lui demande de faire ?
À l’heure actuelle, au niveau des LLM, plus que de simplement se poser des questions, l’important est d’avoir du « bon sens humain ».
Il y a quelques années, une personnalité connue avait prédit que, dans le futur, les LLM pourraient développer en un instant ce que les gens veulent, et que les entreprises de logiciels disparaîtraient.