- Écrire est un processus de pensée qui consiste à poser des questions et à chercher des réponses, et non une simple rédaction de document, mais un acte d’élargissement de la compréhension
- Les textes générés par les LLM font perdre des occasions de penser et d’apprendre, ce qui revient à « faire faire son entraînement par quelqu’un d’autre », autrement dit renoncer à sa propre progression
- Les documents générés automatiquement affaiblissent l’authenticité et la confiance, et donnent l’impression que l’auteur n’a pas réellement réfléchi
- L’essence de l’écriture réside dans le leadership et la construction de la confiance ; dépendre des LLM fait perdre cette opportunité
- Les LLM sont utiles dans un rôle d’assistance pour la recherche, la documentation et la génération d’idées, mais l’écriture elle-même, lorsqu’elle exige réflexion et recul, doit être faite directement par soi-même
Le but de l’écriture et le processus de pensée
- L’écriture est définie comme un processus qui consiste à formuler des questions et à y répondre
- Un PRD répond à la question « que faut-il construire ? », tandis qu’une spécification technique répond à « comment faut-il le construire ? »
- Il arrive aussi qu’elle traite de questions plus fondamentales, comme « qu’essayons-nous réellement d’accomplir ? »
- Au cours de ce processus, on est amené à se demander si l’on pose les bonnes questions
- Avec la diffusion des LLM (grands modèles de langage), les documents, articles et essais générés automatiquement se multiplient
- Mais ces textes sont présentés comme une manière de perdre l’occasion de développer sa pensée et de construire la confiance
- Le but de l’écriture n’est pas simplement d’achever un livrable, mais d’élargir sa compréhension et celle de son entourage
- L’écriture est comparée à un processus consistant à trouver de la structure et du sens dans la confusion
- Par la répétition, elle renforce la capacité de réflexion et d’expression, dans un processus de progression comparable à l’entraînement physique
- Confier l’écriture à un LLM revient à « demander à quelqu’un de s’entraîner à sa place »
- Cela est considéré comme un renoncement à ses propres occasions d’apprentissage et de progression
Construction de la confiance et authenticité
- Les documents rédigés par un LLM présentent un risque d’atteinte à la confiance sociale
- Un texte où l’on sent la patte d’un LLM apparaît comme « un produit qui imite ce que les autres veulent entendre »
- Il donne l’impression que l’auteur n’a pas réellement lutté avec ses idées ni mené sa réflexion
- Ce type de document affaiblit le leadership et la crédibilité
- Alors que l’écriture aurait normalement permis de construire la confiance, c’est au contraire cette occasion qui se perd
- Certains soulignent que « les textes générés par un LLM abîment non seulement le texte lui-même, mais aussi l’authenticité de la réflexion qui le sous-tend »
- Si les phrases ont été générées automatiquement, cela suscite le doute : et si les idées elles aussi avaient été générées automatiquement ?
Comment utiliser les LLM dans le processus d’écriture
- Les LLM sont utiles pour des tâches d’assistance comme la recherche, la relecture, la consignation d’informations et la transcription de texte
- Mais cela doit être distingué de l’acte d’écrire lui-même, qui exige pensée et réflexion
- Les LLM peuvent être efficaces à l’étape de génération d’idées
- Même si seules quelques idées parmi beaucoup se révèlent utiles, cela ne constitue pas une perte
- L’utilisateur peut ne retenir que les résultats utiles et écarter le reste
- Ces outils contribuent à améliorer l’efficacité de la livraison logicielle
- Mais pour les exploiter correctement, il faut aussi élever la profondeur de pensée et le niveau de réflexion
4 commentaires
Les textes écrits par l’IA, c’est exactement le genre de chose qui peut paraître plausible même si on dit l’inverse.
Il faut faire ceci, il faut faire cela. Est-ce que ce genre de discours a vraiment un sens...
Et si on disait qu’utiliser de l’open source et recourir au cloud freine la croissance, donc qu’il ne faut pas s’en servir ?
Avez-vous vraiment la confiance nécessaire pour tout refaire de zéro uniquement pour apprendre, sans les utiliser ? Il existe un niveau de portfolio attendu dans l’industrie : peut-on soumettre comme portfolio un sérialiseur ou la conception d’un protocole ?
L’examinateur en entretien saura-t-il reconnaître la valeur de cela ?
L’important, que ce soit pour l’écriture ou autre, c’est que si l’on peut créer quelque chose de valable en utilisant l’IA, alors cela correspond à l’époque, et le processus me semble légitime.
Il faut au moins structurer soi-même l’ossature du texte, oui.
Réactions sur Hacker News
Je pense que l’écriture est la première étape pour développer une pensée autonome
Comme dans une scène de Ghost in the Shell, cela me rappelle l’idée que « la spécialisation excessive mène à la mort » quand la diversité disparaît
Je crains que les LLM ne poussent toute la société vers une pensée de groupe
Les enfants du futur devront peut-être apprendre séparément à penser par eux-mêmes et à se forger une opinion
Article connexe
J’ai toujours considéré l’écriture comme la dernière étape de la pensée
Une idée qui semblait parfaite dans ma tête révèle ses contradictions une fois mise par écrit, et ce processus permet de clarifier sa pensée
Mais beaucoup de documents n’étaient qu’un simple déversement de contexte (context dump)
Dans ce cas, je pense qu’il vaut mieux laisser l’IA rédiger la documentation et permettre aux humains de se concentrer sur la réflexion essentielle
J’ai l’impression qu’un jour, une boucle fermée où des IA transmettent du contexte à d’autres IA deviendra la base du travail
Moi aussi, il m’arrive souvent de comprendre le cœur d’un problème en plein milieu de la rédaction d’un rapport
Donner à un humain les mêmes informations que celles qu’on fournirait à un LLM devrait suffire
Le fait d’écrire puis de réviser expose nos propres failles et nous pousse à poser de meilleures questions
Écrire dans un style conversationnel approfondit encore la réflexion
Quand on essaie de concrétiser une idée, on se retrouve face au flou et aux incohérences présents dans sa tête
Je me demande pourquoi laisser l’IA rédiger des notes de version que personne ne lira serait la « meilleure solution »
Je pense qu’il vaudrait mieux les résumer de façon concise
Je ne suis pas d’accord avec l’idée que les LLM sont « particulièrement doués pour générer des idées »
C’est parce qu’ils ne produisent que des résultats moyens et sans aspérités
Si l’on cherche des idées intéressantes ou nouvelles, les LLM ne sont pas adaptés
En expliquant une architecture, je finis par repérer moi-même les cas limites du problème
Être différent juste pour être différent n’est pas une vertu
Les LLM ressemblent davantage à des générateurs de bon sens qu’à des générateurs d’idées
En jouant sur les réglages de temperature ou de top-k, on peut très bien forcer la sélection de tokens moins probables et obtenir plus de variété
La plupart des idées sont inutiles, mais l’une d’elles peut parfois servir d’indice vers une bonne direction
J’ai donc quand même l’impression que cela aide un peu
Les vraies idées viennent des humains, et le LLM se contente de lister des solutions associées pour servir de source d’inspiration
Si l’on envoie tel quel un texte écrit par un LLM, l’autre personne ne relit pas mes idées, mais la sortie du modèle
C’est particulièrement problématique quand, au travail, on soumet directement du code écrit par un LLM
Confier à d’autres un résultat qu’on n’a pas soi-même vérifié, c’est se dérober à sa responsabilité
Au final, on verra peut-être apparaître une structure où les producteurs compensent les consommateurs
Le titre de cet article est « Ne laissez pas l’IA écrire à votre place », mais l’idée réelle est plus proche de « Ne laissez pas l’IA penser à votre place »
L’écriture n’est qu’une manière de penser, pas la seule
Pour certaines personnes, un enregistrement vocal est même plus naturel
De nombreux auteurs, comme Rod Serling ou Mark Twain, ont travaillé par dictée
Voir la vidéo de Mark Duplass sur The Talking Draft Method
Ensuite, confier à l’IA la transcription et la correction grammaticale peut être efficace
J’enregistre à l’improviste, puis je mets cela dans NotebookLM avec un prompt du type : « résume avec mon ton et ma voix »
Ce processus ne me fait pas gagner du temps, mais il m’aide énormément à gérer mes émotions et à surmonter la peur de commencer
C’est aussi utile comme technologie d’assistance pour le TDAH
Depuis que j’ai remplacé les morning pages manuscrites par du numérique, j’ai l’impression d’avoir perdu quelque chose
Cela garde tout de même de la valeur grâce à la recherche et aux fonctions de RAG
Ce n’est pas la même chose qu’une simple conversation
Le fait qu’elle me fournisse ensuite un résumé m’aide aussi à les mettre en ordre
Grâce à l’IA, j’arrive mieux à exprimer mes idées
Ceux qui écrivent bien oublient souvent à quel point c’est une capacité rare
J’ai arrêté d’utiliser l’IA dans le domaine de l’art
Comme le disait Kurt Vonnegut, l’acte artistique est un processus qui fait grandir l’âme
On peut se faire aider par l’IA pour les rapports professionnels, mais les billets de blog ou les textes personnels doivent être écrits directement
J’ai aussi mis cette philosophie dans la page de présentation de mon blog
Grâce aux LLM, j’ai au contraire pris conscience de la nature profonde de l’écriture
Pour moi, écrire, c’est vider le cache mental
Si je n’écris pas moi-même, mes pensées ne sont jamais totalement traitées
Confier cela à l’IA, c’est comme demander à quelqu’un d’autre de faire de l’exercice à sa place et espérer quand même développer ses muscles
Le vrai piège, au final, c’est de lire les phrases fluides du modèle et de croire à tort qu’on a compris
De la même façon que la photographie a révélé l’essence de la peinture, l’IA nous oblige à reposer la question du but de l’écriture
L’anglais n’est pas ma langue maternelle, donc la rédaction formelle est difficile pour moi, mais l’IA m’aide énormément
Bien sûr, je relis toujours moi-même le résultat produit par l’IA
J’avais été marqué autrefois par une conférence sur le programme d’écriture de l’université de Chicago
Ce professeur disait que « l’écriture est le processus même de la pensée »
C’est en essayant d’exprimer quelque chose par écrit que la pensée se concrétise et que les idées se relient entre elles
Je suis heureux d’avoir reçu cet entraînement à une époque où des outils comme Claude n’existaient pas
J’espère que les enfants ne perdront pas leur capacité de réflexion en se contentant d’appuyer sur le « bouton facile »
Vidéo de la conférence
J’envie la richesse des outils dont dispose cette génération, et j’ai hâte de voir les nouveaux usages qu’elle va inventer
On peut poser des questions, vérifier les réponses et élargir sa réflexion
L’écriture est une activité composite qui peut servir à persuader, enseigner, créer ou organiser des connaissances
Les LLM permettent un contrôle fin d’éléments linguistiques comme le style, les métaphores ou le rythme
Au final, la qualité de l’écriture avec l’IA dépend de la capacité de pilotage de l’utilisateur
Les LLM ne donnent des idées intéressantes que si on les pousse « comme des fous », mais ils se répètent vite
L’essentiel est donc de les utiliser comme outil d’assistance
Leur déléguer entièrement la tâche est improductif, mais s’en servir de manière personnalisée peut aider à réfléchir
Pour les personnes dont l’anglais n’est pas la langue maternelle, ils ont une grande valeur comme moyen d’expression clair
Je suis débordé à en mourir… je ferai l’introspection plus tard T_T