Pourquoi parler avec des LLM a amélioré ma façon de penser
(philipotoole.com)- Parler avec des LLM améliore la clarté de la pensée et la capacité d’expression verbale
- Des idées que l’on connaissait implicitement depuis longtemps sans pouvoir les formuler sont mises en phrases par le LLM, ce qui produit non pas un nouvel apprentissage mais un moment de prise de conscience
- Comme dans l’expérience des programmeurs, l’intuition, la reconnaissance de motifs et les jugements difficiles à expliquer s’accumulent souvent sous une forme antérieure au langage
- Les LLM sont particulièrement doués pour transformer ces structures floues en langage, en décomposant les raisons et en les énumérant pour permettre de reconstruire la pensée
- Quand une pensée se fixe en phrases, il devient possible de tester, corriger et abandonner des hypothèses et des intuitions, ce qui transforme la qualité du raisonnement
- À travers un processus répété de mise en mots, la précision du monologue intérieur augmente et l’on prend mieux conscience de sa propre pensée
Une grande partie de ce que nous savons est implicite (tacit knowledge)
- Les programmeurs et les développeurs reconnaissent souvent de manière intuitive qu’une conception est mauvaise avant même de pouvoir l’expliquer
- Cela inclut le fait d’avoir l’intuition qu’une conception est erronée ou de détecter un bug avant même d’en reproduire le comportement
- On repère immédiatement une mauvaise abstraction, mais il faut du temps pour l’expliquer
- Cette connaissance implicite n’est pas un échec, mais le résultat d’une expérience compressée en motifs orientés vers l’action
- Le cerveau stocke le savoir sous une forme optimisée non pour l’explication, mais pour l’exécution
- Pourtant, pour la réflexion, la planification et l’enseignement, l’expression par le langage est indispensable ; une idée qui n’est pas formulée est difficile à examiner ou à partager
Les LLM excellent dans le problème inverse
- Un LLM est un outil optimisé pour convertir des concepts et des structures flous en phrases
- Quand l’utilisateur pose une question qu’il “sent vaguement correcte sans pouvoir en expliquer la raison”, le LLM organise et présente les raisons étape par étape
- Chaque point est structuré de manière orthogonale, ce qui permet à l’utilisateur de les échanger et les réagencer pour étendre sa réflexion
Mettre une pensée en mots change la pensée elle-même
- Quand le LLM organise une idée en phrases, l’utilisateur peut alors l’expérimenter mentalement
- Une intuition vague devient une distinction nommée, et les présupposés implicites apparaissent, rendant possible leur vérification, leur abandon ou leur révision
- Comme l’écriture affine la pensée, les LLM se distinguent par leur vitesse
- On peut explorer rapidement des idées à moitié formées, écarter des explications erronées et réessayer
- Ce processus favorise des étapes de réflexion que l’on avait auparavant tendance à sauter
Boucle de rétroaction et intériorisation de la pensée
- Avec le temps, même sans LLM, on finit par se demander : « Est-ce que je peux exprimer avec précision ce que je pense, ressens et crois en ce moment ? »
- Plus qu’améliorer directement la pensée, le LLM améliore la capacité à utiliser le langage et l’efficacité du monologue intérieur
- Comme le raisonnement dépend d’une expression explicite, un gain de clarté linguistique mène directement à un gain de clarté de pensée
- Plus ce processus se répète, plus on devient conscient de ce que l’on pense réellement
9 commentaires
Il faut déjà avoir une bonne métacognition pour bien réfléchir ; ce n’est pas parce qu’on a un LLM que sa pensée s’améliore. Et puis, chez ceux qui commencent à utiliser un LLM très tôt, la métacognition risque plutôt d’être complètement ruinée...
Eh bien, il me semble qu’il existe aussi des cas où, à cause de réponses flatteuses mais erronées, on finit par s’enfermer dans sa propre manière de penser. C’est utile comme outil pour clarifier les choses, mais je pense qu’il est aussi important de toujours garder un regard critique sur les réponses de l’IA.
C’est pourquoi j’utilise Gemini avec l’instruction suivante : « Ne pas complimenter excessivement l’utilisateur ni l’encenser. Répondre dans un style neutre et scientifique/universitaire. Toujours fournir des références. » Il arrive encore assez souvent que ces consignes ne soient pas respectées (par ex., j’ai demandé de ne pas inclure de vidéos YouTube, mais il en ajoute parfois quand même), mais cela produit malgré tout des réponses bien plus propres et concentrées sur l’essentiel.
Des consignes concises et de qualité. Je devrais essayer de les appliquer moi aussi.
Commentaires sur Hacker News
Cet article correspond aussi à mon expérience. En discutant avec des LLM, j’ai pu concrétiser des idées qui étaient auparavant vagues et explorer des sujets connexes pour élargir ma compréhension
Avant, même quand une question me venait, je ne savais pas par où commencer, mais ChatGPT m’indique si cette idée correspond déjà à un concept existant, qui l’a étudiée, et quelles sources primaires existent
C’est comme un terrier de lapin pour explorer le monde. La barrière d’entrée vers la connaissance diminue, et même l’écriture, que je trouvais autrefois ennuyeuse, me paraît nouvelle. J’ai maintenant envie d’écrire moi-même
Je m’inquiète toutefois de voir un jour les entreprises chercher à davantage monétiser les LLM. Les conversations pourraient dériver vers des incitations à l’achat
J’ai saisi le fonctionnement des algorithmes d’approximation qui résolvent le problème des boucles de rétroaction. Je pense que ce type d’apprentissage serait aussi très utile aux étudiants
Je vois l’IA de façon similaire. L’essentiel reste le même, seuls les ornements autour deviennent plus tape-à-l’œil. Le marché mondial du café représente environ 500 milliards de dollars ; je pense que le marché de l’IA atteindra bientôt cette taille
Je ne cherche pas à nier l’expérience des autres, mais penser est un acte qui se renforce lui-même
C’est dans le processus où l’on se pose des questions et où l’on y répond soi-même que de nouvelles idées émergent. Il ne faut pas oublier cette capacité
En revanche, il est regrettable qu’ils soient trop béni-oui-oui et ne proposent pas assez de contradiction. Malgré cela, penser avec un LLM a une valeur propre
Mais le fait de mettre les choses par écrit exige une pensée métacognitive bien plus profonde que la simple réflexion. C’est pourquoi cela mène à une pensée plus raffinée
On a l’impression de mieux penser → on s’enthousiasme → on s’implique davantage → les résultats s’améliorent → on s’enthousiasme encore plus → et ainsi de suite
Ce cycle est aussi possible sans LLM
Les conversations avec les LLM sont souvent dispersées et inefficaces. Au final, c’est à l’humain de donner la direction
Les conversations humaines sont plus lentes, mais elles conservent une capacité de raisonnement supérieure. Les LLM sont utiles pour résumer ou comme point de départ d’une exploration, mais les intuitions profondes viennent des livres et des échanges entre personnes
Le simple fait de formuler ses idées à voix haute active d’autres zones du cerveau et aide à résoudre les problèmes
Après avoir fait autre chose pendant 20 ans, j’ai récemment commencé des cours universitaires d’informatique
Au départ, je pensais utiliser les LLM comme aide au code, mais ils se sont révélés bien plus utiles pour affiner le cadrage conceptuel
Ils m’aident à expliquer clairement ma philosophie non conventionnelle de conception logicielle
Si on lit le texte original, le style paraît trop typique d’un LLM
Des structures répétées comme « This is not <>, this is how <> » donnent une impression artificielle. Une vraie personne n’écrit pas comme ça
L’auteur affirme que « l’écriture aide aussi à penser, mais que dialoguer avec un LLM est plus rapide et crée moins de friction », alors qu’au contraire la friction d’expression augmente ici et nuit à la clarté
Je partage l’idée que les LLM font remonter la connaissance tacite d’une personne
En même temps, le billet posté hier sur la « dette cognitive » liée à l’usage de l’IA (lien) a aussi du sens. Les deux positions me semblent vraies
Si on les utilise en leur posant des questions personnelles comme dans une « conversation », on peut accumuler de la dette cognitive
En revanche, si on adopte un mode impératif pour leur « donner des tâches », on peut obtenir des résultats vérifiables
Par exemple, « écris-moi un essai sur les oiseaux de ma région » peut être pris à tort pour une création humaine, mais
« comment fonctionne la facturation client dans cette codebase ? » produit du code déterministe vérifiable
Je suis d’accord avec l’observation de l’auteur. Les LLM, comme dans le rubber duck debugging, nous amènent à organiser notre pensée en expliquant le problème
La différence, c’est que ce « rubber duck » dispose d’une immense expertise
Moi aussi, en parlant de mes idées avec un LLM, je fais souvent l’expérience d’une pensée qui se clarifie
Le fait d’expliquer structure mes idées, et les questions immédiates me permettent d’explorer de nouveaux angles
Je ne partage pas la définition de la « bonne pensée » donnée dans cet article
Pour moi, bien penser, c’est être logique, précis et voir clairement différentes possibilités
Les LLM ont tendance à renforcer l’intuition plutôt qu’à la vérifier, ce qui peut au contraire brouiller la réflexion
J’utilise les LLM comme partenaire de débat intellectuel
C’est utile pour tester mes idées et rechercher si quelqu’un a déjà formulé quelque chose de similaire
Discuter avec un LLM est à la fois étonnant et frustrant
C’est fascinant d’avoir un ordinateur qui comprend mon langage naturel, mais son incapacité à apprendre reste une limite
Avec un développeur junior, la confiance se construit avec le temps, mais avec un LLM, ce n’est pas possible
Si j’y consigne ma manière préférée d’aborder les problèmes, mes méthodes de build, de test et de déploiement, le LLM fait moins d’hypothèses farfelues
Je le gère comme une sorte de « dix commandements du LLM ». En faisant lire ce fichier au début de chaque nouvelle session, j’obtiens des résultats bien plus cohérents
Ce n’est pas parfait, mais c’est une manière pragmatique de compenser la limite d’un LLM qui ne peut pas apprendre par lui-même
Vous avez ouvert les yeux.