- L’affirmation selon laquelle « il n’est pas nécessaire de se souvenir de quoi que ce soit » est une vieille illusion
- Des outils numériques comme Internet, les applis de prise de notes ou l’IA prétendent supprimer le besoin de mémoire, mais cela entraîne un coût caché pour les capacités de réflexion
- Sans capacités de pensée critique et analytique, il est impossible d’exploiter efficacement les résultats de recherche sur Internet, et l’acquisition de connaissances reste superficielle
- Consommer l’information uniquement en surface, sans connaissances approfondies, affaiblit les capacités de traitement cognitif du cerveau
- Des méthodes comme la méthode Zettelkasten et un entraînement régulier sont indispensables pour un travail intellectuel réellement significatif
L’illusion des outils numériques et de la mémoire
- L’idée selon laquelle « il n’est pas nécessaire de se souvenir de quoi que ce soit » est une vieille conception apparue il y a déjà plusieurs décennies
- Les moteurs de recherche, les anciennes applis de notes, l’IA, etc., répètent que l’importance de la mémoire a disparu
- En réalité, pour trouver l’information recherchée, une formation de base et des connaissances préalables du domaine restent indispensables
Esprit critique et capacité à utiliser Internet
- Dans la société contemporaine, la tendance est de plus en plus forte à sauter les étapes de réflexion nécessaires pour aller chercher directement la conclusion sur Internet
- Cette tendance réduit les occasions d’apprentissage autodirigé et les connaissances préalables, tout en diminuant la capacité à évaluer la qualité de l’information et à la transformer en véritable savoir
- Selon les recherches, les soi-disant digital natives manquent de capacité à évaluer de manière critique et analytique les informations trouvées sur Internet
- Pour tirer une réelle valeur d’une recherche en ligne, il faut disposer d’une carte mentale propre à chaque domaine
L’approche des digital natives et ses limites
- Les digital natives jugent l’information uniquement selon une correspondance superficielle, et leur motivation à exercer une évaluation critique s’affaiblit
- Cette approche entraîne notamment les conséquences suivantes
- Un affaiblissement du lien émotionnel avec les contenus, ce qui réduit la profondeur de pensée et l’engagement
- Une relation superficielle à l’information, qui ne provoque pas de transformation dans la structure du cerveau
- En conséquence, plus les habitudes de consommation superficielle de l’information s’accumulent, plus les fondations du savoir deviennent fragiles
Les principes essentiels du savoir, des notes et de la pensée critique
- La véritable construction du savoir ne peut pas être déléguée à l’IA ou à des outils de PKM (Personal Knowledge Management) : elle doit être mise en œuvre directement par la personne concernée
- Par exemple, on peut demander à ChatGPT de concevoir une routine sportive hebdomadaire, mais sans connaissances de base, il est impossible de juger si le résultat est bon ou non
- Sans compréhension approfondie des concepts importants, et avec une simple connaissance de termes superficiels, il est difficile d’évaluer la valeur réelle de l’information
Connaissances préalables et capacité de traitement interne du cerveau
- Il existe une grande différence entre le fait de n’évoquer que des associations superficielles et le fait de pouvoir mobiliser, à propos d’un terme donné, un ensemble de connaissances fondamentales et multicouches
- Le véritable goulot d’étranglement du travail intellectuel n’est pas la quantité d’informations externes, mais les capacités internes de traitement du cerveau et son niveau d’entraînement
Le besoin de bons outils et d’un entraînement continu
- Contrairement à l’idée selon laquelle « il n’est pas nécessaire de se souvenir de quoi que ce soit », la direction souhaitable est en réalité de « tout devoir retenir »
- C’est à cette condition qu’un travail cognitif significatif et une pensée fondée sur la connaissance deviennent possibles
- Les outils simples (par ex. la répétition espacée) aident pour les tâches simples, tandis que les outils avancés (par ex. la méthode Zettelkasten) soutiennent la pensée complexe
- Le traitement en profondeur est au fond directement lié à l’entraînement du cerveau
- L’avenir du travail intellectuel dépend de notre capacité à ne pas renoncer à l’entraînement de l’esprit
Live long and prosper
Sascha
1 commentaires
Commentaire sur Hacker News
La première, demander la réponse à l’IA : elle construit quelque chose, l’IA fait à ma place la réflexion que je devrais mener, donc le travail paraît plus facile
La deuxième, utiliser l’IA comme outil d’automatisation pour les tâches répétitives et simples (comme écrire une suite de tests ou mettre en place l’infrastructure) : en pratique c’est plus rapide qu’un humain, mais comme il faut alors se concentrer sur les tâches difficiles, cela devient au contraire plus pénible Ces deux approches procurent des sensations totalement différentes Dans la première, le travail devient plus facile ; dans la seconde, les parties faciles sont automatisées, ce qui laisse peut-être une succession continue de réflexion et d’efforts plus difficiles S’il existe ne serait-ce qu’un peu de compétition au travail, je pense que la personne qui travaille selon le deuxième schéma sera largement supérieure à la fois en productivité et en qualité Mais cette manière de faire paraît très épuisante mentalement Article lié
J’ai effectivement essayé la deuxième approche en entreprise Pour que cela réussisse presque à coup sûr, il faut avoir préparé à l’avance l’essentiel du plan d’implémentation, et surveiller que le LLM ne produise pas de résultats aberrants Pendant ce temps, on ne peut pratiquement rien faire d’autre Au ressenti, cela améliore la productivité d’environ 10 % à 20 %
Cette sensation de « compresser en continu le travail de réflexion et ne faire que la partie difficile », c’est exactement le point que je voulais décrire En conception de systèmes, le vrai goulot d’étranglement n’est ni le travail facile ni la répétition, mais les parties imprévisibles, les zones inconnues, les conséquences non intentionnelles, etc. L’IA n’aide pas beaucoup sur ces aspects Au contraire, il est utile de ne pas automatiser complètement le travail répétitif et d’en conserver une partie Ces tâches permettent de rester dans le domaine concerné et apportent souvent des intuitions sur les problèmes difficiles
Moi, je confie à l’IA l’architecture, l’organisation du code et la conception au niveau des algorithmes Je planifie à ce niveau-là, puis je confie entièrement l’implémentation aux agents Je fais aussi auditer les tests, à la fois par moi-même et par plusieurs agents IA Le pipeline est automatisé à 100 %, et les résultats sont très bons De toute façon, cela garde une sensation d’ingénierie dans la mesure où j’orchestre, selon mes instructions, un DAG de workflows stochastiques
Le problème des LLM, c’est qu’ils ne parviennent pas à accomplir totalement seuls même des tâches simples Et quand un humain doit intervenir, les LLM peuvent induire des biais assez idiots au point de brouiller l’intuition humaine Mais je pense que cette idée s’inscrit aussi dans l’histoire du développement : compilateurs, vérificateurs de types, tests automatisés, gestion de versions, etc.
Avec le premier exemple (obtenir seulement des réponses à des questions), il faut parfois au contraire réfléchir davantage Si le résultat généré ne fait pas exactement ce qu’on veut, contient des bugs ou devient complexe, il faut analyser et comprendre beaucoup de code qu’on n’a pas écrit soi-même pour pouvoir passer à l’étape suivante À lire ainsi du code, on peut finir par perdre du temps Au final, si le prompt d’entrée ou la spécification est parfaitement clair et me donne le même niveau de compréhension que si j’avais écrit le code moi-même, alors pas de problème ; sinon, je pense qu’il vaut mieux tout supprimer et recommencer par la planification
À propos de l’affirmation selon laquelle « il faut tout mémoriser pour pouvoir faire un vrai travail intellectuel » En pratique, il n’est pas nécessaire de tout mémoriser Grâce à l’expérience, à la réflexion et à l’écriture, il suffit de se souvenir du point d’entrée et de la forme générale de ce qui vient ensuite pour produire un travail significatif
Citation de Thomas d’Aquin : « il faut bien ordonner ce que l’on veut retenir ; l’ordre est la chaîne de la mémoire » J’ai retrouvé ce passage dans mon Zettelkasten
Je pense que cela dépend du type de travail Par exemple, dans une conversation en langue étrangère, où une performance en temps réel est requise, il faut avoir vraiment mémorisé le vocabulaire ; c’est pareil pour l’interprétation musicale Pour écrire, on peut prendre son temps, mais si les connaissances de fond sont trop faibles, cela demandera au final énormément de préparation en amont
En fait, les LLM fonctionnent aussi de cette manière Comme le cerveau humain, ils absorbent autant d’informations que possible pendant le pre-training, puis, au-delà d’un certain seuil, produisent des résultats qui se rapprochent d’une pensée humaine, comme le raisonnement ou l’usage d’outils Je suis donc d’accord avec l’hypothèse selon laquelle, si les données de pre-training du cerveau sont insuffisantes, il devient un modèle de base faible
Je ne mémorise pas toutes les réponses ; j’ai plutôt tendance à mémoriser l’endroit où les trouver
Question à propos de l’idée de « ne mémoriser que l’état initial et laisser l’esprit suivre le reste par association » ou de « ne retenir que le point de départ d’une solution (par exemple quelques hypothèses ou idées clés) » Si l’on utilise Zettelkasten, je pense qu’on adhère assez facilement à la première approche
À propos de l’affirmation selon laquelle « il faut tout mémoriser pour pouvoir faire un vrai travail intellectuel » Si l’être humain n’avait pas la capacité d’abstraction, cela aurait du sens Mais puisque l’abstraction existe, il suffit en réalité de mémoriser une partie des faits concrets L’essentiel, c’est d’avoir des modèles conceptuels solides et du savoir tacite Le savoir tacite se construit par l’expérience et le feedback, puis on bâtit des modèles conceptuels auxquels on ajoute progressivement les faits Au début, la mémorisation aide, mais après un certain stade, elle peut au contraire devenir un obstacle Il n’est pas nécessaire de garder en permanence en mémoire tout un ensemble transformé ; avec l’expérience, il suffit d’insérer ce qu’il faut dans le bon « framework » Je pense que la controverse vient souvent de personnes qui détestent la mémorisation mais ont traversé péniblement leur phase de débutant
J’ai vu passer plusieurs billets défendant l’idée qu’« il faut tout mémoriser », mais j’ai l’impression qu’ils manquent souvent le point central et le contexte Comme il est impossible de tout retenir, je suis d’accord avec l’idée qu’il faut faire l’effort d’en retenir le plus possible Au fond, je trouve dangereuse l’idée selon laquelle « puisqu’on n’a pas besoin de tout retenir, on peut ne pas s’en soucier » J’ai l’impression que l’argument du texte était formulé très fortement, dans le sens où déléguer cela à une calculatrice ou à un LLM n’aide pas à long terme
Je suis profondément d’accord avec l’idée que « les modèles conceptuels et le savoir tacite comptent davantage » Plus on fait longtemps de l’informatique et du software engineering, plus on se rend compte qu’il n’y a pas tant de concepts vraiment fondamentaux que ça Pour un ingénieur véritablement expérimenté, il est indispensable d’avoir vécu ces concepts de façon concrète Quand on a bien intégré ces concepts, on peut rapidement situer n’importe quel problème informatique dans des « coordonnées conceptuelles », puis le réappliquer et le comprendre de manière répétée
Je parle souvent de ce sujet avec des proches en ce moment, et je définis au fond l’ingénierie comme « partir d’une question, sans solution claire au départ » Dans ce cas, l’important est d’avoir une compréhension suffisante des fondations sur lesquelles repose sa couche, c’est-à-dire des couches d’abstraction inférieures Si l’on voit cela comme une pyramide de connaissances, chaque étage se spécialise en rôles et expertises différents, mais quel que soit l’endroit où l’on se situe, plus on comprend les couches du dessous, meilleure est son intuition Si l’on externalise les bases, on affaiblit non seulement sa pensée critique, mais aussi son intuition sur la structure du monde dans lequel on évolue
Je comprends l’intérêt des outils d’amélioration de la mémoire comme Anki ou Zettelkasten, mais je trouve ce texte trop simplificateur Je pense qu’il existe deux modèles de travail fondé sur la connaissance
Le phénomène le plus marquant récemment, c’est justement que l’IA est très utile quand on n’a absolument aucune connaissance de départ Mais c’est précisément pour cela que je pense qu’il y a un problème L’IA aide à trouver un point de départ facile, mais dans le processus elle prive l’utilisateur de l’occasion d’apprendre par lui-même L’apprentissage est une boucle répétée de « réception-compréhension-mémorisation-application » ; si l’on se contente d’obtenir des réponses en promptant l’IA à l’infini, l’auto-apprentissage se produit à peine
L’avantage de l’IA, c’est qu’elle fournit très bien plusieurs exemples d’un même « type » Si l’IA me trouve plusieurs entreprises qui font « X », cela me donne des références pour savoir comment approfondir ensuite avec un moteur de recherche Même si je n’arrive pas au bout avec les résultats proposés par l’IA, après avoir entendu ses suggestions, je dois ensuite exercer mon propre jugement L’IA est spécialisée dans la détection de motifs entre les mots et les caractéristiques, ainsi que dans les façons de formuler les catégories
Les pilotes utilisent eux aussi des outils consultables sans mémorisation, comme des check-lists, et dans les situations d’urgence il existe aussi des procédures qu’ils doivent presque exécuter par réflexe à partir d’une mémoire codée
L’improvisation ou la performance en direct (conversation, musique, etc.) exigent de bonnes capacités de mémorisation Le degré de traitement en temps réel que l’on souhaite est probablement un bon critère pour décider du niveau de mémorisation nécessaire
À propos de l’affirmation selon laquelle « si l’on n’est pas capable de lire une question et de produire immédiatement une réponse synthétique, c’est qu’on manque de connaissances de fond » Cette position est trop extrême Par exemple, lorsqu’on prépare un programme d’entraînement, ce n’est pas grave de ne pas prendre en compte tous les détails Même si la réponse n’est pas parfaitement optimisée (« minmaxed »), on peut obtenir de très bons résultats simplement en étant régulier C’est un point commun à tous les domaines Même sans être un expert profond, on peut produire un certain niveau de résultat
C’est exactement la même chose en mathématiques On peut utiliser une calculatrice, bien sûr, mais avoir le sens des nombres et une intuition arithmétique permet de traiter le monde beaucoup plus vite et plus précisément On s’aidera aussi de l’IA ou des moteurs de recherche, mais il faut au minimum conserver son propre jugement
J’ai toujours trouvé étrange que beaucoup de gens commencent par écrire une formule Excel sans vérifier intuitivement les données par eux-mêmes Par exemple, si A8 vaut 120 et A7 vaut 100, c’est une bonne habitude de voir immédiatement à l’œil de combien de pour cent cela a augmenté Avec l’IA, c’est pareil : au lieu de croire d’emblée une réponse dans un domaine qu’on ne connaît pas du tout, il faut d’abord la confronter à des valeurs ou des concepts qu’on peut vérifier soi-même
Le problème n’est pas tant l’usage d’une calculatrice que le rejet du calcul en lui-même Il est surprenant de voir combien d’absurdités on peut écarter par un simple calcul mental si l’on connaît quelques formules élémentaires (surface, volume, densité, énergie, etc.) Le célèbre exemple du diamètre d’une pizza en fait partie
Le vrai point essentiel, c’est que le cerveau évolue en étant « dressé » par l’expérience Si l’on ne mémorise rien et qu’on s’appuie toujours sur la recherche, le cerveau finit simplement par apprendre à fonctionner comme un moteur de recherche Dans les situations où la recherche n’est pas possible, ce manque d’expérience devient une limite critique Bien sûr, cette manière de faire peut fonctionner à notre époque, mais le principe fondamental selon lequel le cerveau s’améliore ne change pas
De mon point de vue, il n’est pas nécessaire de tout mémoriser, mais il est indispensable d’y avoir au moins été « exposé » Si l’on ne sait même pas ce que l’on ignore, il devient dangereux de faire un travail intellectuel J’adhère à l’idée : « apprends un peu de tout, et approfondis vraiment un domaine »
Avant Internet, on demandait aux gens autour de soi, et s’ils donnaient une réponse approximative, on la croyait simplement Puis Internet est arrivé, et les résultats de recherche sont devenus plus fiables que l’avis aléatoire d’une connaissance Maintenant, l’IA est là ; elle non plus n’est pas parfaite, mais ses réponses me semblent malgré tout plus fiables que celles de n’importe qui dans son entourage ou d’un blog pris au hasard L’idée qu’une réponse doive être correcte à 100 % me paraît étrange Autrefois, tout le monde acceptait les affirmations approximatives des gens autour d’eux
J’aimerais savoir sur quoi repose l’idée qu’un LLM qui agrège des blogs aléatoires produit une réponse plus exacte qu’une recherche directe dans des blogs dont l’expertise est vérifiée
Poser une question à n’importe qui au hasard est une mauvaise idée Il faut toujours s’adresser à un expert du domaine Par exemple, je ne demande pas à ma femme des choses sur les jeux vidéo, ni à mon père des questions de programmation Rien qu’en procédant ainsi, le besoin d’IA diminue déjà énormément