Désolé, mais le lien fourni ne contient pas de contenu d’article valide. Si vous fournissez un autre article ou contenu, je pourrai vous aider à le résumer et à le traduire.
Désolé, mais le lien fourni ne contient pas de contenu d’article valide. Si vous fournissez un autre article ou contenu, je pourrai vous aider à le résumer et à le traduire.
1 commentaires
Avis de Hacker News
Cela semble évident. On apprend bien plus en passant du temps à faire ses propres recherches qu’en obtenant directement la réponse à une question.
Il y a sans doute des personnes assez disciplinées pour pousser les recherches même quand la réponse leur est donnée tout de suite, mais la plupart ne le sont pas, et les entreprises veulent des solutions rapides, « efficaces » et « compétitives », plutôt que de s’inquiéter des dommages à long terme.
Aujourd’hui, nous sommes à la frontière d’une nouvelle époque où la lecture est remplacée par la recherche et la récupération via l’IA, et la crainte que l’IA devienne une béquille qui affaiblisse les jeunes générations est légitime. Cela dit, on ne sait pas encore ce qu’il en résultera, il n’y a pas encore de signe que l’usage de l’IA nuise aux performances des entreprises, et la proposition plus large selon laquelle « l’AGI provoquera un immense changement social » est probablement vraie.
L’apprentissage est lié à la curiosité, et la curiosité n’est pas liée à la difficulté de la recherche. Une personne curieuse posera davantage de questions même si on lui donne directement la réponse ; une personne qui ne l’est pas s’arrêtera là. Nous sommes tous juchés sur les épaules de géants, et ce n’est pas une mauvaise chose, c’est une bonne chose. Il y a peut-être des avantages à renoncer aux géants et à ramper soi-même jusqu’à cette hauteur, mais comme mode de transmission du savoir, cela me semble bien moins efficace.
Il y a 30 ans, on s’attendait à ce que l’accès immédiat au savoir de l’humanité rende tout le monde plus intelligent, mais même avec Wikipedia, la plupart des gens font défiler des vidéos conçues pour susciter la colère, qui ne transmettent pas de savoir et ne rendent pas plus heureux. Bien sûr, des cas comme celui d’une personne au Pakistan qui code sur son téléphone portable et maintient un plugin vim sont impressionnants, mais il s’agit plutôt de l’effet observé chez une minorité ayant eu l’occasion d’exploiter l’outil que d’un effet moyen sur l’ensemble de l’humanité.
Un physicien a un jour déclaré dans une interview sur YouTube que n’importe quel physicien pouvait désormais poser à ChatGPT des questions de niveau master/doctorat sur les derniers articles, et naviguer entre les connaissances de différents sous-domaines de la physique, ce qui aidait la recherche en physique.
Si l’on retire un ingénieur senior d’un projet pour former un junior, puis que ce junior acquiert des compétences et de l’expérience avant de partir dans une autre entreprise, l’entreprise se retrouve avec un ROI négatif. Au fond, c’est une tragédie des communs, et aujourd’hui c’est similaire, seul le mécanisme diffère. Une pénurie d’ingénieurs logiciel expérimentés pourrait arriver, mais la manière dont le secteur affecte les ingénieurs et leur confie le travail est tellement gaspilleuse qu’il semble y avoir de quoi absorber cette pénurie pendant un certain temps.
Ce n’est pas tant pour obtenir une réponse que pour éviter des impasses coûteuses.
Il y a deux aspects à ce problème, et c’est peut-être un peu polémique. Quand je pose une question à ChatGPT sur n’importe quel sujet, cela m’amène généralement à poser davantage de questions à partir de la réponse ; la plupart sont des questions idiotes, mais j’ai l’impression qu’au fil du processus j’absorbe et j’analyse l’information, puis que la curiosité me pousse à aller plus loin.
Par rapport aux recherches sur Internet, il y a de bons côtés, mais plus on creuse, plus on finit souvent par lire des textes imprégnés de l’opinion de quelqu’un. Ces textes donnent l’impression d’avoir déjà décidé quelles questions comptent, sous quel angle il faut regarder le sujet et quelle doit être la conclusion. C’est éducatif, mais cela laisse sans cesse de nouvelles questions.
La différence, c’est la curiosité. Si un sujet vous rend curieux, vous apprenez ; sinon, vous recevez une réponse et vous vous en contentez. Ce n’est pas de la paresse, et on ne peut pas être curieux de tout.
La différence, c’est qu’un acteur unique détermine l’orientation politique du modèle, et que ce modèle interagit avec bien plus de personnes qu’une tribune individuelle.
Je crois que je n’ai jamais posé de question sur Stack Overflow. Il était facile d’imaginer comment cette communauté traiterait une question dont j’avais peur qu’elle me fasse passer pour idiot. Mais à ces modèles, on peut poser toutes sortes de questions idiotes sans la moindre inquiétude, et c’est appréciable.
Avoir une discussion « curieuse » avec ChatGPT revient finalement à rechercher sur Internet à travers un filtre mêlant ses propres biais et ceux de ChatGPT. On peut avoir l’impression d’en être sorti, mais on est toujours dans Internet. Internet répond désormais aux questions avec des mots, mais cela reste Internet.
Je le répète depuis qu’OpenAI a lancé ChatGPT. Le danger des LLM, utilisables partout et qui semblent avoir réponse à tout, tient moins à leur existence même qu’à leur caractère séduisant.
Le vrai danger, c’est la tentation de demander immédiatement la réponse au LLM le plus proche plutôt que de ruminer tranquillement le problème par soi-même. Manipuler un problème dans sa tête, autrement dit la pensée critique, est au fond une compétence, et elle ne s’améliore que par une pratique délibérée et disciplinée.
Quand j’ai un projet difficile à démarrer, demander à ChatGPT ne crée presque aucune friction, et quand je reprends mes esprits, je suis en train de travailler dessus et huit heures ont passé, le projet est terminé. Si je bloque sur l’installation agaçante d’une bibliothèque, ChatGPT résout le problème et m’évite de me décourager. Plus que n’importe quel outil, il m’aide à entrer dans un état de flow et à y rester, et c’est un bon moyen d’éviter la procrastination.
Pour cet usage, un LLM est le même type d’outil que Google : un moyen d’interroger, de récupérer et d’assimiler de l’information. Comme avec Google, le résultat d’une requête n’est pas une fin, mais un moyen. Comme le dit l’adage, « passer un mois au laboratoire peut vous faire économiser une semaine à la bibliothèque » ; poser une question pendant 10 minutes à Claude/ChatGPT/Copilot peut aussi faire gagner du temps. Engager un professeur particulier, est-ce aussi de la paresse ?
Le fait de pouvoir récupérer rapidement une réponse n’est pas dangereux en soi. On disait des choses similaires de Google dans les années 90 ou des calculatrices portables dans les années 70. Pour moi, les LLM ne font qu’accélérer un processus que j’aurais de toute façon mené en cherchant manuellement sur Internet, et pour bien exercer son esprit critique, il faut poser davantage de questions.
En général, je finis par résoudre le problème directement ou par penser à de meilleures sources primaires.
Il existe une prépublication sur arXiv, et le haut de la page 18 explique ce qu’est la paresse métacognitive : « Dans le contexte de l’interaction humain-IA, nous définissons la paresse métacognitive comme le fait, pour les apprenants, de s’appuyer sur l’aide de l’IA, d’externaliser la charge métacognitive et de relier moins efficacement les processus métacognitifs responsables aux tâches d’apprentissage. »
Ici, la « charge métacognitive » semble désigner l’effort cognitif et métacognitif nécessaire pour réguler efficacement le processus d’apprentissage lorsque l’apprenant accomplit des tâches exigeant une auto-surveillance, une planification et une évaluation actives.
L’article voit cela comme proche de l’externalisation cognitive, qui consiste à laisser un outil prendre en charge des tâches cognitives difficiles ; en conséquence, on se prive d’occasions de développer ses capacités et l’on devient dépendant de l’outil.
https://arxiv.org/pdf/2412.09315
Appeler cela de la « paresse » est réducteur. « Dépendre de l’aide de quelque chose », c’est précisément le but de toute technologie.
Il y a clairement une ambivalence dans ce problème. D’un côté, cela rappelle les discours selon lesquels les enfants deviendraient totalement impuissants dans le monde réel parce que « personne ne se promène avec une calculatrice dans la poche ». Depuis, les calculatrices se sont retrouvées dans presque toutes les poches, et les enfants s’en sont bien sortis.
De l’autre, les bénéfices de l’apprentissage de l’apprentissage, de l’éducation aux médias, et du processus consistant à enquêter de façon autonome puis à formuler ses propres conclusions restent importants.
La réponse se situe probablement quelque part au milieu : utiliser les LLM comme outils d’aide à l’apprentissage, plutôt que comme destination finale.
Récemment, j’ai vu des membres de la Gen Z être déconcertés par un jeu de cartes nécessitant des additions, ou par le calcul de la monnaie à rendre. Pour les millennials, c’est du niveau école primaire.
Combien de personnes savent encore seller un cheval, lire l’heure sans montre, coudre une chemise, fabriquer du tissu, chasser avec des outils primitifs ou allumer un feu ? On peut cacher l’IA aux enfants, ou leur apprendre à s’en servir pour progresser. Si vous voulez voir ce qui se passe quand on renonce à ce qui paraît trop futuriste, regardez les Amish. C’est une vie respectable, mais combien de personnes lisant ceci la choisiraient ?
Un ami a demandé à ChatGPT la biographie d’un musicien, et j’ai trouvé un peu inquiétant qu’il ne puisse pas lire la page Wikipedia contenant les mêmes informations et les mêmes sources. Ma mère m’a dit avoir utilisé ChatGPT pour créer une « garde-robe capsule », alors qu’il me semble qu’il suffit de regarder ses vêtements et de jeter ce qu’on ne porte pas. Pourquoi faudrait-il qu’un ordinateur prenne une décision aussi simple ?
Je ne suis pas sûr qu’il faille utiliser les LLM comme aide à l’apprentissage. Je n’ai jamais vu en quoi ils seraient meilleurs qu’une recherche en ligne ou que ses propres récits créatifs, et s’il existe des cas d’usage clairement utiles des LLM, j’aimerais les entendre.
En pratique, je pense que le niveau d’exigence va monter en matière de connaissances générales et de capacité à accéder rapidement aux détails. Si l’on peut vérifier très vite les détails quand c’est nécessaire, comprendre plusieurs domaines à un niveau intermédiaire a beaucoup de valeur. Plus on approfondit, plus la vitesse d’apprentissage tend aussi à ralentir. Quand on travaille sur des choses complexes, même lorsqu’on connaît les détails, il fallait de toute façon les revérifier parce qu’ils sont importants.
Je ne me souviens presque plus de façon réflexe du cercle trigonométrique, sauf pour les multiples de π/4 ; je peux le faire pour les multiples de π/6, mais lentement. Pourtant, je ne pense pas être devenu un moins bon mathématicien parce que je ne me rappelle pas instantanément ces choses. Je suis peut-être un peu plus lent pour obtenir la réponse à de petits problèmes, mais je peux toujours résoudre des problèmes complexes.
Je cherche les formules d’intégration dans un petit recueil de tables d’intégrales ou sur Wolfram Alpha. Même si je pouvais les dériver moi-même, je ne penserais pas être sûr à 100 % du résultat. La paresse métacognitive est déjà installée chez moi. Mais si l’on trouve comment l’empêcher de se transformer en pourrissement complet du cerveau, cela devrait aller. Si nous apprenons aux élèves à penser de façon critique, et si nous trouvons comment faire en sorte que l’IA nous assiste sans nous transformer en humains du vaisseau spatial de Wall-E, nous pourrons nous en sortir.
Le résumé ne définit même pas ce qu’est la paresse métacognitive, et les résultats présentés auparavant ne donnent pas non plus suffisamment de contexte pour en comprendre le sens.
Personnellement, je trouve que ChatGPT a un avantage clair sur la recherche Google : on peut continuer à poser des questions plus nuancées à partir de la réponse initiale. Avec la recherche traditionnelle, plus on enchaîne les recherches, plus l’utilité marginale de la curiosité diminue par rapport au temps investi. Plus on affine sa question, plus il devient difficile d’obtenir des résultats qui ne soient pas optimisés pour le SEO ; on tombe facilement soit sur des articles grand public sans information nouvelle, soit sur des ressources spécialisées nécessitant un vaste bagage technique. Les LLM construisent bien le pont vers la réponse que je veux.
J’ai déjà entendu dire que de jeunes ingénieurs tombaient dans ce piège. Plutôt que de révéler à leurs collègues leurs lacunes, ils demandent tout au chatbot. Même si le chatbot évite les erreurs flagrantes, le junior ne remarque pas les erreurs subtiles.
Cela ressemble beaucoup à la méthode consistant à trouver un article Wikipedia précis, puis à remonter ses sources pour trouver le texte original où apparaît pour la première fois « la réponse que je veux ».
Il faut tenir compte du risque d’hallucination, mais le fait d’avoir à tout moment un commentateur explicatif infatigable augmente plutôt ma motivation à explorer des informations techniques denses et à comprendre de nouveaux concepts. En revanche, j’ai l’impression que cela réduit l’envie de commencer à écrire sur une page blanche. J’explore le sujet avec ChatGPT, j’obtiens une ébauche générale et le contenu de base, puis je poursuis l’écriture.
Dans certains cas, le LLM fournit même les chaînes précises à saisir dans un moteur de recherche pour vérifier le contenu. La recherche est gravement cassée, et cela dure grosso modo depuis 2014, quand les pages de résultats de Google ont commencé à afficher plus de publicités que de résultats.
Les téléphones et les ordinateurs portables ont changé certaines choses pour quelqu’un qui a grandi sans eux. Il y a 20 à 25 ans, j’ai réalisé qu’une ou deux recherches Web, trois au maximum, suffisaient à trouver quasiment n’importe quel fait ; puis, il y a 10 à 15 ans, un appareil connecté capable de le faire sur demande s’est retrouvé dans ma poche
Mais depuis environ 5 ans, dans les situations sociales, j’ai commencé le plus souvent à choisir consciemment de ne pas le faire. Même si un détail factuel m’intrigue pendant une conversation, je ne casse pas le fil en sortant un écran pour chercher la réponse ; je continue simplement à passer du temps avec la personne
Dans les années 80-90, dans une ambiance de quiz de pub, il arrivait qu’on se lance dans des débats animés sur de petits faits qu’aucun des deux ne connaissait immédiatement. Aujourd’hui, la réponse est si facile à trouver que cela a presque disparu, et c’est complètement perdu. Ça ne me manque pas, mais cela m’a rendu très sensible au point auquel ma conscience est attachée aux faits accessibles par une recherche Web, et je ne sais pas si j’aime avoir externalisé une si grande partie de mon cerveau dans un endroit hors de mon contrôle
Apprendre des connaissances générales purement anecdotiques peut aussi aider la mémoire
On dit souvent que tout code généré par l’IA générative doit être relu par un humain. Il faut vérifier qu’il n’y a pas d’erreurs évidentes et que cela construit bien « la bonne chose » conformément aux exigences
Les anecdotes de praticiens qui utilisent ainsi l’IA générative disent que c’est un bon outil pour les développeurs expérimentés, qui savent à quoi faire attention. Mais si l’on pense aux personnes qui sont encore en train d’apprendre et ne savent pas ce qu’elles font, elles ne savent pas à quoi faire attention. Savent-elles ce qu’est un use-after-free, qu’il faut se demander comment fonctionne la mémoire cache ? Connaissent-elles les noms des algorithmes et des structures de données ? Sauront-elles reconnaître le moment où l’IA générative raconte n’importe quoi ?
Ce genre d’étude est difficile, mais important. Même avec un petit échantillon, c’est intéressant, et je suis curieux de voir si quelqu’un pourra la reproduire
breakinutiles dans leur code CDu genre
while (condition) { do_stuff(); if (!condition) { break; } }. En creusant, le point commun était ChatGPT : les étudiants qui avaient demandé comment fonctionnaient les boucles avaient tous reçu une variante de la réponse « pour sortir d’une boucle, utilisezbreak()». En informatique, on ne fait pas comme ça ; non seulement c’est inutile, mais cela rend aussi les preuves formelles plus complexes. Il a donc fallu ajouter dans l’examen une consigne du type « faites comme appris en cours » et prévoir une exception ponctuelle généralePar exemple, je suis programmeur, mais nul en maths. Je veux créer des jeux, et je peux effectivement en créer, mais les maths rendent souvent la progression beaucoup plus difficile. J’ai déjà créé et publié des jeux, mais les maths me mettent toujours des bâtons dans les roues. Je sais exactement le comportement et le résultat que je veux, mais je ne sais pas toujours comment y parvenir
Les LLM m’aident beaucoup à isoler ces parties dans de petites boîtes noires. Je sais que le résultat est correct, sans être sûr à 100 % de la manière dont il l’est. Quand ils me donnent du code faux, je peux m’en apercevoir parce que je sais ce que je cherche et pourquoi ; il ne me manque que le « comment ». C’est un peu comme une bibliothèque tierce dont on peut se servir en comprenant l’API publique sans comprendre entièrement ses entrailles, sauf que l’on met ce code dans sa propre base de code avec une tonne de tests unitaires
En ce moment, je teste justement un LLM de raisonnement, deepseek-r1, avec l’excellent tutoriel
rustlings. Il est bien documenté et les solutions se trouvent facilement en ligne, ce qui en fait un bon test paresseux pour évaluer les tâches de codage et voir s’il est temps que je cherche un nouveau boulot et que je garde le génie logiciel comme hobbySi je le teste avec
rustlings, c’est aussi pour voir sa valeur comme outil d’apprentissage pour des étudiants et de futurs collègues. Ce genre de chose pourrait peut-être servir de professeur. Le compilateur Rust donne lui aussi de très bons conseils, ce qui fournit une excellente base de comparaison avec les sorties du LLMEn conclusion, deepseek-r1 ne semble pas près de remplacer qui que ce soit. Il génère une énorme quantité de texte, mais la plupart du temps cela n’a aucun sens, et c’est presque toujours terriblement faux. En revanche, les développeurs peu expérimentés ou les débutants — surtout les débutants — peuvent être désorientés et entraînés dans de mauvaises directions, avec le risque d’externaliser leur raisonnement critique à quelque chose qui paraît plausible mais ne l’est pas vraiment
Pour l’instant, une dépendance excessive au verbiage d’un modèle statistique semble nuisible à l’éducation et aux performances des futurs développeurs. Un âge d’or pourrait s’ouvrir pour ce qui est peut-être la dernière génération d’ingénieurs logiciel à l’ancienne, formés au café et aux larmes de frustration, qui ont dû se coltiner eux-mêmes le code et l’architecture. Il faudra bien que quelqu’un répare les déchets produits en masse par les LLM
Le but semble moins être d’utiliser cette sortie telle quelle que d’ajouter par-dessus une couche qui en synthétise la réponse finale.
J’ai commencé à coder juste avant que Stack Overflow ne devienne vraiment populaire, et je me souviens qu’à l’époque aussi, les billets de blog du genre « Stack Overflow va créer des développeurs paresseux » ou « c’est la fin des vrais développeurs » abondaient. Je ne cherche pas à contredire, je trouve simplement intéressant que ce sentiment se répète au fil du temps en ne changeant que dans les détails
Dans le Phèdre de Platon, Socrate critiquait l’écriture en disant qu’elle « produira l’oubli dans l’âme de ceux qui apprennent » ; Leonard Euler affirmait qu’il fallait déduire les logarithmes à partir des premiers principes plutôt que d’utiliser des tables de logarithmes ; et Lord Kelvin estimait que les calculatrices mécaniques feraient négliger aux élèves le développement de leurs capacités de raisonnement.
Dans l’autobiographie de Henry Ford, on trouve un passage où, en 1907, un fermier dit qu’un tracteur à essence rendrait « les enfants paresseux et inutiles » et les empêcherait d’apprendre l’agriculture ; et, en 1877, le New York Times rapportait les inquiétudes d’enseignants selon lesquelles les crayons munis d’une gomme rendraient les élèves négligents, puisqu’ils n’auraient plus besoin de réfléchir avant d’écrire.
Augustus De Morgan disait que les élèves qui s’appuyaient sur des tables de multiplication imprimées ne comprenaient pas les nombres et devenaient de « simples machines à calculer » ; John Philip Sousa critiquait le phonographe en affirmant qu’il ferait arrêter l’apprentissage des instruments ; et Richard Feynman s’inquiétait lui aussi du fait que les calculatrices de poche puissent faire perdre aux élèves leur capacité d’estimation et de compréhension des relations mathématiques.
On pourrait continuer. Claude m’en a fourni pas moins de 15. Dans 20 ans, si l’IA ne nous a pas tous tués, je pense qu’on se retournera sur le fait de travailler avec des LLM en se disant que ce n’était pas la béquille que les gens imaginent aujourd’hui.