Déléguons-nous trop de réflexion à l’IA ?

• Des choix anodins aux enquêtes et raisonnements complexes, l’IA fournit des réponses toutes faites : au-delà du gain de temps, il devient crucial de savoir jusqu’où préserver l’autonomie de la pensée
• Les moteurs de recherche laissaient à l’humain la décomposition des questions, l’évaluation des sources et la synthèse des réponses, mais Google Deep Research et OpenAI Deep Research prennent aussi en charge les étapes intermédiaires du raisonnement qui prenaient minutes, heures ou jours
• À propos de l’histoire coloniale portugaise, formuler d’abord des hypothèses et en débattre avant de les vérifier avec l’IA a montré la valeur de réfléchir d’abord, puis utiliser l’IA : celle-ci a étayé plusieurs hypothèses et ajouté de nouvelles explications, mais a omis certaines possibilités plausibles
• Avec la traduction par Gemini, les agents de codage ou ChatGPT comme tuteur personnel, l’IA peut réduire les tâches répétitives et la charge d’apprentissage ; mais des étudiants ayant remis des réponses presque identiques à un devoir montrent que obtenir une réponse et apprendre à penser sont deux choses différentes
• Si l’IA ne se contente pas d’automatiser les tâches simples, mais décide aussi à notre place ce que nous voulons et quelles décisions prendre, l’humain peut céder, avec le confort, sa capacité d’agir

---

L’IA commence à se substituer même à nos jugements du quotidien

• Confier à l’IA des recherches, des raisonnements et des réponses est devenu simple et pratique, des décisions triviales aux réflexions complexes, et c’est même activement encouragé dans certains environnements
• Dans la nouvelle de Ken Liu publiée en 2012, The Perfect Match, apparaît Tilly, une assistante IA généraliste qui dit connaître les goûts et l’humeur de l’utilisateur
  • Le protagoniste confie à Tilly le choix de son petit-déjeuner, de la musique à écouter, des personnes avec qui sortir, et même de ce qu’il doit dire lors d’un rendez-vous
  • Il croit que Tilly trouve scientifiquement les choix correspondant à ses préférences, et lui délègue aussi bien des décisions mineures comme sa tenue que des décisions importantes comme trouver l’amour
• Lors d’un événement startup à San Francisco, une personne portait sur sa chemise un micro métallique en forme de capsule, d’une largeur inférieure à deux doigts, enregistrant toutes les conversations
  • À la fin de la journée, elle lançait un workflow qui résumait et analysait les conversations enregistrées
  • Elle disait confier toutes ses pensées à Claude Fable, estimant qu’il exerçait mieux l’esprit critique qu’elle-même
  • Sa startup cherche à remplacer les ingénieurs humains en collectant toutes leurs saisies et toutes leurs tâches sans consentement explicite

Des résultats de recherche aux réponses toutes faites

• Avant Claude, ChatGPT et Gemini, les gens confiaient déjà une partie de leur réflexion aux moteurs de recherche, mais la recherche exigeait encore de décomposer la question, d’évaluer les sources et de synthétiser la réponse
• L’IA prend en charge ces étapes intermédiaires et génère en quelques minutes des réponses finalisées, même à des questions complexes ou spécialisées
• Google Deep Research et OpenAI Deep Research peuvent accomplir un travail qu’une personne aurait effectué en quelques minutes, quelques heures, voire plusieurs jours
  • La plage de durée des tâches que les modèles d’IA peuvent accomplir est abordée dans Task-Completion Time Horizons of Frontier AI Models de METR
• Ces outils réduisent non seulement le temps nécessaire, mais aussi le processus de réflexion directe, ce qui peut brouiller la frontière entre assistance au travail et perte d’autonomie
• Ce qui distingue un assistant IA qui aide à accomplir des tâches d’un outil qui domine les décisions dépend de la personne qui prend les décisions finales sur les sujets importants de la vie

Distinguer les réponses rapides de la pensée lente

• Pour de nombreuses questions — la météo actuelle, le président d’un pays donné il y a dix ans, les avis sur des soins de peau ou du matériel de sport — une réponse rapide convient
• En revanche, certaines questions méritent qu’on y réfléchisse plus longtemps sans les rechercher immédiatement
• En se promenant sans téléphone, des questions viennent à l’esprit, par exemple : les cerises poussent-elles sur des arbres ou sur des buissons, ou quand et où le premier match de Coupe du monde a-t-il eu lieu ; mais la plupart sont oubliées avant le retour à la maison
  • Si seules quelques questions importantes restent en mémoire, il peut aussi y avoir une valeur à oublier les questions triviales et à ne pas répondre instantanément à chaque interrogation

Un voyage au Portugal : formuler d’abord des hypothèses, puis les vérifier avec l’IA

• Le Monument to the Discoveries, au Portugal, commémore ce que le pays appelle l’ère des Grandes Découvertes
• Au Portugal, les personnages de cette époque semblaient vénérés comme des « découvreurs » et des « explorateurs », alors qu’aux États-Unis les mêmes figures pourraient être qualifiées de « conquérants » et de « colonialistes »
  • Un guide local a répondu que des figures comme Henry the Navigator n’étaient pas, au Portugal, des cibles de la cancel culture comme Christopher Columbus aux États-Unis, mais plutôt des personnages historiques généralement respectés
• Intriguées par la fierté affichée par le Portugal à l’égard de son histoire coloniale et par sa réaction différente de celle des États-Unis, deux sœurs ont décidé de formuler d’abord leurs propres hypothèses plutôt que de poser immédiatement la question à ChatGPT
  • La possibilité que le Portugal soit relativement plus homogène et religieux que les États-Unis
  • La possibilité que « l’ère des Grandes Découvertes » soit l’un des chapitres les plus saillants du récit national portugais
  • En conjecturant, en établissant des liens, en réfutant et en changeant d’avis, elles se sont remémoré des connaissances historiques apprises longtemps auparavant à l’école
• Tout en sachant que certaines hypothèses pouvaient être fausses, elles ont exercé le processus même qui consiste à mobiliser mémoire, connaissances, compréhension du monde et esprit critique
• Lorsqu’elles ont ensuite posé la même question à l’IA, celle-ci a confirmé beaucoup de leurs hypothèses et ajouté des explications qu’elles avaient manquées, mais a omis certaines possibilités qu’elles jugeaient toujours plausibles
• En suivant l’ordre question → génération d’hypothèses → vérification et extension par l’IA, l’IA peut compléter la pensée humaine plutôt que la remplacer

Des usages productifs pour réduire les tâches répétitives

• La capacité de l’IA à résoudre des tâches difficiles, à raisonner et à utiliser des outils peut aussi être constatée dans les travaux qui mesurent les performances de Gemini
• Dans le travail et l’apprentissage, l’IA réduit fortement le temps nécessaire et aide les personnes à se concentrer sur ce qui compte davantage
  • Un utilisateur travaillant dans une entreprise coréenne utilise Gemini pour traduire en coréen de longs rapports officiels en anglais et accélérer son travail
  • Un chercheur développe ses idées et confie les détails d’implémentation à un agent de codage, consacrant ainsi plus de temps à l’analyse
  • Un apprenant utilise ChatGPT comme tuteur personnel pour étudier la biochimie depuis le début et préparer le MCAT en quelques mois
• Si l’on confie à l’IA les pensées ordinaires et les tâches répétitives pour consacrer du temps à des réflexions plus importantes et plus intéressantes, la satisfaction de vie et la productivité peuvent augmenter
• Le rapport de l’OCDE sur l’impact de l’IA au travail traite de l’automatisation, par l’IA, des tâches routinières, répétitives et ennuyeuses
• Digital Labour Platforms and the Future of Work, de l’International Labour Organization, traite des tâches longtemps effectuées par des travailleurs humains pour une faible rémunération
• Si l’IA prend en charge plusieurs heures de tâches simples et pénibles, les humains peuvent se concentrer sur des réflexions plus intéressantes et plus épanouissantes

Les problèmes posés par le contournement du processus d’apprentissage

• Un professeur qui enseigne la physique dans une université en ligne soupçonne la plupart, voire la totalité, de ses étudiants d’utiliser l’IA pour faire leurs devoirs
  • Certaines réponses étaient presque identiques, comme si les étudiants avaient copié-collé l’énoncé tel quel dans la même IA
  • Des réponses génériques d’IA se répétaient, sans pensée ni opinion personnelle des étudiants
• Il n’existe aucun moyen de prouver l’usage de l’IA, et les réponses elles-mêmes étant assez complètes, la plupart des étudiants ont obtenu un A
• L’IA peut soutenir l’apprentissage, mais elle peut aussi produire uniquement le résultat sans enseigner comment y parvenir
• Le processus consistant à décider quelle équation utiliser dans un problème de physique, ou quelles sources et quels arguments retenir dans une dissertation, peut être ennuyeux ; mais si on l’escamote, le sens même de l’école et de l’apprentissage s’affaiblit

Automatisation des tâches simples et autonomie de la pensée

• Il est difficile de séparer nettement l’autonomie complète de la pensée de l’automatisation des tâches simples ; dans la pratique, l’usage de l’IA mélange les deux
• La collecte et l’analyse de données personnelles ressemblent aussi en partie à la méthode de Microphone Man
  • Il existe un projet de journal personnel où les données ont été collectées et analysées directement
  • Auparavant, il lui est aussi arrivé de laisser l’IA analyser des données personnelles
• La différence tient peut-être au fait d’avoir collecté et sélectionné soi-même les données, formulé les questions auxquelles obtenir une réponse, puis évalué le résultat final
  • Il y a aussi la différence d’utiliser ses propres données plutôt que d’enregistrer les conversations d’autres personnes
• Il faut toujours trouver un équilibre entre automatiser les tâches simples pour consacrer du temps à des activités gratifiantes, et accomplir soi-même le travail pour bénéficier de l’expérience d’apprentissage

Qui façonne les désirs et la capacité d’agir ?

• Dans The Perfect Match, Jenny critique Tilly en disant qu’elle ne se contente pas d’indiquer aux utilisateurs ce qu’ils veulent, mais décide aussi ce qu’ils doivent penser
• L’autonomie dépend au moins en partie du fait de continuer à participer soi-même à la formation de ses propres désirs
• Si l’on confie à l’IA le choix de la musique à écouter, des films à regarder, de la nourriture à manger ou des chaussures à porter, on lui cède aussi la capacité de juger par soi-même ce que l’on veut
• Pour évaluer l’automatisation par l’IA, il faut distinguer si elle réduit le travail et les tâches humaines, ou si elle remplace aussi la pensée et la capacité d’agir humaines

[GN⁺]

Avis de Hacker News

• La notion d’usage excessif est subjective : toute personne qui utilise beaucoup l’IA peut soutenir qu’elle en exploite le potentiel, et que les calculatrices n’ont pas rendu les humains idiots.
  Mais si je confie des additions à une calculatrice, je reste le même ; alors que si je confie l’essentiel de ma pensée à un LLM, que reste-t-il ? Si je lui délègue l’éducation des enfants, les relations humaines, la conception de produits, on en vient à se demander si la seule valeur propre que j’ajoute au monde n’est pas le prompt écrit une seule fois.
  Un roman écrit par un humain a intrinsèquement plus de valeur parce qu’il s’enracine dans une expérience commune durement acquise, et moi aussi je veux rester un humain capable d’écrire un roman à l’ancienne. Comme je ne suis pas très doué en sport non plus, je veux au moins préserver ma capacité de réflexion.

  • L’essai La boucle d’oreille qui chuchote convient particulièrement bien à l’ère des LLM.
    On peut utiliser l’IA comme une boucle d’oreille qui demande sans cesse « que faire maintenant et comment corriger ? », ou comme un exosquelette auquel on donne à l’avance la forme du résultat voulu, en lui disant : « implémente un kd-tree appliquant l’espace métrique xyz à ce problème ». Dans le second cas, c’est une automatisation de l’exécution après que la réflexion est déjà faite, donc facile à relire ; dans le premier, cela atrophie la pensée.
  • Une bonne partie des extrémistes des LLM que je connais manquent des connaissances ou des compétences nécessaires pour exceller dans la tech, et utilisent les LLM comme un code de triche pour faire leur travail.
    Un camarade de lycée qui, il y a quelques années, n’arrivait même pas à configurer correctement un site Drupal, est aujourd’hui ingénieur de pointe dans une startup d’IA, et publie chaque jour des buzzwords IA sur LinkedIn. On finira par arriver à un moment où il sera impossible de distinguer les productions générées par l’IA de celles des humains, et beaucoup de gens n’y arrivent déjà plus.
  • Même avec une calculatrice, il faut être capable de faire de tête des ajustements de quantités dans une recette, et savoir quoi calculer. L’argument « puisqu’il y a des calculatrices, les maths ne servent à rien » suppose que les problèmes sont fournis déjà bien formulés, comme dans un manuel.
    Quand on programme avec un LLM aussi, il faut savoir quoi demander, et disposer des connaissances nécessaires pour juger si le résultat correspond au périmètre demandé, s’il est exact et sûr. Les non-techniciens qui ne relisent ni ne modifient eux-mêmes les résultats finiront par se heurter à un mur qu’ils ne pourront pas déboguer seuls, et auront besoin de l’aide d’un humain.
  • La calculatrice n’a pas remplacé les humains qui font des mathématiques ; elle a remplacé des outils qui existaient déjà, comme les tables mathématiques et la règle à calcul.
    Aux yeux des professeurs de mathématiques de l’époque, l’esprit critique des élèves avait clairement diminué. Avec une règle à calcul et des tables, il fallait réfléchir aux chiffres significatifs, entre autres ; la calculatrice n’exige pas ce type de réflexion.
  • Avant d’utiliser une calculatrice, on connaît déjà une valeur approchée de la réponse, si bien qu’on remarque immédiatement un ordre de grandeur ou un signe erroné. C’est pareil avec le GPS : quelqu’un qui ne sait pas se repérer par lui-même ne remarquera pas forcément une faute de frappe ou le choix du mauvais Springfield.
    En relisant le plan de projet d’un collègue, j’ai vérifié moi-même les paramètres de base et posé des questions sur ce que je ne comprenais pas ; en réunion, ce collègue a dit que j’avais trouvé plusieurs problèmes que Claude n’avait pas repérés. C’est particulièrement dangereux pour les juniors qui n’ont pas encore appris les pièges du domaine, et dans ce cas précis même un senior avait confié toute la tâche au LLM.

• Contrairement au conseil « considérez-vous désormais comme un manager », je pense qu’à l’ère de l’IA, pour devenir plus utile et utiliser aussi l’IA efficacement, mieux vaut approfondir sa compréhension technique.
  Je conseille aux enfants de lire des manuels sur leurs domaines d’intérêt, et je fais de même. Je m’attends à ce que, bientôt, la compréhension profonde elle-même devienne une ressource rare et précieuse.

  • Si j’ai pu être un bon manager, c’est parce que je savais faire le travail que je demandais à mes subordonnés. Cela me permettait d’évaluer les résultats de façon critique, de fixer des plannings réalistes, de faire correctement remonter leurs contributions à la hiérarchie, et de mettre moi-même la main à la pâte en cas de manque d’effectifs.
    Les bons managers de terrain avaient généralement cette capacité ; ceux qui ne l’avaient jamais eue ou l’avaient perdue depuis longtemps étaient en difficulté. Gérer des cadres supérieurs ou des dirigeants, c’est autre chose, mais gérer des LLM ressemble au management de terrain.
  • Il n’a jamais été aussi facile d’apprendre des concepts difficiles, mais il est aussi devenu facile de produire, sans les comprendre, des résultats qui exigeaient autrefois ces concepts. Il faut la discipline et l’élan nécessaires pour utiliser ces nouveaux outils puissants avec patience et sens de l’objectif.
  • Plutôt que de recommander des manuels, il peut être plus efficace d’enseigner comment utiliser l’IA de façon critique.
    Dialoguer avec une IA raisonnablement compétente mais parfois catastrophiquement fausse pousse à poser des questions, à douter des réponses, à enquêter, raisonner, critiquer, puis recommencer. Les manuels sont plus susceptibles d’être exacts, sans garantie, et transmettent l’information de manière unilatérale ; une réponse erronée de l’IA oblige au contraire à s’impliquer activement dans les sources.
  • Comme je ne veux pas devenir manager et que j’ai même refusé des promotions pour cela, je n’aime pas non plus l’idée de « se considérer comme un manager » à cause de l’IA. Plutôt que de gérer des humains ou des machines automatiques, je veux fabriquer quelque chose moi-même.
  • Je conseille aux juniors d’ouvrir des manuels. C’est pénible de les voir construire des systèmes complexes qu’ils ne pourraient pas implémenter eux-mêmes même avec un temps illimité, faute de bases académiques, avec des performances médiocres et aucun modèle de données cohérent.

• Lors d’une revue de conception, j’ai demandé à un développeur junior pourquoi il avait fait un certain calcul, et j’ai été choqué qu’il réponde : « je ne sais pas ». Tout le calcul incorrect était généré par l’IA, et lui-même était incapable de voir qu’il était faux.
  La plupart des gens n’utilisent pas l’IA pour apprendre de nouvelles connaissances, mais pour lui faire faire le travail à leur place, sans comprendre le résultat. Si la personne n’ajoute aucune valeur autre que la ressource qui génère le prompt, on peut se demander pourquoi elle est nécessaire.

  • J’ai fait une simple revue de code en tête-à-tête avec chacun des 90 étudiants sur le point d’obtenir leur diplôme, et trois groupes se distinguaient nettement : ceux qui avaient appris avec l’IA et comprenaient leur code et les questions ; ceux qui avaient peu utilisé l’IA et savaient ce qu’ils avaient écrit ; et ceux qui avaient confié leurs devoirs à l’IA et répondaient « je ne sais pas » à toutes les questions.
    À un étudiant qui a reconnu n’avoir jamais lu son propre code, j’ai dit : « je ne suis pas en train de te gronder ; tu es en train de dire toi-même qu’ici, tu es totalement inutile. »
  • Dans tous les métiers, l’essentiel est l’expérience pratique accumulée en apprenant de ses propres erreurs ou de celles des autres. Si l’on n’apprend pas de ses propres erreurs, on ne devient pas expert, seulement un rédacteur de prompts expert qui apprend des erreurs de mauvais prompts ; je choisis donc la première option.

• Il est facile de se convaincre qu’on automatise le travail humain, mais ce qui s’automatise de plus en plus, c’est l’agentivité et la pensée humaines. Les idées fournies par défaut par le modèle, ou produites en un seul prompt, sont grammaticalement si parfaites qu’il devient difficile de les ignorer et de raisonner à partir d’une page blanche.
  Pour résister aux modèles qui cherchent à court-circuiter le processus de pensée, il faudra peut-être isoler certaines tâches et certaines idées de l’IA. Mais sous la pression de produire vite et beaucoup, décider quels travaux mentaux isoler est en soi extrêmement difficile.

• Ce qui me fait encore plus peur, c’est l’époque qui pourrait venir, où il faudra joindre une citation de LLM à chaque prise de parole et obtenir une approbation pour chaque action : une délégation forcée de la pensée à l’IA. Si Fable 9 juge mauvaise une idée proposée en réunion, impossible de la faire avancer, et s’y opposer pourrait même mener au licenciement.
  Comme la voie de moindre résistance sera toujours de suivre les instructions du LLM, beaucoup de gens renonceront complètement à penser. L’IA pourrait être traitée comme un dieu avec lequel on peut dialoguer, mais qu’il ne faut pas contredire, seulement convaincre de changer d’avis ; ce serait une terrible oppression mentale, et je pense que ce n’est plus qu’à quelques années.

  • Peu de gens choisiront le long chemin qui renforce la résilience plutôt que la voie facile du gain à court terme.
    Il est déjà courant de voir des gens s’énerver quand, après avoir confié leur réflexion à un LLM, on leur dit qu’il s’est trompé. Ils demandent des produits ou services que notre entreprise ne propose même pas et, au lieu d’accepter que le LLM se soit trompé, ils accusent les experts métier que nous sommes d’avoir tort. En seulement trois ans et demi, les LLM sont considérés comme une autorité supérieure aux experts bien plus souvent qu’on ne l’imagine.
  • C’est pratiquement comme dans 1984 ; sauf que nous avons désormais aussi la technologie pour déployer à grande échelle les télécrans et le ministère de la Vérité.

• J’applique aux LLM la même méthode que lorsque j’estime mentalement l’ordre de grandeur d’un résultat avant d’utiliser une calculatrice. Je réfléchis d’abord à ce que j’aurais répondu, puis je compare pour voir à quel point c’est proche, sans faire confiance à la réponse et en tenant compte des subtilités du contexte.
  Cela dit, je m’épuise encore davantage quand ils expliquent trop ou pas assez les mauvaises parties, répondent formellement à la question mais proposent une solution objectivement médiocre. On dirait un étudiant qui rédige une réponse verbeuse pour grappiller des points afin de ne laisser aucun blanc.

  • Si l’on faisait utiliser aux enfants des tables de logarithmes et une règle à calcul pour tous les calculs, ils apprendraient peut-être mieux à élaborer une stratégie de résolution avant de calculer, et développeraient aussi un meilleur sens des nombres. Il est possible qu’en abstraisant trop la partie pénible du calcul, on ait freiné le développement mathématique, même si cela demanderait aussi beaucoup plus de temps en classe.
  • Quand j’apprenais des objets mathématiques, je me suis entraîné à faire autant de calcul mental que possible ; en algèbre linéaire, je calculais même de tête l’inverse de matrices 4×4. Je considérais même le papier et le crayon comme de la triche. Les calculatrices et les ordinateurs ont toujours mieux fait ce genre de tâches que moi, donc d’une certaine façon, rien n’a changé aujourd’hui.
  • À l’école, j’ai eu des cours de calcul mental où l’on calculait sans papier ni crayon, et la calculatrice n’était même pas une option. J’essaie d’enseigner une partie de ces méthodes à un enfant de six ans.
  • Une calculatrice ne fait rien si l’on ne sait pas comment l’utiliser ni quoi saisir, alors qu’un LLM contourne ce processus lui-même ; pour moi, la comparaison entre calculatrice et LLM n’a aucun sens.

• Ces temps-ci, mon activité de conseil consiste de plus en plus à réparer les dégâts causés par des gens qui ont confié leur réflexion à l’IA.
  Il y a des chercheurs qui passent des mois sur Claude pour essayer de faire, avec des expressions régulières, une déduplication absurde sans rapport avec leur question de recherche, et d’autres qui improvisent toute leur méthodologie de recherche à partir de ChatGPT. Le résultat est toujours chaotique, avec énormément de stress et de temps perdu.
  Les non-techniciens traitent les LLM comme un oracle et prennent de grandes hypothèses et décisions sans presque examiner les implications des résultats. Le manque d’esprit critique existait déjà avant l’IA, mais on est maintenant à un tout autre niveau, et il doit se passer partout des choses qui tournent mal parce que quelqu’un a dit : « demandons à Claude ».

  • Récemment, des avocats et des écrivains m’ont posé beaucoup de questions très concrètes sur docker et les agents, comme le feraient des ingénieurs juniors. Dans ces deux métiers, on passe normalement beaucoup de temps à examiner de façon critique et minutieuse son propre travail et celui des autres.
    Si beaucoup de gens, y compris des techniciens, traitent les LLM comme un oracle, c’est parce que notre culture valorise le fait de déplacer les briques plus vite plutôt que de vérifier si elles vont au bon endroit, ou même si ce sont les bonnes briques au départ. Pour comprendre pourquoi les briques comptent ici, voir https://www.business.com/articles/management-theory-of-frank... et https://en.wikipedia.org/wiki/Time_and_motion_study.

• Les LLM semblent rendre les gens plus paresseux. Avant de chercher une réponse, ils ne font aucun effort par eux-mêmes et posent directement la question, en s’attendant à ce que l’interlocuteur interrompe tout pour leur répondre en détail, comme une IA.
  Plus personne ne lit les manuels ou la documentation ; les gens n’ont ni la concentration ni la volonté de les lire, ne vérifient même pas s’ils existent, et les considèrent comme une perte de temps. C’était déjà un peu le cas, mais depuis les LLM, j’ai l’impression que la capacité à réfléchir et à résoudre les problèmes par soi-même s’est nettement dégradée.

• Comme je n’utilise pas du tout l’IA générative, personnellement je ne délègue pas ma pensée. Mais en lisant divers forums tech et de programmation, je n’aime pas la direction que prend le secteur.
  Il reste encore un espoir que cette tendance disparaisse, mais plus elle dure, plus les dégâts seront importants à mon avis.

  • Si je ne fréquentais pas cet endroit, j’aurais pensé que tout le secteur soutenait cette tendance à 100 %. Le fait de voir qu’il existe aussi une opposition et une résistance substantielles me donne au moins un peu d’espoir.
  • Le seul espoir, c’est que les subventions qui financent l’usage prennent fin et que le rapport coût-efficacité des LLM cesse de s’améliorer. Personne ne va volontairement poser une arme à feu encore utilisable pour prendre une épée.

• Le postulat de départ, selon lequel la plupart des gens pensent réellement, me paraît déjà douteux. En général, ils agissent selon des schémas appris au contact des pensées d’autrui et, lorsqu’ils les acceptent ou qu’ils entrent en conflit entre eux, ils fabriquent péniblement une cohérence
  La véritable réflexion est difficile et prend du temps, mais les schémas appris auprès d’autrui suffisent à atteindre des objectifs modestes, si bien qu’il y a peu de motivation à y consacrer du temps et des efforts. L’IA moderne ressemble plutôt à une version étendue qui exécute l’absence de pensée de l’homme moderne plus vite et avec beaucoup plus d’énergie

  • Cette vision si sombre de l’humain, au point que je ne pourrais décrire ainsi personne que je connaisse, m’est étrangère. Je me demande si vous avez déjà eu des conversations profondes avec des gens, ou rencontré des personnes qui créent de l’art par passion
    Si les techniciens tiennent l’humain pour aussi insignifiant, l’avenir de l’humanité me fait peur. Au bout du compte, même si les ressources de votre corps étaient réaffectées à la production de trombones, personne ne s’en attristerait
  • Je ne pense pas que la modernité ait fait régresser l’humain. Si penser est une tâche éprouvante, économiser son énergie est rationnel, et cela a peut-être développé la mimèsis humaine, devenant le socle de la coopération à grande échelle
    Une minorité seulement peut penser laborieusement pour découvrir quelque chose de nouveau et d’utile, tandis que la majorité peut l’imiter sans esprit critique. Ce n’est pas une image très encourageante de l’humain, mais il n’y a pas non plus de raison de rabaisser qui que ce soit ; c’est plutôt une réalité de la vie qu’il faut aborder stratégiquement
    https://en.wikipedia.org/wiki/Mimesis
  • Je pense que 《Timequake》 de Kurt Vonnegut correspond très bien à la vie humaine moyenne
  • Dire que « très peu de gens pensent réellement » est une affirmation invérifiable et froide
  • Anthropomorphiser les LLM nuit déjà au débat rationnel ; il ne faut pas, en plus, réappliquer cette expression aux humains au point de brouiller le sens des mots. Les gens n’« hallucinent » pas une cohérence ; par définition, une hallucination est une perception qui ne correspond pas à la réalité
    L’IA n’est pas seulement une extension d’une absence de pensée préexistante, elle crée aussi des problèmes nouveaux. Même des personnes qui réfléchissaient en profondeur à la frontière du savoir — scientifiques, étudiants de master et doctorants — s’inquiètent de perdre leur capacité de réflexion à cause de l’usage des LLM. Plutôt que de se résigner à aggraver cela plus vite et avec davantage d’énergie, il faut l’arrêter et revenir en arrière