Le vrai compte à rebours n’est pas le jour où l’IA battra l’humain, mais le jour où l’humain cessera de penser par lui-même
(theargumentmag.com)> « Il vous reste 18 mois »
- Le problème plus grave que la prédiction selon laquelle l’IA remplacera tous les emplois d’ici 18 mois, c’est le phénomène par lequel les humains atrophient eux-mêmes leurs capacités face à de nouvelles machines
- L’écriture et la lecture sont les deux piliers jumeaux de la pensée profonde, mais avec l’arrivée des IA génératives comme ChatGPT, les étudiants sous-traitent l’écriture et renoncent à lire, ce qui provoque un déclin rapide de leurs capacités de réflexion elles-mêmes
- Aux États-Unis, le score moyen en lecture est tombé à son plus bas niveau en 32 ans, et même des étudiants d’universités d’élite y entrent sans avoir jamais terminé un seul livre
- L’écriture et la lecture n’étaient pas de simples compétences, mais des moyens de restructurer la pensée humaine et le savoir ; leur déclin signifie la perte de la capacité à manier une logique symbolique complexe et une pensée systémique
- À l’ère de l’IA, les compétences clés dont nos enfants ont besoin sont la patience de lire des textes longs et complexes, la capacité à maintenir simultanément des idées contradictoires, et la lutte acharnée au niveau de la phrase ; c’est désormais une question de choix
Le temps sous tension de la pensée (Time Under Tension)
Appliquer un concept de fitness à la pensée
- En fitness, le « temps sous tension » désigne la différence entre faire un squat avec le même poids en 2 secondes ou en 10 secondes
- La seconde option est plus difficile, mais développe davantage les muscles
- Plus de temps signifie plus de tension, plus de douleur signifie plus de résultats
- La pensée bénéficie d’un principe similaire
- La capacité à rester patiemment avec des idées à peine reliées ou disjointes
- Et à les tisser ensuite en quelque chose de nouveau, de manière combinatoire
Exemple du processus d’écriture d’un essai
- La rédactrice en chef Jerusalem Demsas demande un essai sur l’affirmation selon laquelle l’IA prendra tous les emplois d’ici 18 mois
- Réaction initiale : la prédiction semble trop agressive et presque certainement fausse, donc il n’y aurait rien de plus à dire
- Mais en restant avec ce prompt, plusieurs pièces du puzzle commencent à s’emboîter :
- Essai du Financial Times - Have humans passed peak brain power?
- Article de The Atlantic - The Elite College Students Who Can’t Read Books
- Étude National Assessment of Educational Progress
- Livre de Walter Ong - Orality and Literacy: The Technologizing of the Word
- Une idée surgit à la salle de sport pendant des tractions excentriques, ce qui fait émerger les contours du cadre d’analyse
Redéfinition du problème central
- Le problème des 18 prochains mois n’est pas que l’IA licencie tous les travailleurs ou que les étudiants perdent la compétition face à des agents non humains
- La vraie question est de savoir si nous allons dégrader nos propres capacités face à de nouvelles machines
- À force d’être obsédés par la manière dont la technologie pourrait nous dépasser, nous manquons les nombreuses façons dont nous pouvons nous rendre nous-mêmes incompétents
L’avertissement des 18 mois
-
Les prédictions des leaders de l’IA
- Le message relayé par plusieurs grands dirigeants et penseurs de l’IA : les humains ne conserveraient leur avantage sur l’IA que jusqu’à l’été 2027
- L’explosion des capacités de l’IA laisserait les formes de vie à base de carbone à la traîne
- Certains prédisent la disparition d’au plus « la moitié de tous les emplois de bureau juniors »
- Même des cerveaux de niveau Nobel craindraient que les concepteurs d’IA ne créent « un pays de génies dans un datacenter »
-
L’anxiété des parents
- Ces derniers mois, la question la plus fréquemment posée par les parents : « Si l’IA va devenir meilleure que nous en tout, que doivent faire nos enfants ? »
- Si l’IA générative devient meilleure que les programmeurs, les radiologues et les mathématiciens en code, diagnostic et résolution de problèmes
- Alors même des cursus traditionnellement « sûrs » comme l’informatique, la médecine ou les mathématiques pourraient ne plus l’être
-
Recentrer le regard sur la réalité
- Plutôt que de prédire l’avenir, il est important de décrire la réalité déjà présente
- Nul ne sait à quelle date imaginaire l’IA rendra les travailleurs inutiles
- En revanche, la manière dont la technologie affecte dès maintenant notre capacité de pensée profonde est déjà visible
- L’auteur s’inquiète bien davantage du déclin des humains qui pensent que de l’essor des machines pensantes
La fin de l’écriture, la fin de la lecture
-
La généralisation de la triche avec l’IA
- En mars 2025, l’article de couverture du New York Magazine affirme : tout le monde utilise l’IA pour tricher à l’école
- Les grands modèles de langage permettent aux lycéens et étudiants de générer instantanément des dissertations sur n’importe quel sujet
- Les enseignants font face à une crise existentielle lorsqu’il s’agit d’évaluer les véritables capacités d’écriture des étudiants
- Un étudiant : « À ce stade, l’université consiste à savoir à quel point je peux bien utiliser ChatGPT »
- Un professeur : « Une masse d’étudiants va obtenir son diplôme et entrer sur le marché du travail dans un état d’analphabétisme de fait »
-
Écrire, c’est penser
- Si le déclin de l’écriture est si important, c’est que l’écriture n’est pas une seconde étape qui viendrait après la pensée
- L’acte d’écrire est lui-même un acte de pensée
- Cela vaut autant pour les étudiants que pour les professionnels
- Dans l’éditorial de Nature « Writing is thinking », « sous-traiter l’ensemble du processus d’écriture à un LLM » prive les scientifiques d’un travail essentiel : comprendre ce qu’ils ont découvert et pourquoi cela importe
- Ceux qui confient l’écriture à l’IA découvrent un écran rempli de mots, mais un esprit vidé de ses pensées
-
Un déclin encore plus grave de la capacité de lecture
-
Un état d’analphabétisme fonctionnel
- Le professeur d’université anonyme Hilarius Bookbinder : « La plupart des étudiants sont fonctionnellement analphabètes »
- « Ce n’est pas une blague », ni une exagération
-
Une baisse dans l’ensemble de l’Occident
- Les scores de réussite en littératie et en numératie sont en baisse dans tout l’Occident pour la première fois depuis des décennies
- Le journaliste du Financial Times John Burn-Murdoch se demande si, au moment même où l’humain crée des machines qui pensent à sa place, il n’a pas « dépassé son pic de puissance cérébrale »
- La « Nation’s Report Card » américaine (publiée par le NAEP) montre que le score moyen en lecture a atteint en 2024 son plus bas niveau en 32 ans
- Ce constat est d’autant plus inquiétant que la série de données ne remonte qu’à 32 ans
-
La normalisation de la lecture fragmentée
- Les Américains lisent des mots en permanence : e-mails, SMS, fils d’actualité sur les réseaux sociaux, sous-titres Netflix
- Mais ces mots vivent dans des fragments d’écriture qui n’exigent presque jamais l’attention soutenue nécessaire pour comprendre un texte plus vaste
- À l’ère numérique, les Américains ne s’intéressent plus à rien de plus long qu’un tweet, ou ne peuvent plus rester assis pour le lire
- La proportion d’Américains disant lire des livres pour le loisir a chuté de près de 40 % depuis les années 2000
-
Les étudiants d’élite renoncent à lire
- Rose Horowitch, dans The Atlantic, rapporte que des étudiants admis dans les universités les plus élitistes des États-Unis n’ont jamais lu un seul livre pour l’école
- Daniel Shore, directeur du département d’anglais à Georgetown, explique que les étudiants ont du mal à se concentrer même sur un sonnet
- Nat Malkus, chercheur en éducation à l’American Enterprise Institute, suggère que les lycées ont découpé les livres en morceaux pour préparer la section compréhension écrite des tests standardisés
- En optimisant l’évaluation de la lecture, le système éducatif américain semble avoir tué par inadvertance la lecture de livres
-
Les deux piliers jumeaux de la pensée profonde
-
Le point de vue de Cal Newport
- Cal Newport est professeur d’informatique et auteur de best-sellers comme « Deep Work »
- L’écriture et la lecture sont les deux piliers jumeaux de la pensée profonde
- L’économie moderne valorise la logique symbolique et la pensée systémique, et la lecture comme l’écriture profondes en sont les meilleurs entraînements
-
L’IA, nouveau poids lourd dans la guerre contre nos capacités cognitives
- L’essor de la télévision a coïncidé avec la baisse du nombre d’abonnements aux journaux par habitant et la lente disparition de la lecture de loisir
- Puis sont venus Internet, les réseaux sociaux, les smartphones et la télévision en streaming
- « Le duo lecture-écriture est le sérum qu’il faut prendre pour acquérir le superpouvoir de la pensée symbolique profonde » - Newport
- « C’est pourquoi je tire la sonnette d’alarme : il faut continuer à prendre ce sérum »
-
L’intuition de Walter Ong
- Observations du chercheur Walter Ong dans « Orality and Literacy »
- La littératie n’est pas une compétence provisoire
- C’est un moyen de restructurer la pensée humaine et le savoir pour faire place à des idées complexes
-
Différence entre oralité et écriture
- Même des personnes qui ne savent ni lire ni écrire peuvent mémoriser des histoires
- Mais quelque chose comme les « Principia » de Newton ne peut se transmettre sur plusieurs générations sans la capacité de consigner des formules de calcul infinitésimal
- Les dialectes oraux disposent généralement de quelques milliers de mots
- En revanche, « le grapholec standard connu sous le nom d’anglais standard possède au moins 1,5 million de mots » - Ong
- Si la lecture et l’écriture ont recâblé le moteur logique du cerveau humain, alors leur déclin est en train de débrancher nos superpouvoirs cognitifs au moment même où une machine plus puissante apparaît à l’horizon
Apprendre à l’ère des machines pensantes
-
Les fonctions essentielles qui conservent de la valeur
- On ne sait pas forcément quelle discipline chaque étudiant devrait choisir, mais il y a une forte certitude sur les fonctions qu’ils devraient considérer comme précieuses
- Ce sont précisément celles qui sont en train de décliner :
- La patience de lire des textes longs et complexes
- La capacité à maintenir dans notre tête des idées contradictoires et à savourer leur dissonance
- La capacité à se livrer à une lutte acharnée au niveau de la phrase dans l’écriture
- Le fait même d’accorder de la valeur à ces choses à une époque où le divertissement vidéo remplace la lecture et où les dissertations générées par ChatGPT remplacent l’écriture (cela relève désormais d’un choix)
-
Une menace claire et immédiate
- À mesure que l’IA devient abondante, il existe une menace claire et immédiate : la pensée humaine profonde pourrait devenir rare
- La vraie question n’est pas tant de savoir si la technologie nous dépassera, mais si nous allons nous atrophier nous-mêmes
Conclusion
- Ce qui menace l’avenir de l’humanité, ce n’est pas le progrès technique de l’IA en lui-même, mais le fait de perdre notre capacité à penser par nous-mêmes, à lire en profondeur et à écrire directement
- À l’ère de l’IA, ce dont nous avons le plus besoin est une pensée profonde, de la concentration et de la patience
3 commentaires
On dirait que l’époque où l’on implantera des connaissances dans le cerveau via une puce, comme dans la SF, arrivera bientôt.
Quand l’époque viendra où l’on cessera vraiment de penser, on finira par faire des transplantations... et là, j’ai l’impression que ce sera la fin.
Avis Hacker News