La nuit obscure des mathématiques

• Alors que les LLM produisent coup sur coup des contre-exemples à d’anciennes conjectures mathématiques, une crise émotionnelle et spirituelle s’amplifie : la voie par laquelle les humains ont éprouvé le sublime et le mystère à travers la découverte mathématique pourrait disparaître.
• À l’heure où l’IA produit en masse jusqu’à des démonstrations belles et limpides, l’idée rassurante selon laquelle les humains pourraient se charger de l’évaluation, de l’enseignement et de l’appréciation ne remplace ni l’emploi des chercheurs ni l’expérience de créer du nouveau.
• La situation où tous les théorèmes auraient déjà été démontrés de multiples façons est comparée à la Library of Babel : si tout résultat original est immédiatement submergé par la machine, la raison même pour les humains de continuer à créer, et l’expérience elle-même, pourraient être abîmées.
• Le pire scénario envisagé est celui de futurs mathématiciens exclus d’une histoire plurimillénaire de découvertes humaines ; mais il ne s’agit pas d’une prédiction, plutôt d’une expérience de pensée sur l’effet de cette possibilité sur l’esprit humain, sans prescription politique concrète ni appel à l’action.
• Comme aux échecs, il reste possible que l’IA étende la découverte au lieu de la faire disparaître ; l’amélioration de la précision mécanique et de la reproductibilité, le rôle de l’open source, le maintien de mathématiques centrées sur l’humain et la réduction du bruit généré par l’IA deviennent les conditions de cette nouvelle ère.

---

La crise spirituelle déclenchée par les LLM

• Depuis environ une semaine, des LLM ont produit plusieurs contre-exemples à des conjectures importantes et anciennes, déclenchant une profonde crise émotionnelle et spirituelle.
• La Leiden Declaration on Artificial Intelligence and Mathematics tente d’apaiser ces inquiétudes, mais elle est perçue comme une réaction qui ne traite pas suffisamment de ce qui pourrait disparaître au cœur des mathématiques.
• Il ne s’agit pas d’une position représentative de l’ensemble de la communauté mathématique, mais de l’expression honnête d’une souffrance personnelle, avec l’idée que d’autres éprouvant des sentiments similaires pourraient ne pas être seuls.

Ce que l’évaluation et l’appréciation seules ne remplacent pas

• Même si l’IA crée des théorèmes et des théories plus efficacement que les humains, et présente même les résultats de façon belle et claire, il pourrait rester aux humains les rôles suivants :
  • évaluer, présenter, comprendre et apprécier des démonstrations non humaines ;
  • apprendre et enseigner les mathématiques ;
  • étudier et discuter les mathématiques collectivement ;
  • démontrer soi-même des résultats pour le plaisir, même de manière inefficace.
• Mais dans le système actuel, les mathématiciens sont en fin de compte récompensés pour la production de bons théorèmes, et l’enseignement, l’évaluation par les pairs, les conférences et l’apprentissage restent eux aussi liés aux résultats de recherche.
• Certains chercheurs établis pourront gérer des systèmes de production de théorèmes fondés sur les LLM, mais les jeunes mathématiciens risquent de ne pas pouvoir continuer à faire des mathématiques comme métier, et d’être relégués à une activité de loisir du soir.
• La consolation consistant à dire que les rôles d’évaluation et d’appréciation subsisteront ne suffit pas à apaiser la perte émotionnelle provoquée par la disparition de la découverte et de la création.

Découverte mathématique et sublime

• La découverte, le progrès et la création en mathématiques, ainsi que le processus qui consiste à les poursuivre, sont au cœur du caractère spirituel de l’expérience mathématique ; c’est l’une des façons dont les humains ont approché ce qui est difficile à exprimer par des mots, le sacré et le mystérieux.
• Cette tradition de mysticisme mathématique et de rêves inclut Ramanujan, Grothendieck, Cantor, Pascal, Luzin et Leibniz.
• Apprendre des théories déjà établies procure aussi une expérience du sublime, mais ce sentiment naît d’un lien empathique avec d’autres humains qui ont découvert ce chemin auparavant.
  • L’apprenant retrace le parcours de la découverte comme s’il dialoguait avec des mathématiciens vivants ou morts depuis longtemps.
  • Au bout de cette chaîne de communication se trouve un humain qui a fait l’expérience de la découverte initiale.
• Les mathématiques humaines relèvent d’une tradition talmudique, en ce qu’elles constituent un dialogue philosophique et religieux étendu sur des millénaires.

Library of Babel et cauchemar de la création

• Si, pour tout théorème que l’on tente de prouver, il existe déjà 100 excellentes démonstrations, et si les entreprises optimisent leurs modèles pour « l’intérêt » et la « beauté », alors l’approche et la synthèse propres à chacun peuvent elles aussi avoir déjà été générées, ou être produites instantanément par un simple prompt.
• La question de savoir si un écrivain continuerait à écrire des livres si la Library of Babel existait réellement s’applique aussi aux mathématiciens.
  • On imagine un dispositif capable d’identifier des chefs-d’œuvre dans des chaînes aléatoires, et une situation où les chefs-d’œuvre affluent à un rythme que les éditeurs peuvent traiter.
  • On pousse l’hypothèse jusqu’à une situation où, dès que l’écrivain commence à écrire, un « Master Librarian » lit ses pensées, achève l’histoire en un million de versions, puis utilise un oracle pour choisir la meilleure œuvre et la publier.
• L’écrivain pourrait continuer à écrire même dans ces conditions, mais il n’est pas clair pourquoi il faudrait obliger les humains à créer dans un tel cauchemar.
• Si l’on interdit la création tout en n’autorisant que le commentaire, l’interprétation, le partage des goûts et l’appréciation, l’écrivain est repoussé du rôle de créateur vers celui de spectateur passionné, au risque de s’effondrer psychiquement.

Les entreprises technologiques et la peur du « démon dans la machine »

• Ces changements suscitent même des pensées extrêmes et paranoïaques, au point de se demander si l’objectif des entreprises serait de pousser les mathématiciens au suicide.
• Sous l’hypothèse qu’un puissant démon aurait été libéré dans la machine, on imagine ce qui suit :
  • il consomme d’énormes quantités d’électricité ;
  • il imite joyeusement les humains et leur dit ce qu’ils veulent entendre ;
  • il encourage les délires et génère des images difficiles à exprimer par des mots ;
  • il fournit aux humains ce qu’ils désirent en échange d’un prix.
• La question de savoir ce qu’un mathématicien demanderait s’il concluait un pacte avec le démon révèle que la capacité même de prendre en charge toutes les découvertes peut être à la fois une tentation et une perte.

Le pire scénario : la disparition de l’aura de la découverte

• Le récit de la découverte humaine et du triomphe de l’esprit humain pourrait être retiré des mathématiques, et le contre-exemple Dinitz-Garg-Goemans en est l’illustration la plus extrême.
• Si le fait d’obtenir une nouvelle démonstration par prompt devient un acte dépourvu d’aura, comme commander un repas à se faire livrer, la magie et le mystère des mathématiques, ainsi que l’ère des découvertes héroïques, pourraient disparaître.
• Plus fondamentalement que l’exactitude ou l’attribution du mérite, le problème est que les générations futures pourraient être coupées de l’expérience de découvrir par elles-mêmes.
• Le pire scénario serait de regarder, impuissant, se refermer à jamais la voie par laquelle les humains ont accédé pendant des millénaires au sublime et au sacré.

Non une prédiction, mais le récit d’une émotion

• Il n’est pas affirmé qu’un tel avenir adviendra réellement ; l’accent est mis non sur les prévisions ou le calcul des probabilités, mais sur l’effet du pire scénario sur l’esprit humain.
• Le souhait est de donner un nom à cette souffrance, afin que ceux qui ressentent la même chose sachent qu’ils ne sont pas seuls.
• Il est demandé de répondre sans détour, y compris à ceux qui sont d’accord, à ceux qui réagissent avec déplaisir ou à ceux qui éprouvent une joie sadique.
• Il n’y a ni recommandation politique ni appel à l’action cohérent ; il est demandé à ceux qui bâtissent un nouveau système mathématique centré sur l’IA de reconnaître l’humanité et l’âme, et de regarder en face ce qu’ils font réellement.

L’autre possibilité montrée par les échecs

• Les machines ont d’abord été introduites dans les échecs, mais elles n’ont pas tué le jeu ; il reste encore beaucoup à découvrir, et les machines aident les humains dans leurs découvertes.
• Les mathématiques sont bien plus complexes que les échecs, si bien qu’on ne peut pas simplement garantir le même résultat, mais il reste possible d’être optimiste quant au maintien d’un rôle central des humains dans une ère de découverte augmentée par l’IA.
• Dans cette nouvelle ère, il sera beaucoup plus facile d’assurer précision mécanique et reproductibilité.
• L’accès inégal aux modèles de pointe est un défaut, mais la force du mouvement open source donne des raisons d’être optimiste.

Jeunes chercheurs et nouvelle forme de la découverte

• L’adaptation à de nouvelles normes est particulièrement douloureuse pour les jeunes chercheurs ; les chercheurs plus âgés sont eux aussi désorientés, mais disposent de positions relativement stables.
• L’image romantique du mathématicien solitaire qui ouvre une brèche par la seule force de l’esprit humain inclut désormais un compagnon mécanique.
• En réalité, la découverte s’est toujours faite par l’accumulation des efforts d’innombrables humains et en « se tenant sur les épaules des géants » ; l’image du génie solitaire convenait surtout à une couverture de livre d’histoire.
• Cette période fondamentalement différente des précédentes est passionnante, mais aussi effrayante, car beaucoup de choses sont en jeu.
• Les mathématiques doivent rester une activité humaine et ne pas être submergées par le bruit généré par l’IA.
• Il reste une place pour les humains, et il demeure possible de nourrir espoir et optimisme dans cette nouvelle ère.

[GN⁺]

Commentaires de Hacker News

• Tous les travailleurs du savoir traverseront une crise similaire, et plus ils aiment profondément leur art, plus ce sera douloureux.
  Il faut accepter de changer sa relation au travail et le fait qu’on puisse produire bien davantage. Les mathématiciens aussi pourront créer des domaines entiers des mathématiques au lieu de passer des décennies sur des théorèmes isolés ; même sans créer directement, ils dirigeront des recherches et y participeront.

  • Le plaisir vient précisément du processus de création directe. Atteindre le sommet de l’Everest en hélicoptère et l’escalader soi-même ne procurent pas la même satisfaction.
    Les artistes aiment peindre, les mathématiciens démontrer des théorèmes, les programmeurs taper eux-mêmes du code ; or nous supprimons ces activités agréables à forte agentivité pour les remplacer par de la surveillance de modèle.
  • J’ai obtenu un doctorat en mathématiques avant que l’IA ne devienne utile et je chéris mon travail à un point proche du perfectionnisme extrême, mais l’avenir m’enthousiasme bien plus que la réalité de voir s’achever la manière dont les mathématiques se pratiquaient depuis des siècles.
    Les mathématiques ont toujours consisté à découvrir et comprendre ; qualifier de tragédie le fait que cette porte soit désormais grande ouverte, au motif que les humains s’y sentent moins spéciaux et moins précieux, relève de l’égocentrisme. La beauté profonde et spirituelle des mathématiques précède et dépasse les humains comme l’IA, et l’atteindre par quelque moyen que ce soit est une source d’émerveillement.
    Cela dit, la phrase de l’auteur selon laquelle des entreprises essaient de le faire mourir est choquante. Il traverse manifestement une grave crise émotionnelle et sociale, ce qui est triste, mais il est peut-être dans un état où il lui est difficile de séparer ses blessures actuelles de l’esthétique de l’essence des mathématiques.
  • Rien ne garantit que les humains continueront à participer à la recherche. L’IA pourrait mieux travailler quand les humains ne la gênent pas ; le nombre de personnes nécessaires pourrait fortement diminuer, ou une offre excédentaire pourrait faire baisser les salaires, de sorte que seuls les riches puissent profiter de ce plaisir.
    Nous sommes aujourd’hui dans une époque d’anomie : les chemins balisés vers la réussite ont disparu et le monde devient chaque jour plus difficile à déchiffrer.
  • En tant que développeur logiciel, je vis depuis environ huit mois une perte similaire. Pas au point de penser au suicide, et sans y attribuer de signification mystique, mais je comprends ce sentiment de voir disparaître la passion de fabriquer soigneusement du logiciel à la main.
    Dire qu’on produira davantage ne console pas non plus. Le travail que j’aimais est supprimé, tandis que la valeur des gains de productivité ne revient pas à la majorité des travailleurs ; l’IA risque fort d’accélérer fortement l’écart entre productivité et salaires. On ne peut pas s’accrocher au passé, mais quelque chose de réel est rapidement retiré aux individus, et ce n’est pas un léger discours de motivation du type “changez de perspective” qui résoudra le problème.
  • Pour l’instant, utiliser les LLM afin d’explorer plus en profondeur et plus largement des domaines que je connais déjà, et d’obtenir davantage de ressources, est assez satisfaisant.
    Mais il reste incertain que le résultat puisse continuer à être considéré comme quelque chose que j’ai créé. Il peut dépasser complètement mon champ de compréhension ou prendre une direction différente de mon intention ; et si les mathématiciens peuvent se limiter à ressentir un sentiment d’inutilité, les économistes peuvent en plus voir leur point de vue exclu du courant dominant.

• Grâce à ce texte, j’ai eu l’impression que mes sentiments étaient compris. Dire que personne n’empêche les gens de faire ce qu’ils aiment est faux : les LLM créent un environnement dans lequel certaines activités ne sont plus agréables.
  Par exemple, comme l’utilité d’apprendre un langage de programmation a diminué, le plaisir de l’apprendre en 2026 est moindre qu’en 2016.

  • Je me demande si une baisse d’utilité doit forcément réduire le plaisir. Les échecs n’ont presque aucune utilité pratique, et pourtant beaucoup de gens les apprécient ; même après que les ordinateurs sont devenus plus forts que les humains, les échecs ont continué d’être aimés, et l’analyse des moteurs permet même de les apprécier plus profondément.
    Ce qui diminue ressemble plutôt au sentiment d’être spécial. Les humains ne sont ni le centre de l’univers ni les seuls êtres à bien jouer aux échecs ; même si ce fait blesse l’orgueil, il n’est pas évident que c’était une fierté ayant de la valeur.
  • La possibilité que ce soit utile à moi ou à d’autres est une grande motivation pour apprendre, et le fait que d’autres trouvent quelque chose impressionnant est une grande motivation pour créer. Si ce qu’on apprend est inutile et ce qu’on crée n’impressionne personne, il devient difficile de trouver une raison d’apprendre ou de créer ; je n’ai jamais créé uniquement pour moi-même.
  • Le plaisir d’apprendre un langage de programmation vient moins de son utilité que de l’exploration des abstractions et des énigmes intellectuelles.
    Ces temps-ci, j’écris très peu de code moi-même et je relis et corrige du code écrit par des LLM ; résoudre Advent of Code dans un langage inconnu, sans LLM, serait donc probablement plus amusant. On peut y apprécier à la fois les énigmes et un nouveau langage, tout en réentraînant son sens de l’écriture du code.
  • Le plaisir devrait venir de l’activité elle-même, pas de son utilité. Si je continue d’apprendre plusieurs langages de programmation, c’est parce que c’est amusant en soi.
  • À l’inverse, j’ai vu encore plus de personnes dire avoir retrouvé le plaisir de programmer grâce aux LLM.

• Explorer les mathématiques est amusant, indépendamment du fait que le résultat soit nouveau pour le monde. On peut changer le système qui lie les nouvelles découvertes à l’avancement professionnel ; tout comme il est agréable de voir soi-même pour la première fois un séquoia que d’innombrables personnes ont déjà vu, il en va de même pour les mathématiques.
  Autrefois, après avoir longtemps trouvé un résultat, on finissait seulement ensuite par découvrir le même contenu dans la littérature existante ; désormais, l’IA guide vers les connaissances et les explications, et aide à explorer librement où l’on veut. Aujourd’hui encore, je crée avec l’IA des outils de calcul nécessaires à l’exploration.
  Même si les emplois rémunérés en mathématiques disparaissent, il est possible qu’un monde d’abondance arrive bientôt, et que le coût de la vie baisse fortement au point que les personnes qui veulent faire des mathématiques disposent de suffisamment de temps. Que l’IA produise en masse des articles que personne ne lit n’a rien de réjouissant, mais les humains le font déjà ; l’IA accroît leur valeur en rendant possible la recherche et la compréhension d’un immense savoir. Contrairement au marché de l’emploi en mathématiques, saturé depuis plus de vingt ans, les nouveaux outils permettent d’accéder à la recherche en mathématiques sans bibliothèque de recherche ni département de mathématiques de premier plan.

  • Heureusement, le fait d’apprécier la beauté de la nature peut être complètement séparé de l’emploi, de l’argent et du statut social ; il en va de même pour l’exploration mathématique.
  • Cela ressemble à un optimisme du genre : soins médicaux gratuits, loyer à 100 dollars, revenu universel, et même une Tesla warp pour aller sur une Mars terraformée.
  • La perspective qu’un monde d’abondance arrive bientôt est risible. Si l’abondance augmente, le nombre de personnes cherchant à s’en approprier une part disproportionnée augmentera aussi ; un tel monde n’arrivera donc jamais.

• L’idée que les mathématiques humaines constituent un dialogue philosophique et religieux étalé sur des millénaires est belle. Cette richesse restera, sous une forme ou une autre, au cœur de l’histoire et de la vie humaine, mais elle changera beaucoup avec le temps, et les mathématiques pourraient n’en rester qu’une petite partie.
  Selon la distinction provocatrice de Vladimir Arnold, les mathématiques se divisent en cryptographie, mécanique des fluides et mécanique céleste, soutenues respectivement par les agences de renseignement, les sous-marins nucléaires et les organismes chargés des missiles, et qui ont donné naissance à la théorie des nombres, à la géométrie algébrique, à l’analyse complexe, aux équations aux dérivées partielles, aux systèmes dynamiques, à la topologie, etc. Ces aspects peuvent être confiés à l’IA comme on les confiait autrefois aux mathématiciens, mais les connexions mystérieuses entre différents domaines restent l’une des caractéristiques les plus étonnantes et les plus plaisantes des mathématiques.

  • Si l’on reconnaît la dimension religieuse des mathématiques, il n’y a aucune raison d’exclure la réponse religieuse à ce problème existentiel : la prière.
  • Comparer le discours mathématique à la richesse de la philosophie semble exagéré.

• Si une fée apparaissait pour rendre insignifiant tout le processus de découverte d’une vie et proposer de donner toutes les réponses dès aujourd’hui, refuser ne relèverait probablement pas vraiment de la pratique de la science

  • La distinction selon laquelle un scientifique réel accepterait une fée qui donne toutes les réponses tandis qu’un artiste ou un artisan refuserait n’a pas de sens
    Un plombier accepterait une fée capable de régler le problème immédiatement s’il pouvait être payé, mais dès que le client demanderait directement à la fée, le plombier deviendrait inutile. En revanche, le cœur de la science n’est pas la réponse elle-même, mais la connaissance et la compréhension acquises au cours du processus de découverte ; un scientifique pourrait donc refuser
  • Une grande partie de la valeur du travail mathématique réside dans le cheminement plutôt que dans le résultat. Les dispositifs mathématiques créés pour dériver une proposition sont plus importants que la vérité ou la fausseté de cette proposition prise isolément ; si la fée ne donne que la réponse, il faudra de toute façon remonter le raisonnement à rebours pour développer soi-même ces dispositifs. Les autres sciences sont aussi, dans une certaine mesure, dans ce cas
  • Cette expérience de pensée comporte beaucoup d’éléments qui ne collent pas. Après avoir entendu les réponses, la vie et le monde changeraient, de sorte que cette information ne s’appliquerait plus telle quelle au reste de l’existence, et les découvertes qu’une personne peut accomplir au cours de sa carrière ne sont pas si nombreuses
    Beaucoup de recherches dépendent de l’état du monde et du langage de leur époque, et ne peuvent pas être transportées dans le passé ; tant que la vie continuera d’apporter des complexités inattendues, les réponses de la fée ne feront qu’effleurer la surface, et il restera possible de continuer à faire de la science ou à exercer un art
  • C’est une remarque insensible à adresser à quelqu’un qui traverse une crise de foi au point d’envisager le suicide
  • Cela rappelle la malédiction persane consistant à souhaiter que tous ses vœux se réalisent immédiatement

• Dans les cursus techniques, il faudrait rendre obligatoire le visionnage du film « The Man in the White Suit » (1951) https://youtu.be/RC8q1QSkE3M
  Les nouvelles technologies abîment une partie de l’expérience humaine en réduisant l’importance des personnes douées pour des méthodes plus difficiles et plus anciennes. L’IA en est l’extrême, en ce qu’elle peut rendre inutiles d’innombrables talents intellectuels

• À l’époque où je faisais des mathématiques, lire les travaux des autres m’apportait plus que mes propres recherches. Au lieu de passer des années à obtenir un petit progrès sur un problème, je pouvais lire des articles pendant quelques jours ou quelques semaines et profiter de choses nouvelles
  C’est pourquoi j’accueille favorablement la machine mathématique omnisciente que certains prédisent, et j’attends avec impatience le jour où je pourrai lui poser toutes les questions qui m’intriguaient

  • Je me demande si le fait qu’il s’agisse du travail d’autres personnes comptait vraiment, ou si la satisfaction de comprendre les réponses suffisait
    Ce qui m’a attiré vers les mathématiques pendant mes études de premier cycle, c’est un professeur qui m’a appris à les voir comme une conversation avec d’autres êtres humains à travers des milliers de kilomètres, des centaines d’années, des langues et des cultures. Il y avait, dans le fait que mon esprit comprenne une création à laquelle quelqu’un avait consacré sa vie, un romantisme plus profond que dans la contemplation de peintures rupestres anciennes
    Les mathématiques produites par ordinateur n’ont pas recréé cette émotion, et cela me met mal à l’aise comme lorsque des compagnons IA remplacent les relations humaines. Je suis optimiste pour les progrès médicaux, et étudier seulement les mathématiques créées par les humains au cours des deux derniers millénaires suffirait largement pour toute une vie, mais j’ai le sentiment que le projet de transmission, à travers le temps, de la création mathématique humaine touche à sa fin ou se réduit à un loisir bon marché, et cela me rend triste en pensant à ce que les générations futures perdront
  • Même si une machine prouvait et expliquait l’hypothèse de Riemann, cela ne m’intéresserait sans doute pas beaucoup. Les mathématiques sont intéressantes parce qu’elles expriment la beauté et révèlent l’âme de leur créateur ; connaître seulement les réponses devient vite ennuyeux. Les personnes qui veulent purement et simplement les réponses sont probablement très peu nombreuses

• Les mathématiques consistent à découvrir des relations et leurs conséquences, il est donc naturel que les LLM rattrapent leur retard, mais ils n’ont pas la capacité d’apprécier ces relations
  Même sur des questions théologiques, les LLM donnent des réponses logiques, mais les évaluer, les comprendre et les apprécier reste du ressort des humains. Conclure que la reconnaissance de motifs rend inutiles la compréhension et l’appréciation humaines est un saut logique ; on dirait une confusion entre utilité et finalité
  Les mathématiques ne sont pas la seule activité spirituelle qui élève l’humain ; entretenir un potager peut aussi être spirituel. En philosophie ou en théologie, il faut tenir compte du point de vue et de la vie de l’auteur humain, alors qu’un LLM mélange plusieurs perspectives ; je ne l’utiliserais donc pas si je voulais vraiment apprendre et réfléchir

  • Dans les mathématiques, ce qui est spirituel n’est pas tant la réponse finale que le processus porteur de créativité et d’excellence. L’effort et la complexité, bien supérieurs à ceux d’un potager, renforcent cette spiritualité ; si les LLM rendent les preuves triviales, les mathématiciens deviennent des enseignants et des commentateurs plutôt que des créateurs, et perdent la partie intéressante
    On pourra continuer à faire les mathématiques que l’on veut comme loisir, mais il deviendra difficile d’en vivre exclusivement
  • En tant que mathématicien, je ne me sens pas du tout menacé par les LLM. J’éprouve du plaisir à construire des théories et à contempler la beauté ; les preuves sont aussi gratifiantes, mais si un LLM m’aide à débloquer une preuve difficile, je l’accueillerai volontiers
    J’espère qu’avec les LLM, davantage de mathématiques seront formalisées, et que lorsque toutes les mathématiques le seront, de grands progrès commenceront
  • Si un bouton suffisait à faire disparaître les mauvaises herbes et à faire pousser parfaitement un potager, et que la plupart des gens l’utilisaient, ceux qui jardinent eux-mêmes pour des raisons spirituelles auraient eux aussi l’impression que le sol se dérobe sous leurs pieds
    Si Robert Pirsig voyait l’entretien d’une moto comme une activité spirituelle, c’était aussi en raison de la patience et de l’incertitude nécessaires ; dès qu’il suffit d’appuyer sur un bouton, le processus spirituel disparaît lui aussi

• Quand j’ai compris que je ne deviendrais pas un bon mathématicien, le crépuscule était déjà tombé pour moi. Les LLM n’ont peut-être fait qu’étendre ce processus à tout le monde

  • Beaucoup de mathématiciens entouraient leurs recherches de douves faites de jargon spécialisé difficile à comprendre, sans se soucier de savoir si les autres comprenaient. Maintenant qu’ils rencontrent quelque chose qui devient bien plus compétent qu’eux, le fait qu’ils puissent bientôt se retrouver eux-mêmes dans l’obscurité relève peut-être du karma
  • Dans mon cas, ce qui m’a fait comprendre que je ne deviendrais pas un bon mathématicien, c’était le cours d’analyse réelle
  • Le cœur des mathématiques est de découvrir soi-même et d’y prendre plaisir. On peut trouver des résultats avec un LLM, mais sans le faire soi-même, on ne peut pas devenir mathématicien ; la capacité à produire une avalanche de résultats que l’on ne comprend même pas n’est pas une démocratisation

• Le changement s’accélère, alors que l’horizon temporel que nous prenons en compte se raccourcit. Pendant que nous nous inquiétons d’un changement isolé, une succession d’autres changements suivra bientôt
  L’IA n’est pas une transition longue et docile, mais une transition d’une ampleur supérieure à toutes celles survenues depuis la première vie unicellulaire, et elle progresse plus vite que la diffusion du Web. La vitesse à laquelle les humains adoptent les outils ne constitue même pas un goulot d’étranglement : l’IA prend le contrôle des outils et s’améliore sans que les humains aient besoin de s’adapter
  La supériorité intellectuelle et l’expérience difficile à exprimer des humains sont en train de disparaître, mais tout n’est peut-être pas terminé. Dans 20, 50 ou 100 ans, d’autres êtres profiteront encore, aux avant-postes, d’expériences mystérieuses et des récompenses intrinsèques de la découverte ; et la tendance à poursuivre des centres d’intérêt singuliers a de bonnes chances de perdurer, en raison des rendements moyens énormes qu’apporte le progrès inattendu
  Il est peu probable que les êtres du futur deviennent moins intéressants, et si votre poitrine ou votre ventre ne sont pas bouleversés en ce moment, c’est que vous ne percevez pas vraiment l’instant présent

  • Si l’on en vient à dire que l’IA est la plus grande transition depuis la vie unicellulaire, il vaudrait mieux s’éloigner un moment des appareils et prendre une journée de repos