LLM Inevitabilism (inévitabilisme/inéluctabilisme)
(tomrenner.com)- L’inévitabilisme (Inevitabilism) est un cadrage puissant qui oriente le sens du discours en affirmant qu’un futur donné adviendra nécessairement
- Concernant l’avenir de l’IA et des LLM, des figures dominantes affirment qu’« un tel futur est inévitable », exerçant ainsi une pression à l’adaptation
- Ce cadrage traite les désaccords ou les résistances comme “irréalistes” et produit en pratique un effet psychologique qui prive de choix
- L’auteur remet en question le fait que les LLM ou l’IA constituent un futur réellement souhaitable, et souligne que nous devons décider nous-mêmes du futur que nous voulons et des technologies que nous choisissons
- Il appelle à ne pas se laisser emporter par le cadre de l’inévitabilité, mais à réfléchir activement au futur que chacun souhaite et à le mettre en œuvre
La force du cadrage par l’inévitabilité
- Quand on débat avec quelqu’un de très fort en discussion, on se retrouve sans cesse entraîné sur des points inattendus
- À force de ne défendre que les points faibles de son argumentation, l’essentiel se dissout dans le flux
- On finit par perdre le fil et la confiance, et par se retrouver en position de faiblesse dans le débat
- Un ami, vainqueur d’un concours international de débat à l’université, insistait sur une stratégie : poser le cadre d’abord
- Autrement dit, définir le cadre de la conversation avec ses propres termes et sa propre logique. Maîtriser le cadre, c’est en quelque sorte fixer l’issue du débat à l’avance
Surveillance Capitalism et « l’inévitabilisme »
- En lisant 『The Age of Surveillance Capitalism』 de Shoshana Zuboff, l’auteur a découvert le concept d’Inevitabilism (inévitabilisme, inéluctabilisme)
- Le simple fait de donner un nom à un concept apporte déjà une grande force pour structurer le débat et partager une grille de lecture
- L’inévitabilisme est une manière de penser qui affirme qu’un futur précis se réalisera forcément, et qui fait paraître la seule préparation à ce futur comme le seul choix rationnel
- Cette approche renvoie les opinions contraires au rang de ceux qui “ignorent la réalité”, et ne reconnaît comme légitimes que les discussions qui acceptent déjà ce cadre
Des exemples concrets du cadrage d’inévitabilité autour de l’IA
> « Nous allons entrer dans un monde où nous coexisterons avec l’IA » — Mark Zuckerberg
> « L’IA est la nouvelle électricité » — Andrew Ng
> « Ce n’est pas que l’IA remplacera les humains, mais que les personnes qui utilisent l’IA remplaceront celles qui ne l’utilisent pas » — Ginni Rometty
- Ce type de déclarations crée l’idée que l’ère de l’IA est déjà un futur décidé
- Le centre de la discussion se déplace de « Est-ce le futur que nous voulons ? » vers « Comment s’adapter à un futur inévitable ? »
- Elles comportent aussi une nuance menaçante, en suggérant que « refuser, c’est y perdre » ou qu’exprimer un désaccord serait « stupide »
Choix et agentivité
> "Je ne suis pas certain que les LLM représentent réellement le futur, ni que ce futur soit celui que je souhaite"
- Pourtant, chacun de nous a le droit de choisir la forme du futur et la manière d’utiliser les technologies
- Il faut veiller à ce que le cadre de l’inévitabilisme ne nous prive pas de ce choix
- Chacun doit réfléchir au futur qu’il souhaite et être prêt à se battre pour le faire advenir
Conclusion
- Face à la technologie et à l’avenir, il ne faut pas se laisser passivement emporter par le cadre de l’inéluctable
- Il faut imaginer activement un avenir meilleur selon ses propres convictions, puis agir pour le réaliser
1 commentaires
Opinion sur Hacker News
Je pense que deux choses peuvent être vraies en même temps.
Comme pour les avions de ligne supersoniques, beaucoup de « technologies qui semblaient inévitables » finissent par disparaître faute de revenus suffisants, ou se stabilisent dans des usages spécifiques comme le four à micro-ondes. En l’absence d’un modèle suffisamment rentable, les LLM trouveront sans doute une place moins exceptionnelle et moins envahissante qu’aujourd’hui. Les tentatives de mettre de force des LLM partout ne sont pas très bien accueillies
Je pense que l’analogie avec les avions de ligne supersoniques s’applique aussi à l’IA, voire à l’informatique et à Internet dans leur ensemble.
À l’époque, la technologie des avions de ligne supersoniques paraissait merveilleuse et destinée à s’étendre inévitablement, mais cela masquait des problèmes insolubles avec les moyens techniques du moment et une absence de rentabilité.
J’ai l’impression que l’informatique et Internet pourraient suivre une trajectoire comparable à celle de l’aérospatial. Il est possible que nous soyons déjà presque au sommet de la technologie.
Si l’on avait voyagé dans le temps depuis les années 1970 pour apprendre qu’en 2025 les avions de ligne supersoniques auraient disparu, et que l’industrie aérienne serait restée fondamentalement la même, simplement en plus agaçante, personne ne l’aurait cru.
Donc, en 2075, nous regarderons peut-être un documentaire sur les LLM en nous demandant pourquoi une technologie qui semblait si prometteuse a presque disparu
Je ne suis pas du tout d’accord avec l’affirmation selon laquelle « la plupart des gens s’accordent à dire que les résultats des LLM sont banals et désagréables à consommer ». En réalité, les gens aiment beaucoup les résultats des LLM, au point que ChatGPT est l’application à la croissance la plus rapide de l’histoire. Des apps IA comme Perplexity commencent aussi à menacer la domination de Google sur la recherche.
Bien sûr, le grand public n’achètera pas volontairement des romans ou des recueils de poésie écrits par ChatGPT, mais cela ne signifie pas que les résultats soient difficiles à lire ou suscitent seulement du rejet. Il est aussi difficile de nier qu’ils produisent des résumés et des explications clairs et faciles à lire
Je suis perplexe face à votre deuxième point. Je ne sais pas s’il est vrai que les entreprises de LLM ne gagnent pas d’argent avec leurs modèles actuels. OpenAI affiche 10 milliards de dollars d’ARR et 100 millions de MAU. Bien sûr, l’entreprise est encore déficitaire, mais c’est parce qu’elle brûle du cash pour améliorer les modèles. Si elle arrêtait aujourd’hui toute amélioration, pour se concentrer sur l’optimisation des coûts d’exploitation et la monétisation de sa base d’utilisateurs massive, je me demande s’il serait encore juste de dire qu’il n’existe pas de modèle économique viable. Les gens utilisent déjà ces outils tous les jours. C’est inévitable
Le propos de l’article reprend essentiellement l’argument de la perspective qui voit « l’IA comme une technologie ordinaire »
AI as Normal Technology
Lien vers la discussion associée
Sur l’idée que « beaucoup de technologies tenues pour inévitables ont fini par régresser faute de rentabilité », on peut aussi citer les plus de 120 chaînes du câble, qui pouvaient sembler être une bonne idée à leur lancement, mais dont, comme pour les LLM, la grande majorité des contenus n’intéressaient en réalité personne
L’une des conséquences négatives de l’époque séculière moderne, c’est que des personnes très intelligentes et réfléchies ont tendance à balayer d’un revers de main des milliers d’années de pensée philosophique et religieuse, en les jugeant archaïques ou inutiles. (Au passage, je recommande vivement <A Secular Age>.)
Cette attitude empêche les gens de reconnaître les schémas psychologiques récurrents dans notre rapport au monde et à l’avenir, et donc d’ajuster leur position en conséquence
Par exemple, l’inévitabilisme de l’IA ne diffère pas tant que cela de la prédestination à l’époque de la Réforme. L’idée que l’histoire suit un chemin tracé d’avance relève du même mécanisme psychologique, seul l’agent change, de Dieu à la technologie. C’est une structure mentale qui externalise la liberté et la responsabilité vers une force puissante et floue — aujourd’hui, la technologie
Je reste sceptique face à l’idée que l’AGI deviendra bientôt dominante, mais ayant beaucoup lu d’ouvrages de théologie durant ma jeunesse, je ne considère pas que des essais populaires comme ceux de LessWrong soient religieux ou écrits par des gens qui ne lisent pas assez. L’angle « ils se sont trouvé un nouveau dieu ! » est un procédé classique pour brouiller le débat. Bien sûr, cela peut être une métaphore juste pour certains tenants de l’AGI inévitable, mais se concentrer uniquement sur les arguments les plus faibles n’a guère d’intérêt
J’ai l’image des techno-calvinistes face aux réformistes luddites
Je pense que cette tendance vient d’une absence de grand récit ou d’idéologie. Il existe beaucoup de gens brillants dans la tech, indifférents à la réflexion philosophique ou religieuse, mais désireux de construire quelque chose de nouveau
Ils poursuivent toujours plus d’argent, puis certains finissent par comprendre que cette quête est vaine. Mais ils s’imaginent au-dessus de ce problème universel de l’humanité
Dans cette déformation, ils en viennent à recycler l’art existant, à créer des apps qui se dégradent avec le temps, et à délaisser la joie créative originelle d’améliorer l’humanité au profit de la seule conquête de richesse
Les LLM et l’IA, c’est comme avoir sorti le génie de la bouteille, mais en réalité cela prendra probablement une place plus proche de la perspective linéaire ou de l’imprimerie que de l’électricité. Dans la culture actuelle, cela reviendrait à imaginer Léonard de Vinci passer toute sa vie à vendre uniquement des tutoriels sur la perspective linéaire
Ce n’est pas un phénomène entièrement nouveau, on a simplement ajouté un nouvel « objet de peur » au répertoire des prédestinationnistes
Mon but est seulement de signaler ce phénomène. Les gens rejettent la prédestination en physique ou en religion, mais continuent d’être impressionnés par l’affirmation selon laquelle « l’IA est inévitable »
Le cœur de l’argument de l’article, c’est que l’« inévitabilisme » n’est qu’une stratégie rhétorique pour orienter la conversation à son avantage, un outil qui permet de disqualifier la critique comme un « déni de réalité » et de la sortir du débat. Je trouve que la comparaison avec l’idéologie de la Réforme est peu pertinente
Il y a aussi une ironie dans l’analogie proposée avec une « prédestination séculière ».
La prédestination protestante n’a rien à voir avec l’évitement de la liberté et de la responsabilité. Son idée centrale est que la grâce de Dieu se « reçoit », elle ne se « gagne » pas, et cela ne justifie pas l’inaction. Au contraire, elle pousse à chercher dans ses bonnes œuvres la preuve de son salut.
Cela se relie à une forme de « diligence sans attente de récompense immédiate », qu’on retrouve analysée chez Max Weber comme moteur du capitalisme naissant
La prédestination et l’« inévitabilisme technologique » sont donc en réalité des concepts très différents
On retrouve des discussions voisines dans l’historicisme (par exemple chez Hegel et ses « lois inévitables de l’histoire »)
J’ai le pressentiment que, pour la génération de nos enfants ou de nos petits-enfants, les États-Unis deviendront une société où l’économie des services et de l’information aura délocalisé toute l’industrie manufacturière, et où un immense pouvoir technique sera concentré entre les mains d’une minorité
Personne représentant l’intérêt public ne comprendra vraiment les enjeux techniques, et les gens perdront jusqu’aux connaissances nécessaires pour formuler leur propre agenda ou critiquer les puissants
Ils tiendront des cristaux dans leurs mains, se fieront à l’astrologie, verront leur esprit critique décliner, et glisseront presque sans s’en apercevoir vers la superstition et l’obscurité, au point de ne plus distinguer clairement ce qui procure du bien-être de ce qui est vrai
Je ne pense pas que cette citation soit particulièrement adaptée ici, mais pour ceux qui s’intéressent à sa source, elle vient de The Demon-Haunted World
En lisant cette phrase, j’entends presque sa voix
Il y a là un ton unique qui ne devient jamais banal, même quand d’autres tentent de le copier ou de l’imiter
Si, en 2009, quelqu’un avait affirmé que la domination des smartphones était inévitable, ce n’était pas pour manipuler le libre arbitre avec une intention cachée, mais parce qu’il avait déjà essayé un smartphone et éprouvé directement sa puissance
En 2025, si l’on utilise réellement l’IA pour effectuer un travail concret, il devient impossible de nier que son adoption à grande échelle est inévitable. L’IA arrive plus vite et plus fort que jamais dans l’histoire. On ne peut pas détourner le regard simplement parce que cela fait peur
Il suffit de voir ce qu’il est advenu de ceux qui affirmaient dans les années 1980 que l’IA était inévitable, ou de ceux qui croyaient il y a dix ans que la VR deviendrait dominante. Zuck brûle encore des milliards et Apple s’est complètement trompé dans ses prévisions de demande.
L’AR pourrait peut-être sauver la VR, mais son entrée sur le marché grand public est encore lointaine, et l’essentiel des technologies accumulées pour la VR n’aura probablement pas de lien direct avec l’AR
Le mythe du Robo-taxi autonome de Tesla dure lui aussi depuis dix ans, mais il n’existe toujours aucun Tesla réellement rentable sans conducteur
Avec le recul, il est absurde de ne citer que les technologies qui ont réussi. Il y en a eu quantité qui n’ont pas abouti, ainsi que d’innombrables bulles d’investissement et bulles sectorielles
Ce raisonnement est précisément la stratégie rhétorique évoquée dans l’article
Rappelez-vous l’époque où l’on vantait un moyen de transport soi-disant révolutionnaire et inévitable. Le hype, les réunions secrètes, les attentes immenses… et au final, c’était le Segway
Cela ressemble à une prophétie autoréalisatrice. Les grandes entreprises tech forcent l’« IA » dans tous leurs produits, puis disent : « Regardez, c’est utilisé partout, donc c’est inévitable ! »
Je pense moi aussi que l’IA est inévitable, mais pour l’instant le conformisme de groupe est si fort que tout prend la forme d’une interface d’agent basée sur des bulles de dialogue
Quand tout le monde en aura enfin fait le tour, j’ai hâte de voir ce qui viendra ensuite
Si quelqu’un, en 1950, avait affirmé que les smartphones deviendraient grand public, la plupart des gens l’auraient facilement cru. La SF mettait souvent en scène ce genre de futur
Mais la réaction aurait été différente si l’on avait parlé des réseaux sociaux. Certains auraient trouvé cela génial, d’autres dystopique
En réalité, ces trois choses — smartphones, réseaux sociaux et IA — stimulent l’imagination depuis avant les années 1950
En pratique, l’IA ressemble moins à un appareil de communication très sophistiqué qu’à une version plus proche des réseaux sociaux tels qu’on les imaginait
Dans les années 1950, la technologie nucléaire aussi paraissait inévitable. On vendait même de la vaisselle en verre à l’uranium, qui brille peut-être encore quelque part sur une étagère chez quelqu’un — ou s’est déjà brisée depuis longtemps
Il pourrait bien y avoir un « hiver des LLM »
Cela arrivera quand les gens réaliseront que les LLM ne peuvent pas vraiment « faire » quoi que ce soit
On verra des entreprises tenter de faire porter aux consommateurs la responsabilité des erreurs des LLM
Il faut des systèmes capables de répondre honnêtement « je ne sais pas » ou « je ne peux pas effectuer cette tâche »
On voit déjà des retours selon lesquels l’usage des LLM apporte en fait une valeur négative aux programmeurs
Il faut trop de temps pour traiter les traces qu’ils laissent derrière eux
Faire porter aux consommateurs la responsabilité des erreurs des LLM n’est pas seulement le fait des entreprises
Les utilisateurs les plus fervents de ce forum — ou peut-être des cyber-relations publiques — affichent aussi cette attitude
Ils affirment que pour tirer de la valeur des LLM, il faut un certain niveau de connaissance et de compétences en « prompt engineering » (rebaptisé désormais « context engineering »)
Au final, le critère censé séparer ceux qui trouvent cet outil chronophage de ceux qui y voient un énorme gain de productivité serait uniquement le niveau de compétence de l’utilisateur
Ce récit imprègne les blogs, les forums, et même certaines interprétations erronées de récents résultats de recherche du METR
Bien sûr, tout outil demande un certain niveau de maîtrise pour être pleinement exploité
Mais dire de manière globale que ceux qui n’en tirent rien sont simplement incompétents est insultant
Les LLM ne sont pas une technologie extraterrestre qui exigerait une expertise d’ingénierie spéciale
N’importe qui peut apprendre à s’en servir avec les bonnes questions et un minimum de familiarité avec les outils et les concepts
Ceux qui tiennent ce discours cherchent au fond à vendre les LLM, ou à gonfler artificiellement l’ampleur de leurs effets
On ne peut pas non plus faire entièrement confiance aux humains, c’est bien pour cela qu’on met en place des garde-fous, des contrôles, de la supervision et des audits
En logiciel, il existe des bonnes pratiques comme les revues de code, les tests, le monitoring, etc.
C’est pour cela que les LLM ont pu s’implanter le plus rapidement dans le développement logiciel
Nous avons déjà des méthodes pour gérer des « travailleurs » humains non fiables, et il suffit d’appliquer cette expérience aux LLM
En fin de compte, la clé d’une application réussie des LLM est de mettre en place des garde-fous adaptés au métier et un système qui permette à un humain d’intervenir si nécessaire
Il faut les intégrer dans des systèmes qui forcent leur comportement à rester correct
Par exemple, on peut obliger un LLM à consulter de la documentation ou des pages
man, et à n’émettre que certaines lignes précisesLe système va alors réellement retrouver et citer ces lignes, et le LLM ne pourra pas inventer une citation
Il n’existe pas encore d’exemple d’intégration des LLM avec un système de types
Un système de types puissant (par exemple des types dépendants) peut garantir à la compilation qu’« une fonction renvoie toujours une liste triée »
Il faut écrire beaucoup de code de preuve à la main, mais si un LLM écrivait ces preuves à notre place, on pourrait croire à la correction tant que cela compile
Bien sûr, des exceptions existent, comme un manque de mémoire ou une coupure de courant
J’espère que cette mode de la « production industrielle de résultats médiocres » se terminera vite
Mais pour les escrocs qui ne se soucient pas du tout de la qualité, les spammeurs, les blogueurs à clics, ceux qui veulent interférer dans les élections, ou ceux qui visent des revenus publicitaires avec des apps, de la musique, des vidéos ou de l’« art » bas de gamme, la Gen AI actuelle est le produit parfait
Même si les gens attachés à la qualité réalisent que l’IA est inutile, Internet sera déjà mort
Nous serons alors déjà dans une ère « post-vérité », « post-art », « post-tech », « post-démocratie », et les seuls à en avoir vraiment profité seront quelques milliardaires californiens
Rien n’est plus déprimant que de voir des gens intelligents consacrer leur talent à fabriquer des déchets sans valeur sociale
Dans les années 1990, un ami m’a parlé pour la première fois d’Internet, et quand j’ai appris qu’une personne à l’université pouvait me le montrer, j’étais assis devant un ordinateur universitaire une heure plus tard
Cliquer sur des liens, voir défiler du texte à une vitesse impossible à atteindre avec l’imprimé, des mises en page superbes, des images, des liens vers d’autres pages web. J’ai été sidéré par le fait de pouvoir tout consulter immédiatement, sans impression, sans livraison, sans attente. J’ai su que c’était l’avenir, et cela m’a paru simplement inévitable
Hier, je devais réécrire tout un programme pour l’adapter à une grosse bibliothèque, ce qui m’aurait normalement obligé à lire une longue documentation ou à disséquer le code moi-même
À la place, j’ai copié-collé tout le programme et toute la bibliothèque dans GPT 4.1 en lui demandant de tout réécrire, et cela a marché du premier coup ; j’ai lu l’ensemble des modifications en 15 minutes, ajusté juste quelques détails de style, et c’était terminé. J’ai économisé plusieurs heures. J’ai eu le sentiment que c’était l’avenir, et que cela aussi paraissait inévitable
P.S. Beaucoup de réponses comparent mon expérience à une manière de modifier progressivement le code en dialoguant avec un LLM (« agentic coding »), mais ma méthode consiste à faire « un fichier à la fois, sans toucher au code ». Voir ici pour plus de détails
Je suis entièrement d’accord, mais je pense qu’au fond cela revient simplement à dire que programmer avec un IDE est l’avenir
Le cœur de l’inévitabilisme n’est pas qu’un nouvel outil de développement puissant vous fasse gagner quelques heures de productivité, mais qu’il redéfinisse qui joue le rôle d’intermédiaire du savoir, comment on définit le travail intellectuel, les relations entre employeurs et employés, les moyens de surveillance, et plus largement le fonctionnement des systèmes sociaux
Ceux qui propagent l’inévitabilisme n’essaient pas de convaincre des développeurs têtus ; ils cherchent à créer un nouveau « terrain de jeu » à leur avantage. Et si vous n’aimez pas les règles ou vous y opposez, on vous répond : « On n’y peut rien, c’est inévitable, c’est comme ça »
Le problème des LLM apparaît quand on les utilise pour la pensée ou le raisonnement créatif
Ils sont effectivement utiles dans de nombreux contextes, surtout en programmation, mais cela ne signifie pas pour autant que les LLM soient une technologie qui va « tout changer »
L’idée que « l’IA est la nouvelle électricité » est elle aussi exagérée (citation d’Andrew Ng soulignant que l’IA ne deviendra pas comme l’électricité)
Je dirais plutôt que « l’IA est le nouveau VBA ». À l’époque aussi, on s’enthousiasmait en disant : « maintenant tout le monde peut programmer ! », alors qu’en pratique l’impact s’est surtout vu dans de petites automatisations. Bien sûr, aujourd’hui c’est beaucoup plus rapide et le hype bien plus grand, mais le fond reste similaire
Les LLM ne fonctionnent pas toujours bien
Par exemple, j’ai récemment eu un problème étrange où une VM VirtualBox tournait quatre fois plus lentement sous Windows 10
Avec l’aide de l’IA, j’ai essayé plusieurs solutions sans aucun résultat
J’ai fini par découvrir que la case « Virtual Machine Platform » dans Windows Features s’était décochée toute seule
Quand j’en ai parlé à l’IA, elle a insisté sur le fait que cette option n’était pas nécessaire et qu’il valait mieux qu’elle reste désactivée
Pourtant c’était bien ça le problème, et après avoir recoché l’option et redémarré, tout est revenu à la normale
L’IA se trompe non seulement quand il faut raisonner en profondeur à partir de connaissances de base, mais même sur de simples associations mémorielles
Si vous l’utilisez comme substitut à la recherche web, il faut impérativement vérifier les faits
Une IA fondée sur un LLM n’a aucune notion de « fait ». Elle ne fait que prédire des tokens, et produit une sortie qui a simplement une forte probabilité d’être correcte selon les données d’entrée et d’entraînement
Je suis entièrement d’accord avec l’inévitabilisme des LLM. Je pense qu’il est inévitable qu’un futur arrive où tout le monde les utilisera chaque jour, comme les smartphones
En revanche, je ne crois pas à l’inévitabilisme de l’AGI. L’argument « les modèles continuent de progresser, donc l’AGI est inévitable » est un saut logique qui confond la trajectoire actuelle avec son aboutissement
Êtes-vous vraiment certain que le code fonctionne correctement ?
Et si le fait de vous appuyer uniquement sur l’IA vous avait empêché d’apprendre à lire le code ?
Je pense qu’il est bien plus important de savoir vérifier par soi-même en lisant directement le code
Dans un ancien poste, j’ai entendu l’histoire de quelqu’un qui avait trouvé un bug dans le firmware de contrôle des volets d’un avion, et qui, en allant prendre un avion pour expliquer le problème à l’entreprise aéronautique, était justement monté dans un appareil utilisant ce même firmware bogué
La partie la plus difficile de ce raisonnement sur l’inévitabilisme, c’est que ceux qui disent que c’est « inévitable » sont aussi ceux qui dépensent en pratique des centaines de millions de dollars pour le développement, le déploiement et la publicité
C’est comme si des renards construisaient une porte au poulailler tout en disant : « On ne peut pas empêcher les renards d’entrer. Autant faire en sorte que ce soit un système bénéfique pour tout le monde »
Je pense que la stratégie du « mettez votre argent là où est votre bouche » reste défendable en soi
Je me demande s’ils sont vraiment en train de construire la « porte », ou s’il y avait déjà une porte et qu’ils essaient simplement d’être les premiers à entrer
D’accord. Il ne faut pas aider les renards, il faut au contraire les chasser
Deux choses me paraissent très claires
Comme le dit l’article, il est inutile de débattre dans le cadre imposé par les CEO. Ils parlent surtout au marché, tandis que nous, nous comprenons le fonctionnement technique et pouvons donc évaluer les LLM plus objectivement, avec notre propre cadre d’analyse
À mes yeux, les LLM constituent une étape de plus dans l’évolution des outils logiciels. Il peut être fascinant ou menaçant de voir un LLM écrire facilement du code correct, mais cela n’a rien de miraculeux : pendant des décennies, on a demandé sans fin du CRUD répétitif et de la logique métier, et il n’est pas surprenant qu’un gigantesque générateur probabiliste, avec assez de contexte et de prompts, parvienne à recombiner ces cas variés sous des formes nouvelles
En tant que technicien, je veux comprendre comment les LLM peuvent m’aider à atteindre mes objectifs. Si je ne veux pas les utiliser, je ne les utilise pas, et je dois suivre l’évolution de leurs capacités pour que mes décisions restent avisées
Face à cet immense hype, je n’ai pas l’intention de mener une croisade inutile par nostalgie du passé ou au nom de ce qui serait souhaitable
Les gens aiment communiquer en langage naturel
Les LLM sont le premier pas vers la sortie des langages logiques et des interfaces complexes nécessaires pour communiquer avec les ordinateurs, et ils pourraient mettre fin à une certaine manière d’utiliser l’informatique héritée des débuts d’Internet
C’est de là que vient l’inévitabilisme : la plupart des gens n’ont en réalité aucune envie d’apprendre à utiliser un ordinateur, ils veulent simplement lui parler comme à un être vivant
(J’imagine que moins de 5 % des gens aiment vraiment les ordinateurs)
Les gens attendent aussi des réponses fiables et déterministes. Ils veulent qu’en appuyant sur un bouton, il se passe presque toujours la même chose, et non qu’un événement absurde survienne avec 10 % de probabilité
On ne sait pas encore si les LLM pourront atteindre ce niveau de stabilité
« Le premier pas hors des langages logiques »… Les langages logiques ont constitué un bond majeur précisément parce qu’ils permettaient des implémentations déterministes et donc la construction d’abstractions
Le langage naturel est tellement éloigné de cet objectif qu’il est même difficile d’expliquer à quel point
Si vous pensez que « les humains atteignent aussi l’abstraction par le langage », lisez ne serait-ce qu’une fois un vrai document juridique (par exemple le texte complet d’un projet de loi à la Chambre) et vous verrez
Je suis plutôt surpris que l’idée d’une interface en langage naturel ne soit pas accueillie encore plus chaleureusement
L’interface en langage naturel est un vieux rêve inachevé de l’informatique, et elle paraît aujourd’hui presque trop évidente
Les LLM ne sont peut-être pas ce qu’il y a de mieux pour coder, écrire ou faire de la recherche, mais j’aimerais vraiment que cette expérience utilisateur (UX) soit conservée
Pouvoir exprimer librement un problème par le langage, en transmettant aussi les abréviations, l’argot ou le ton exact, est vraiment remarquable et très utile
« Le langage ordinaire est complètement inadapté à exprimer les choses avec le degré d’abstraction qu’un physicien veut atteindre. Seules les mathématiques et la logique mathématique permettent un niveau de condensation équivalent à l’intention du physicien. »
Il y a une raison pour laquelle on n’utilise plus le langage naturel en mathématiques. Il est trop verbeux et extrêmement imprécis
S’il existait une bonne manière d’expliquer un contrat en langage naturel, les avocats l’auraient déjà trouvée.
Nous gaspillons une part importante du PIB à cause des divergences d’interprétation des contrats
Ce concept est étroitement lié à la « politique de l’inévitabilité » évoquée par Timothy Snyder
La « politique de l’inévitabilité » est une vision du monde selon laquelle l’avenir n’est que le prolongement du présent, les lois du progrès sont déjà connues, il n’existe pas d’alternative, et nous n’avons donc rien à faire
L’article applique cette notion au champ commercial, mais au fond il traite d’un langage qui prive les gens de leur agentivité
Lien vers l’article associé