Haïr l’IA en 2026
(eamoncaddigan.net)- Un professionnel du machine learning avec 20 ans d’expérience, qui avait placé ses espoirs dans les progrès des réseaux de neurones, choisit aujourd’hui de refuser d’utiliser l’IA, estimant que l’engouement actuel entraîne des coûts sociaux et environnementaux que son utilité ne peut pas justifier
- Les modèles de génération de texte prédisent le mot suivant avec une grande sophistication et créent l’illusion de comprendre les consignes et de converser comme des humains, mais l’engouement qui les présente comme une technologie proche d’une conscience de niveau humain persiste malgré les objections des spécialistes de la cognition et du langage
- Les grandes entreprises technologiques et les investisseurs se concentrent moins sur l’innovation propre aux réseaux de neurones que sur la construction de modèles plus grands, exigeant d’immenses volumes de données d’entraînement et d’énergie, et ignorent la contradiction qui consiste à reconnaître le changement climatique tout en adoptant une technologie qui accroît la demande en combustibles fossiles
- Même s’il est difficile d’éviter complètement l’exploitation et les atteintes à l’environnement imbriquées dans la vie moderne, l’IA reste une option facile à ne pas utiliser pour défendre les droits des humains et de l’environnement, puisqu’il suffit d’utiliser les ordinateurs comme il y a à peine trois ans
- La position anti-IA de 2026 ressemble à la position antiguerre avant l’invasion de l’Irak en 2002 ; malgré la différence que le lien de causalité des dommages est plus flou et que même collègues et amis y participent, la structure sociale qui récompense les mauvais choix se répète
De la prédiction du mot suivant à l’engouement industriel
- Il y a environ 15 ans, lorsque le machine learning par réseaux de neurones est entré dans sa deuxième renaissance, il a dépassé d’autres techniques pour classer et générer divers contenus numériques, notamment des images, des sons et du texte
- Les modèles de génération de texte, grâce à leur capacité à choisir le mot suivant, ont donné naissance à des chatbots qui semblent comprendre les consignes et dialoguer comme de vrais humains, captivant dirigeants d’entreprise, responsables politiques et professionnels de la tech
- Cette technologie est une technique sophistiquée qui produit une illusion temporaire de compréhension, mais pendant un certain temps, il était courant que même des personnes raisonnables croient que des générateurs de mots suivants se rapprochaient d’une conscience comparable à celle des humains
- Les spécialistes de la cognition et du langage ont continué d’expliquer pourquoi une telle conscience n’émerge pas, mais l’engouement a persisté
- Comme le terme sert couramment à désigner un ensemble de technologies,
artificial intelligenceest appelé IA
- De grandes entreprises technologiques, qui occupent déjà une part inconfortablement importante de l’économie sans produire de biens de première nécessité, ont lié leur destin à l’IA
- Les véritables innovations dans les réseaux de neurones eux-mêmes ont ralenti
- Les entreprises et les investisseurs se concentrent sur la construction de modèles plus grands, qui exigent d’énormes quantités de données d’entraînement et d’énergie
- En 2026, le déni explicite du changement climatique n’est plus vraiment à la mode, et la plupart des gens reconnaissent le consensus scientifique selon lequel la dépendance aux combustibles fossiles réchauffe le climat
- Pourtant, l’IA accroît directement la demande de pétrole de la société, et les critiques selon lesquelles ses seuls besoins énergétiques suffisent à la rendre impropre à l’adoption sont ignorées par les utilisateurs
- Même lorsque l’on souligne les dommages actuels et les dommages supplémentaires si cette tendance se poursuit, les inquiétudes sont écartées, tandis que des particuliers et des entreprises fortunés décident de bâtir l’avenir sur une approche technologique spécifique qu’ils possèdent
- Certains utilisateurs peuvent trouver les chatbots utiles, mais aucun usage n’atteint un niveau qui justifierait les coûts socialisés supportés par l’ensemble de la société
- Même pour un professionnel du machine learning avec 20 ans d’expérience, qui avait placé ses espoirs dans les progrès des réseaux de neurones de la dernière décennie, la trajectoire actuelle de l’IA est déjà sortie de ses rails
Une technologie dont on peut refuser l’usage, et des schémas qui se répètent
- Les gens sont peut-être devenus insensibles aux arguments moraux qui critiquent des systèmes sociaux et techniques au motif qu’ils nuisent à quelqu’un
- Le problème ne vient pas des arguments moraux eux-mêmes, mais du fait que vivre normalement dans un pays riche implique forcément de dépendre de l’exploitation d’innombrables personnes et de ressources environnementales limitées
- Même une position éthique prosociale cohérente peut difficilement éviter la réaction selon laquelle elle est compromise dès qu’elle entre en contact avec cette société
- Les dommages contenus dans la nourriture, les vêtements et les appareils électroniques sont difficiles à éviter, mais l’IA reste facile à ne pas utiliser
- C’est un choix qui permet de mettre en pratique, dans la vie quotidienne, une éthique respectueuse des droits des humains et de l’environnement
- Il suffit d’utiliser son ordinateur comme on le faisait il y a à peine trois ans
- Si les perspectives sur l’IA, à l’exception des prévisions optimistes, se réalisent, les chroniqueurs du futur se demanderont pourquoi davantage de personnes n’ont pas refusé de l’utiliser
- Les sentiments suscités par une position anti-IA ressemblent à ceux de la fin 2002, avant l’invasion américaine de l’Irak
- À l’époque, il semblait évident que les dirigeants du pays mentaient pour justifier la guerre et qu’il n’en sortirait rien de bon, sauf pour une minorité de personnes fortunées, mais les médias et une grande partie du public méprisaient les critiques
- La position anti-IA donne le même sentiment que la position antiguerre de l’époque
- La différence entre les deux périodes tient au fait qu’il est plus difficile d’attribuer les causes des dommages produits par l’IA
- Il est difficile de déterminer combien de personnes meurent lorsque la température moyenne de la planète augmente de 0,1 degré, et quelle part de cette hausse revient à tel ou tel datacenter alimenté par la combustion de gaz
- Autre différence : même des collègues proches et des amis chers se rangent du côté de ceux qui utilisent l’IA
- L’auteur a tenté, sans succès, de convaincre collègues et amis en reliant leurs convictions existantes sur le changement climatique, la fiabilité des grandes entreprises et le droit de vivre et de travailler dignement à l’arrêt de l’usage de l’IA
- On ne peut pas demander pardon aux lecteurs du futur, mais les gens d’aujourd’hui ne sont pas des méchants : ce sont des personnes ordinaires placées dans une situation qui récompense les mauvais choix et punit les bons
- Pour mieux comprendre les dommages entretenus par l’IA générative, il recommande aussi de lire To Gen or Not To Gen: The Ethical Use of Generative AI et The AI Con
2 commentaires
Chaque fois que je lis un texte avec ce genre de position ou de nuance, je me demande si ce « prédicteur du mot suivant », nommé ainsi avec dérision, est vraiment si différent d’un être humain. Qu’il s’agisse d’expérience ou d’intuitions fondées sur l’expérience, l’acte de penser au mot suivant ne me semble pas fondamentalement différent de la pensée humaine. Et de nos jours, on voit même beaucoup trop de gens incapables de trouver ce mot suivant de manière normale et rationnelle.
Avis sur Lobste.rs
Il y a une chose que mes collègues ratent souvent en ce moment. Ne pas utiliser l’IA reste relativement facile. Les appareils électroniques que nous mangeons, portons et touchons sont liés à d’innombrables torts causés aux humains et à l’environnement, et il est difficile d’éviter tout cela, mais refuser l’IA est l’un des rares choix qui permettent de mettre réellement en pratique une éthique attachée aux droits humains et environnementaux. Cette formule — utiliser son ordinateur comme il y a 3 ans — résume le mieux ce que j’essaie de faire passer sur ce site depuis tout ce temps
Ce texte dit exactement ce que je ressentais. Aujourd’hui, même si l’on critique moralement les systèmes sociaux et techniques parce qu’ils nuisent à autrui, cela ne prend presque jamais. Pour vivre normalement dans un pays riche, on dépend inévitablement de l’exploitation d’innombrables personnes et de ressources environnementales finies, si bien qu’une éthique cohérente pour l’ensemble de la société se trouve abîmée dès qu’elle entre en contact avec le réel
On dit souvent qu’il n’y a pas de consommation éthique sous le capitalisme, mais en dehors du renversement du capitalisme, il n’est pas clair ce qu’on peut faire. L’action des individus et des consommateurs semble surtout apaiser la conscience plutôt que changer le monde. Les gens ordinaires vivent dans une structure qui récompense les mauvaises décisions et punit les bonnes, c’est-à-dire dans Moloch
Ce texte contient deux erreurs. D’abord, il qualifie les LLM de simples prédicteurs du mot suivant, mais avec le post-training, il se passe bien plus de choses en interne et les résultats changent fortement. C’est similaire au malentendu selon lequel les LLM ne pourraient produire qu’un contenu statistiquement moyen. Ensuite, il semble considérer que les LLM doivent être conscients pour avoir une valeur économique, alors qu’une conscience semblable à celle des humains n’est pas nécessaire pour remplacer des humains et accomplir des tâches que seuls les humains pouvaient auparavant effectuer
Le choix de ne pas utiliser les LLM est défendable, mais je considère que les critiques formulées sans comprendre ce qu’est un LLM, ni comment fonctionnent les systèmes ou agents LLM modernes, n’ont aucune valeur
Le post-training n’ajoute rien à l’ensemble de tokens existant ; il met davantage en avant certains chemins déjà appris, en augmentant exponentiellement leur probabilité, ou réduit la probabilité de chemins indésirables. Comme dans une précédente discussion sur Lobsters, l’injectivité des Transformers n’est pas modifiée par l’apprentissage par descente de gradient ; l’apprentissage sur corpus ou l’apprentissage par renforcement (RL) ne crée ni ne supprime de chemins, il n’en ajuste que les probabilités. En un sens, on pourrait même dire que la véritable phase de pré-entraînement d’un Transformer intervient lorsqu’on entraîne le tokenizer. Par ailleurs, je n’ai pas l’impression que l’auteur soutienne réellement sa deuxième affirmation selon laquelle la conscience des LLM serait nécessaire à leur valeur économique, et je suis moi aussi d’accord pour dire que le machine learning peut, en général, être utile et rentable
Le passage disant qu’« il y a eu une mode consistant à croire qu’un générateur du mot suivant se rapprochait d’une conscience semblable à celle des humains, et que des spécialistes de la cognition et du langage ont continué d’expliquer pourquoi c’était impossible » est étrange pour deux raisons. D’abord, les optimistes de l’IA ne semblent pas réellement avancer une telle thèse sur la conscience, et l’utilité immédiate de l’IA ou sa capacité à transformer ou détruire le monde ne présupposent pas non plus la conscience
Ensuite, cette affirmation est factuellement fausse. Il existe un commentaire récent, détaillé et digne d’être lu, dans lequel les spécialistes en sciences cognitives Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett, Robert Long abordent précisément cette question à partir du récent article d’Anthropic sur le « global workspace ». Ils ne concluent ni que l’IA est consciente, ni qu’elle ne l’est assurément pas ; ils analysent en quoi les propriétés émergentes des LLM ressemblent ou diffèrent de la conscience animale, et proposent des expériences supplémentaires
Puisque les chercheurs en sciences cognitives restent très incertains quant à la conscience phénoménale des LLM, affirmer qu’ils sont conscients revient à aller plus vite que le monde académique. Mais il est tout aussi abusif d’affirmer que les experts ont déjà établi pourquoi un générateur du mot suivant ne pourrait pas s’approcher d’une conscience semblable à celle des humains. Ils hésitent déjà à dire avec assurance qu’il n’y a pas de conscience
Indépendamment de la question de savoir si l’IA actuelle va bientôt acquérir une forme de sensibilité, j’ai toujours pensé que pour améliorer sa productivité et sa satisfaction, il fallait apprendre les outils, techniques et méthodes de travail disponibles. Il est donc rationnel d’apprendre à utiliser efficacement les prédicteurs de mots ou les LLM
Mais sur le plan éthique, je partage la préoccupation du texte, et ma vie professionnelle se trouve elle aussi à un carrefour. Je comprends de plus en plus pourquoi des personnes de la tech deviennent agriculteurs, se reconvertissent dans des métiers manuels comme la plomberie ou l’électricité, vivent de la terre et quittent le monde en ligne. Dans mon cas, le burn-out et la fatigue numérique semblent renforcer mon envie de me retirer des réseaux sociaux, de vivre avec ma famille en élevant des lamas ou des moutons, et d’attendre que la poussière retombe
Je crois que les spécialistes de la cognition et du langage ont effectivement expliqué pourquoi les générateurs du mot suivant ne peuvent pas s’approcher d’une conscience semblable à celle des humains. J’aimerais connaître les sources académiques les plus convaincantes à l’appui de cette idée