- Ces temps-ci, chaque fois que j’essaie d’écrire ou de créer quelque chose, je prends conscience que cela est dénué de sens à l’ère de l’IA
- Avant même que je ne produise quoi que ce soit, l’IA l’a déjà fait, et mieux, ce qui me plonge dans un état où je perds la motivation même de créer
- Les idées qui me viennent donnent l’impression d’être l’ombre d’une meilleure ébauche déjà présente à l’intérieur d’un LLM
- Autrefois, quand une idée me venait, je la travaillais lentement par écrit, dans un processus qui me permettait de clarifier et d’ordonner ma pensée
- En écrivant, je repérais moi-même les failles de mon raisonnement et je les corrigeais, et cette expérience menait en elle-même à un renforcement de la pensée
- L’écriture n’était pas un simple moyen d’expression, mais un outil pour former mes arguments et construire mes opinions
- La pensée s’accumule comme des intérêts composés, si bien que plus on pense souvent, meilleures deviennent nos idées
- Aujourd’hui, dès qu’une idée surgit, il suffit de taper quelques mots dans un prompt pour que le LLM fournisse une pensée déjà aboutie
- À cause de cela, j’ai le sentiment que mon propre système de pensée intérieure se ratatine peu à peu
- À mesure que mon intuition, ma finesse et ma curiosité intérieure s’estompent, il devient de plus en plus difficile de trouver la motivation de partager mes pensées par moi-même
- Au début, je voyais l’IA comme un outil de productivité capable d’étendre mes facultés de réflexion, une sorte de vélo intellectuel
- Mais en pratique, ma manière de l’utiliser ressemblait davantage à une expérience passive, comme faire défiler Netflix ou consommer la télévision
- En d’autres termes, cela n’aide pas réellement à développer la capacité de penser
- Lire un résultat produit par l’IA est un processus où le parcours de réflexion intellectuelle est escamoté
- Explorer soi-même une question, passer par les essais, les erreurs et le débat intérieur est au cœur de la croissance intellectuelle
- Le savoir que donne l’IA est rapide et pratique, mais il manque à ce processus l’entraînement de la réflexion intérieure
- Ironiquement, j’ai aujourd’hui plus d’informations qu’avant, et pourtant j’ai souvent la sensation de devenir plus émoussé et plus bête
- L’IA fournit des réponses, mais ce sont des connaissances qui ne sont pas les miennes et qui ne se transforment pas en compréhension
- Ce que l’on obtient par l’intermédiaire d’un LLM, c’est de la connaissance, mais cela diffère fondamentalement de la compréhension acquise par soi-même
- Penser avec l’IA donne une impression de capacité surhumaine, mais en réalité cela ressemble davantage à un « effet sédatif » qui paralyse l’instinct d’exploration intérieure
- Malgré tout, le simple fait d’écrire soi-même de cette manière et de tenter de transmettre des pensées à l’état brut conserve encore du sens
8 commentaires
Je suis d’accord. Plus j’utilise les LLM, plus j’ai l’impression de perdre peu à peu ma capacité à réfléchir en profondeur. Du coup, ces derniers temps, quand je pose des questions sur des sujets que je ne connais pas, j’essaie d’être aussi précis que possible, d’isoler uniquement les éléments que j’ignore, puis de les interroger et de compléter au fur et à mesure.
Même avant le boom de l’IA, d’innombrables choses existaient déjà, qu’il s’agisse d’images ou de textes, et créer quelque chose de nouveau était extrêmement difficile.
On voit récemment beaucoup de textes expliquant qu’ils ont été bouleversés par l’IA, mais pour la plupart, ce sont des choses qui existaient déjà et qu’on pouvait trouver en cherchant.
L’IA ne fait que les emballer sous une forme conversationnelle.
Dès l’apparition de l’IA, j’ai pensé que c’était comme le mur illusoire de L’Oiseau qui boit les larmes : quelque chose qui fait remonter à la surface des pensées qu’on connaît déjà, mais qu’on n’arrive pas à évoquer et qui restent enfouies. Si le fait qu’une idée existe déjà avant même que je la formule la rend dénuée de sens, alors en quoi lire un livre est-il différent ? Et écrire sans lire, alors ? La seule différence, c’est l’effort et le temps qu’on y consacre ; la plupart des pensées n’existent-elles pas déjà ? Parmi d’innombrables idées, il est rare qu’une chose soit vraiment « nouvelle » dès l’instant où elle surgit ; au fond, il faut créer sa différence par la répétition, un peu de la même manière. J’ai aussi l’impression que plus quelqu’un a investi dans la création pure, ou plus il en a fait son métier, plus il tend à ressentir du scepticisme et du rejet envers la création avec l’IA. Mais au final, comme l’auteur l’a dit, si la création avec l’IA en vient à paraître « surhumaine » tant sa créativité dépasse celle de l’humain, la rejeter ne serait-il pas une forme de résistance, peut-être vaine, contre un mouvement impossible à arrêter ? Si l’on dit que c’est à l’humain de penser de manière critique aux résultats produits par l’IA, puis de transformer le savoir en compréhension par une réflexion intellectuelle, alors je suis d’accord. Mais si l’on dit qu’il faut se méfier parce qu’utiliser l’IA paralyse la pensée intérieure, j’ai plutôt envie de me dire : c’est tellement bien que je vais le garder pour moi tout seul. À moins, bien sûr, qu’il ne s’agisse dès le départ de quelqu’un à qui manquaient la pensée critique et la métacognition.
Dans un registre un peu similaire, je rends mon digital garden public. Aujourd’hui, les fragments de connaissance sont faciles à trouver, mais ils ne s’imprègnent plus vraiment en moi. Je découvre souvent des articles étonnants sur GeekNews. Qui s’occupe de la curation ici ?
https://notes.junghanacs.com/
C’est exactement mon cas en ce moment…
Puisqu’on développe pour être utile au business...
Maintenant que le LLM prend en charge les détails de l’implémentation, ne suffit-il pas de se concentrer sur le rôle que joue mon application dans l’activité globale de l’entreprise, ainsi que sur la place et la signification de notre business sur l’ensemble du marché ?
Et je doute aussi que le LLM puisse prendre en charge tous les détails de l’implémentation.
Cela ressemble à un texte du genre : depuis l’introduction des fonctions d’Excel, je sens que ma capacité à faire des additions et des soustractions a régressé... Je me demande s’il n’y avait pas déjà ce genre de discours à l’époque où Excel est arrivé pour la première fois dans les bureaux, dans les années 1990~2000.
Réactions sur Hacker News
J’ai le pressentiment que la société va se fragmenter fortement dans les prochains mois et les prochaines années
Le processus même de production d’une expression est ce que Brandom appelait une articulation conceptuelle et rationnelle
Ceux qui pensent que les concepts existent déjà et qu’il suffit simplement de les encoder ou décoder par combinaison de tokens, ou qui ne reconnaissent même pas le processus d’inférence ou de conceptualisation lui-même, sont voués à l’automatisation
Il ne s’agit pas d’automatisation des métiers, mais du fait d’abandonner sa spontanéité et de vivre de plus en plus comme un robot
Un robot, au sens de « personne qui travaille ou agit d’une manière entièrement mécanique »
Trop de gens sont prisonniers de l’idéologie productiviste
Créer ne consiste pas essentiellement à produire du contenu ; le but de l’acte créatif, c’est la communication et la transformation mutuelle
La génération de productions numériques peut aussi servir à cela, mais beaucoup confondent le simple fait de produire avec la finalité elle-même, et c’est une impasse sombre et triste
Tout ce que nous produisons repose sur ce que nous avons vécu ou observé
Si l’on essaie d’imaginer un objet entièrement nouveau, sans aucune base dans le réel, c’est impossible
Même quand les auteurs ont inventé les elfes, ils n’ont fait au fond qu’ajouter des oreilles pointues à des humains
Au vu de diverses observations, j’ai l’impression que l’effet des LLM sur la qualité de la pensée humaine est globalement négatif
Je suis vraiment soulagé que l’école de mon enfant interdise strictement les LLM
On ne peut rendre que des devoirs réalisés en classe, sous les yeux de l’enseignant, et la part des devoirs sur papier a fortement augmenté
Mes deux parents étaient professeurs en sciences de l’éducation, donc comparer différentes méthodes d’apprentissage était un sujet courant à la maison
L’apprentissage actif, où l’on produit et agit soi-même, est bien plus efficace que les méthodes passives centrées sur la réception
Les LLM relèvent plutôt de la seconde catégorie, et c’est ce qui m’inquiète
Quand on apprend une langue étrangère, on ne progresse pas simplement en mémorisant du vocabulaire et de la grammaire ; j’ai l’impression qu’en conversation improvisée, quand on compose des phrases sur le moment, on mobilise des zones du cerveau ou des capacités complètement différentes
Le fait que les LLM soient des outils aux effets négatifs n’a rien de nouveau
À mon époque scolaire, on avait besoin de calculatrices, mais les modèles coûteux capables de résoudre des expressions symboliques étaient interdits
Obtenir immédiatement la réponse vide de sa valeur essentielle l’exercice lui-même et freine au contraire la progression
Je me demande ce que signifie concrètement une « interdiction hardcore »
Dans mon école, il y avait un code d’honneur d’une sévérité absolue : au premier mensonge ou à la première tricherie détectés, c’était l’exclusion immédiate
On signait soi-même ce code en haut de chaque copie d’examen
Mes amis qui fréquentaient des écoles sans ce code se plaignaient que c’était une tradition trop conservatrice
Mais aujourd’hui, je ne vois pas de meilleure manière d’imposer une « interdiction de l’IA »
À mon époque aussi, Internet commençait à se diffuser, mais pour faire des recherches sur un sujet, son usage était interdit et seule la bibliothèque physique était autorisée
Même dans les universités scientifiques et techniques, en première année, on nous faisait tracer tous les dessins techniques à la main, au crayon et à la règle
Dans la pratique et selon les standards du secteur, on utilisait pourtant l’infographie sur ordinateur, mais on imposait volontairement le travail manuel
Personnellement, je doute que ce type d’interdiction extrême soit réellement utile
Cela n’empêche pas non plus l’évolution de l’époque
Je pense qu’il vaut mieux enseigner comment utiliser la technologie
On peut réellement apprendre énormément avec des choses comme les LLM ou Wikipedia
L’essentiel, c’est la curiosité et l’envie d’apprendre
Sans cela, quel que soit l’outil utilisé, on ne progresse pas
Les LLM ne peuvent pas remplacer l’expérience humaine individuelle, ni l’écriture issue de cette expérience
Répéter des faits ou reproduire une opinion moyenne ne peut pas se substituer à la pensée humaine singulière
L’idée même d’entrer en compétition avec l’IA sur la qualité de mes pensées est une vision trop triste
Le roman que tu écris, ton histoire, les compétences que tu as acquises, tout cela avait déjà des précédents, et quelqu’un le fait sûrement mieux
Si mon objectif dans la vie est d’être « numéro un mondial », mes chances de réussir sont de toute façon minces dès le départ
Et même si j’y arrivais, cela n’aurait pas beaucoup de sens
Réfléchis à qui est le meilleur programmeur Java du monde, et si ce statut suprême lui vaut vraiment un immense amour et un grand prestige
L’IA attise de plusieurs façons l’angoisse existentielle que je ressens, et l’une d’elles est qu’elle me pousse sans cesse vers une pensée moyenne
C’est inévitable vu la structure technique, et si cela fait peur, c’est parce que la pensée créative se tient toujours en bordure
Le moment où l’on bute sur un problème est justement l’étape qui précède l’accès à quelque chose de nouveau, et la tentation d’utiliser l’IA vole cette fraîcheur pour nous faire copier ce qui a déjà été fait
C’est une perspective intéressante, cette idée que « l’IA conduit à une pensée moyenne »
Mais l’initiative reste toujours entre tes mains
Il ne faut pas voir l’IA comme une entité divine, mais comme un assistant que l’on peut interrompre, diriger, corriger et solliciter à nouveau à tout moment
Il suffit de réfléchir au « quoi » et de ne lui déléguer qu’une partie du « comment »
Au contraire, c’est la première époque où je peux tester immédiatement les idées de code que j’ai en tête
Autrefois, des idées que je n’aurais jamais pu mettre en œuvre restent désormais concrétisables en demandant à Claude d’en faire un POC
En même temps, l’angoisse est bien réelle, mais j’ai aussi le sentiment que tout cela se joue à l’intersection du politique, de la technologie et de la nature humaine
Si l’on ne confie ces outils qu’aux « forts », la société risque de devenir encore plus défavorable ; à l’inverse, on peut aussi mettre ces outils puissants au service des citoyens pour trouver de nouvelles façons de s’organiser et de collaborer
J’utilise des LLM depuis des années, mais j’ai l’impression que ce ne sont que de bons outils ; mon ressenti est si différent de celui de l’article que cela me paraît étrange
Quand on génère des images de BD avec un LLM, on commence par se dire « waouh », puis très vite on voit la répétition du même style
Pour la poésie aussi, une ou deux tentatives peuvent être impressionnantes, mais à force de recommencer, tout devient fade, sans profondeur ni saveur
La musique, pareil : que ce soit le rythme ou la mélodie, la répétitivité finit par apparaître
Même pour créer un podcast, c’est étonnant au début, mais la conduite de l’émission elle-même devient répétitive, et les animateurs manquent de profondeur ou de compréhension
Si on interrompt régulièrement avec des questions, cela s’améliore un peu, donc c’est un peu ambigu
Avec le temps, la génération de texte dégage elle aussi une artificialité très « métallique »
La fonction de recherche est correcte, mais il suffit de la guider légèrement pour que la réponse change complètement ; on ne peut donc pas lui faire confiance aveuglément et il faut toujours recouper
Il faut même volontairement orienter le LLM vers un point de vue opposé afin d’obtenir des avis contradictoires et apprendre de cette confrontation
La génération de code est bonne pour les choses simples, mais sur les cas complexes elle produit pas mal de bugs subtils, donc il faut comprendre soi-même chaque ligne
Au contraire, ce processus de « chasse aux bugs » est amusant, et il y a quelque chose de plaisant à voir des erreurs semblables à celles des humains
Donc cela produit exactement l’effet inverse de ce que dit l’auteur du texte
Je peux tester rapidement des idées et, grâce à un retour moins chargé de biais, l’écriture m’est au contraire devenue plus agréable
Chaque fois que je vois des critiques dépréciatives envers les LLM, dans la pratique j’en retire pourtant à chaque fois une aide bien plus concrète
Je le ressens particulièrement sur le code non trivial et avec les modèles récents
Le fait que l’IA inhibe la pensée, c’est-à-dire traite de la perte de motivation à penser, est un vrai problème
Il y a d’autres facteurs, bien sûr, mais la nouveauté propre à l’IA, c’est la disparition de la motivation qui auparavant exigeait de l’effort
Avant, si l’on passait sa journée entière sur le Net, on n’écrivait pas d’article de blog et on ne gagnait pas non plus de réputation
Aujourd’hui, l’IA peut écrire à ta place des blogs, des e-mails et même des livres
Si l’on n’a pas de motivation intrinsèque à penser par soi-même, il devient bien plus facile de s’en sortir à peu près grâce à l’IA
En même temps, je n’arrive pas non plus à me défaire de l’idée que l’auteur est peut-être déprimé, et pas vraiment à cause de l’IA
C’est à chacun de donner un sens à sa vie
Si l’IA te fait sentir que ta vie n’a pas de sens, tu peux aussi choisir de ne pas l’utiliser
Il reste encore beaucoup de choses significatives à faire, et si ton objectif final n’est pas « écrire plus vite que l’IA », tu peux te concentrer ailleurs
Si tu as l’impression de ne plus pouvoir écrire quelque chose de nouveau et d’intéressant, je recommanderais plutôt le travail du bois ou l’artisanat manuel
Pour moi, la barrière à l’expérimentation et à l’essai de nouvelles idées a fortement baissé
Autrefois, j’abandonnais beaucoup de pistes à cause du temps ou du coût, alors qu’aujourd’hui je peux en explorer librement un grand nombre
Il faut se rappeler que l’être humain est un être social
Plus encore que le remplacement de l’outil lui-même, ce qui est vraiment déprimant, c’est l’existence de groupes enthousiastes à l’idée d’utiliser cet outil pour remplacer les humains
Nous entrons dans une époque où faire passer l’humain d’abord devient progressivement une « erreur logique »
La tendance finira sans doute un jour par s’inverser, mais pour l’instant, c’est une période très difficile
Voir ce débat passionné circuler activement depuis des points de vue variés est malgré tout encourageant
Quand j’utilise l’IA pour des assemblages physiques ou des projets pratiques, mon rôle me paraît beaucoup plus actif
Par exemple, en me servant de l’IA comme assistant sur des projets concrets en électronique ou en multimédia, domaines que je connais mal, je peux naturellement me lancer dans des terrains que je n’aurais jamais touchés auparavant
L’essentiel, c’est que si l’on a le désir d’élargir au maximum le champ des possibles, l’IA peut réduire les obstacles et permettre de progresser en prenant du plaisir
On n’est pas seulement assis devant un ordinateur : on ressent aussi la satisfaction d’avoir réellement accompli quelque chose avec son propre corps
Cela dit, tout le monde ne recherche pas cela, et les goûts sont variés
En revanche, quand je deviens un « second rôle qui aide les autres », cela m’inquiète un peu
Avant, si quelqu’un voulait atteindre un objectif, il fallait souvent que je l’aide moi-même à développer quelque chose ; aujourd’hui, cette personne peut aller déjà assez loin avec un LLM
Ce changement est positif
Mais du point de vue de l’emploi et du travail, il y a quand même une légère anxiété
Pour ma part, j’en conclus que je veux faire un travail plus proche d’une « finalité » que d’un simple « moyen »
À propos des textes disant « ce que je crée n’est pas compétitif face à l’IA », le vrai problème n’était-il pas dès le départ de ne pas éprouver de plaisir dans le processus créatif lui-même ?
Même si un mixeur pétrit mieux que moi, le plaisir de pétrir à la main reste à moi
Une boulangerie ou un artisan le feront mieux que moi, mais cela n’a rien à voir avec le plaisir de fabriquer moi-même
C’est pareil pour la poterie ou la boulangerie
Si l’on ne ressentait du plaisir que dans l’idée que « moi seul peux le faire », alors l’approche était déjà erronée bien avant l’arrivée de l’IA
En l’interprétant plus généreusement, il insiste sans doute sur la satisfaction de « contribuer au monde avec quelque chose qui n’existait pas auparavant »
L’accent n’est pas mis sur une supériorité sur les autres, mais sur l’idée de « contribution nouvelle »
Chacun prend conscience à un moment donné de ce genre de vérité : le processus est l’essentiel, et le résultat n’est pas ce qui compte le plus
Si l’on veut l’expliquer selon la logique de certains auteurs, on peut appliquer la métaphore de « l’archer stoïcien »
Si l’on se concentre sur l’action, c’est-à-dire le processus, plutôt que sur l’objectif ou le résultat, on se libère de la déception
Par exemple, à une soirée, au lieu de se fixer comme objectif de se faire des amis, si l’on se donne pour but d’être sincère, les chances de réussite comme la satisfaction augmentent
Il est important de définir des objectifs centrés sur le processus
Le texte parle surtout de la baisse de valeur des compétences humaines à l’ère post-AGI
Ce qui fait peur, c’est que notre travail physique et mental est aussi notre moyen de gagner de l’argent
Avec des GPU et du capital, on peut déployer mille agents intelligents à la place d’êtres humains
À l’ère de l’AGI, la valeur du travail de col blanc converge vers zéro
Bien sûr, j’ai de grands espoirs pour les progrès scientifiques liés à l’AGI, mais j’espère quand même y garder une place
Si, sur le marché, les boulangers et les potiers se font supplanter par des machines au point de devoir finir à « vendre mon code Python sur Etsy », alors là oui, je m’inquiète
Je recommande de consulter le billet de blog en question
Comme certains le disent, je ne pense pas forcément que la « motivation de performance » soit mauvaise, mais l’IA révèle, comme la pandémie, de subtiles différences à l’intérieur de l’humain
À un point d’inflexion, différentes façons de penser coexistaient autrefois, mais nous approchons désormais d’une époque où l’une d’elles « ne fonctionne plus »
Cette instabilité elle-même constitue un changement important
Dans la valeur d’une « œuvre », il existait aussi une convention selon laquelle l’importance de l’effort ou du soin investi comptait beaucoup
La trace du temps et de la pensée consacrés faisait partie de la dignité de l’œuvre
Les LLM court-circuitent cette manière instinctive d’évaluer, ce qui déstabilise les critères de jugement des œuvres
On risque de croire à tort qu’un résultat produit par l’IA a plus de valeur qu’en réalité, tandis que l’effort humain est sous-évalué, ce qui fait perdre la motivation
Je trouve aussi étrange que se soit répandue l’idée selon laquelle les créateurs et les intellectuels ne seraient mus que par l’esprit de compétition
En réalité, bien souvent, l’anxiété mène à ce type de malentendu
La plupart des débats sur l’intelligence artificielle et l’art, en dehors des questions de propriété intellectuelle, sont pleins de malentendus sur le sens de la création humaine et sur la nature même de l’art
Si une voix singulière construite au cours d’une vie entière se retrouve soudain dévalorisée à cause de l’IA, c’est toute la perception de la valeur du travail et de sa récompense qui vacille
À une époque, moi aussi je ressentais les choses de manière similaire vis-à-vis de l’IA, mais aujourd’hui j’ai complètement changé d’avis
L’essentiel, c’est de ne pas voir l’IA comme une baguette magique qui fait tout à ta place, mais comme un outil
Dès qu’on lui confie tout, on perd la maîtrise de sa propre vie
Si l’on garde soi-même le sens de la responsabilité sur la direction importante et la vision d’ensemble, et qu’on ne délègue à l’IA que des tâches bien définies, on conserve le contrôle et son usage devient bien plus amusant
L’analogie avec la musculation est pertinente
On ne s’entraîne pas seulement pour pouvoir soulever réellement des choses lourdes, mais aussi pour le sentiment d’accomplissement, la transformation physique, l’amélioration de la santé — bref, pour la satisfaction tirée du processus lui-même
Si l’on ne voit cela que sous l’angle de l’utilité brute, cela perd tout son sens
Au contraire, si on l’accepte comme une routine quotidienne accompagnée d’externalités positives, le stress diminue
Comme l’a dit kelseyfrog, l’essentiel n’est pas l’objectif, mais l’« action »
L’exercice physique, bien sûr, c’est aussi battre des records ou gagner en masse musculaire, mais fondamentalement c’est une expérience de croissance
Le fait même de faire de l’exercice s’enracine dans l’inconscient, au point qu’on y prend plaisir sans trop se poser de questions
Il y a quelque chose d’amusant à voir les résultats apparaître de manière inattendue
Cette analogie sportive peut aussi s’appliquer à l’écriture et à d’autres activités qui demandent des efforts
Si l’on est centré sur le résultat ou sur la comparaison avec les autres, le sport, l’écriture et bien d’autres choses perdent leur sens
Tout ce que nous faisons est un « moyen en vue d’une fin »
Étrangement, nous sommes tombés d’accord tous les deux sur les phénomènes propres à une époque d’abondance, ainsi que sur leurs effets du point de vue de l’accomplissement personnel et de l’autonomie
Moi, depuis l’enfance, je fais du sport parce que je voulais ressembler à un personnage d’anime