- La scène du banc dans Good Will Hunting montre, à travers la différence entre les connaissances apprises dans les livres et l’expérience réellement vécue, ce qui échappe au slop IA, aux conseils sans fin et au bruit en ligne
- L’idée centrale repose sur le contraste suivant : l’IA a lu Internet, mais elle ne sait ni lire une situation ni vivre une vie ; elle a des connaissances, mais ni émotions ni expérience
- Le jeu de Robin Williams illustre que, même avec le même script, personne ne peut produire exactement la même interprétation ; l’art ne consiste pas à agencer des informations, mais plutôt à synthétiser une expérience de vie en sens
- En ligne, beaucoup de contenus ressemblent à des scripts sans interprétation, tandis que le marché met l’accent sur l’usage d’outils pour produire davantage de contenu plutôt que sur la création difficile
- Ce dont les humains ont besoin comme socle, ce n’est pas le large language model de l’IA, mais les little life moments ; c’est en injectant son expérience et son regard dans son travail qu’on crée une valeur difficile à remplacer
Ce que la scène de Good Will Hunting montre sur la différence entre savoir et expérience
- Le point de départ est la scène de Good Will Hunting où Sean, joué par Robin Williams, parle à Will sur un banc du Boston Public Garden
- Sean pousse Will dans ses retranchements en lui disant qu’il peut parler d’art, de Michel-Ange, de guerre, d’amour et de perte à partir de livres et de citations, mais qu’il ne les a jamais réellement vécus
- Il n’a jamais senti l’odeur de la chapelle Sixtine
- Il n’a jamais ressenti le vrai bonheur aux côtés de la personne qu’il aime
- Il n’a jamais vu le dernier souffle d’un ami sur un champ de bataille
- Il n’a jamais passé deux mois à dormir assis dans un hôpital en tenant la main d’un être aimé
- De la même façon, lire Oliver Twist ne signifie pas comprendre la vie d’un orphelin ; le savoir tiré des livres ne peut pas embrasser la réalité de la vie d’une personne
- Le point essentiel est qu’il existe un écart entre expertise et sagesse, théorie et expérience, savoir et vécu
L’IA a lu Internet, mais elle n’a pas vécu de vie
- Will est présenté comme une sorte de ChatGPT humain par l’ampleur de ce qu’il sait des livres et des théories
- Sean, lui, possède des expériences que Will n’a pas
- Il a connu directement la guerre, l’amour, la maladie, la perte, l’espoir, les rêves, l’échec et la réussite
- Will n’est jamais sorti de Boston et a peur de se rapprocher de quelqu’un au point de pouvoir être blessé
- L’IA a lu Internet, mais elle ne sait pas lire l’atmosphère d’une pièce, et elle n’a jamais vécu de vie
- Elle peut parler de quelque chose qu’elle “connaît”, mais elle ne le ressent pas et ne l’a pas vécu ; n’étant pas vivante, elle ne peut pas avoir d’expérience vécue
- Beaucoup de voix en ligne vendent les “secrets” de la réussite ou des outils “magiques”, en donnant l’impression que l’expérience réellement vécue par chacun compte moins
Le savoir seul suffit rarement à produire quelque chose de significatif
- “Lire sur la guerre” et “être dans la guerre” sont deux choses différentes
- “Lire sur l’amour” et “tomber amoureux” sont aussi des expériences fondamentalement différentes
- Lire Oliver Twist n’est pas la même chose que vivre comme un orphelin
- Internet et les conseils en ligne créent une pression : le savoir est infini, d’autres en savent davantage, les logiciels peuvent donner les réponses, donc il faudrait mettre de côté son expérience personnelle et sa confiance en soi
- Pourtant, la vie de chacun n’est pas un élément qui disparaît face au savoir infini ; c’est au contraire le socle de ce qui fait la différence
Le même script ne donne pas la même interprétation
- Le jeu de Robin Williams sert d’exemple : même avec le même script, un autre acteur ne pourrait pas faire exactement la même chose
- Le script contient des mots, mais Williams leur donne une vitalité
- Les acteurs et les artistes ne se contentent pas de disposer correctement des informations ; ils choisissent comment incarner et transmettre physiquement une émotion
- En contraste, la découverte scientifique est présentée comme un domaine où, avec assez de temps et de ressources, un autre scientifique peut atteindre la même vérité
- L’art fonctionne autrement
- Deux artistes ne peuvent pas produire indépendamment un résultat totalement identique
- L’art ne consiste pas à trouver une vérité extérieure, mais à la synthétiser intérieurement en sens
- Parce qu’aucune personne n’a vécu une vie rigoureusement identique à celle d’une autre, jusqu’au moindre battement
Pourquoi il faut mettre sa propre vie dans son travail
- Une grande partie de ce qu’on voit en ligne ressemble à un script dont le créateur aurait oublié l’interprétation
- Il y a des mots, mais pas d’élan vital
- Le marché propose alors des outils pour produire encore plus de ce type de contenu, en y ajoutant le message que l’humain ne peut pas faire mieux
- Dans un mouvement qui veut tout réduire à la science, ce qu’il faut faire, c’est élever cela au rang d’art
- Un jeu de mots apparaît autour du fait que l’IA et les humains auraient tous deux un LLM
- L’IA a un large language model
- Les humains ont des little life moments
- Le problème est que les gens n’exploitent pas leurs petits moments de vie avec assez de constance et d’assurance
- Qu’il s’agisse d’un débutant dans le domaine, d’un expert avec 40 ans de carrière, d’une voix inconnue ou d’un conteur largement reconnu, l’important est de puiser dans sa propre vie et d’utiliser son propre “LLM”
- Beaucoup de personnes ont une expertise et des compétences similaires, et travaillent sur des sujets voisins, mais c’est leur manière de voir le monde qui les distingue
- Le public ne peut pas apprendre suffisamment avec ce qu’il peut déjà lire dans des livres, des articles, des vidéos ou des résumés générés par l’IA
- Quand on révèle son expérience et son point de vue, le travail devient quelque chose de vivant
1 commentaires
Commentaires sur Hacker News
C’est un monologue bien écrit et très bien interprété, mais je pense que l’argument échoue largement
Aucun de Damon, Affleck, Williams, Van Sant, Reiner ou Goldman ne semble avoir personnellement connu le front, la mort d’un ami dans ses bras, ni la perte d’un conjoint emporté par un cancer
Et pourtant, grâce à leur talent de narration, ils ont écrit et livré des répliques fondées sur les histoires d’autres personnes, au point d’en faire, près de 30 ans plus tard, une scène que l’on regarde encore avec tendresse et qui stimule notre intuition
Donc il est clair que le fait d’« y avoir été » a un sens profond, mais on ne voit pas très bien où se situerait une limite nette à ce qu’on peut exprimer efficacement, et à l’influence qu’on peut avoir sur autrui, sans l’avoir vécu soi-même
À force de regarder trop de films, j’ai l’impression qu’on finit par se faire une idée étrange de ce qu’est la réalité, de ce qui est possible et de ce qui est plausible
Je sais ce que c’est que d’avoir le cerveau en feu au chevet de sa mère, à espérer un miracle tout en souhaitant que la souffrance prenne fin
J’ai changé la couche de ma fille des milliers de fois, et la quantité de caca n’a jamais eu la moindre importance. S’il fallait recommencer, je le ferais aussitôt. Mais ça, ça ne fait pas un film
Ce que ces choses donnent aux humains et pas aux machines, c’est l’empathie. J’ai acquis un point de vue qu’on ne peut pas obtenir en lisant des livres, et j’ai compris que la vie n’est pas éternelle, qu’il faut en faire une source de joie et ne pas la gaspiller
Les enfants sont un grand réconfort face à la perte et, dans mon cas, la mort me fait moins peur, parce qu’elle me paraît moins importante que d’échouer, d’une manière ou d’une autre, envers mon enfant
Quand je vois un homme être gentil et aimant avec un enfant, j’en ai le cœur rempli. Même s’il n’est pas le meilleur des êtres humains par ailleurs, je considère qu’il a réussi la chose la plus décisive
On peut transmettre ce genre de choses par les mots et inspirer les autres, mais il est difficile de transmettre réellement l’émotion, et les gens sont aussi fortement tentés de l’ignorer
Je n’envie pas ceux qui, même immensément riches, sont toujours trop occupés pour s’occuper de leurs enfants. À mes yeux, ils gaspillent quelque chose qui vaut plus que des milliers de milliards de dollars
Une partie de son jeu était-elle inventée ? Évidemment. Est-ce qu’il extrapolait beaucoup ? Certainement. On ne peut pas savoir ce qu’est un champ de bataille avant d’y être allé
Cette étrange normalité qui se brise de façon inconfortable seulement après avoir quitté les lieux, cette impression que le reste du monde a perdu ses couleurs et son réalisme, cela ne s’explique pas avec des mots. On ne sait pas non plus ce que signifie perdre l’amour de sa vie avant que cela arrive vraiment
Donc une partie de ce monologue sonne creux, mais pas tout. Et c’est l’essence même de l’industrie du divertissement : travailler avec ce qu’on a, sans avoir besoin d’être parfait
En tant que critique reformulée du fait de traiter les LLM comme des personnes et de faire passer leurs productions pour profondes, ou du danger que les LLM agissent comme si elles l’étaient afin de rassurer les gens, l’idée passe
Le texte revient à dire qu’un bon petit-déjeuner maison a de l’importance. Robin Williams est comme un paquet de pancakes du commerce, tandis que ChatGPT est plus proche de Soylent Green, dans la mesure où il broie et reconstitue l’humanité
Il existe au contraire des éléments qui vont dans l’autre sens. L’IA ne parvient pas à écrire des scénarios de films qui résonnent ainsi chez les gens, ni à faire ce que font les humoristes de stand-up
La question de savoir si cet écart peut se refermer, et quand, reste ouverte. En principe, je pense que c’est possible, mais cela ne me semble pas près d’arriver
Cela dit, le texte reste parfois un peu flou. Les articles et les livres que nous lisons ne sont, eux aussi, au fond, que des mots sur du papier, et les LLM utilisent un médium similaire ; l’auteur semble donc, dans la seconde partie, avoir voulu déplacer son argument vers la performance incarnée
Malgré tout, je comprends ce que l’auteur veut dire : l’expérience vécue cristallise et affine ce qui compte, ce qui permet d’avoir une véritable opinion de première main, et non un point de vue de seconde main emprunté à d’autres
Ces expériences de première main sont souvent ce qui a le plus de valeur pour les autres, mais elles deviennent plus difficiles à trouver lorsqu’elles sont noyées dans une avalanche de textes qui ne font qu’imiter la forme, ou de contenus générés de mauvaise qualité
Je suis d’accord
Ce monologue de Robin Williams met exactement le doigt sur ce qui nous met si mal à l’aise avec les LLM
Les LLM parlent avec aisance et assurance d’expériences qu’elles ne peuvent pas avoir. Elles ne peuvent pas goûter une fraise, ni faire aucune des choses énumérées par Robin Williams
Parmi les gens qui construisent ces machines, certains croient littéralement qu’elles nous remplaceront, qu’elles deviendront plus puissantes que nous, et donc que rien de significatif ne disparaîtra
Ils devraient regarder cet extrait. Mais ils ne le comprendraient probablement pas, même en le voyant
Je sais que ce sont des expressions idiomatiques, mais cela me rappelle que cette chose ne fait rien, n’apprend rien et ne peut pas essayer quelque chose pour le découvrir
Et pourtant, elle utilise des schémas de langage provenant d’humains qui peuvent réellement faire ces choses, et les ont faites
L’essentiel est de ne pas anthropomorphiser les LLM en « agents parlants », mais de les voir comme des moteurs de recherche de nouvelle génération. L’interface d’entrée-sortie en langage naturel n’est qu’un effet secondaire
Je me demande donc ce qu’est pour vous une véritable expérience, ou si cela compte lorsque nous ne sommes pas capables de faire la différence
Je ne me souviens pas de la manière dont j’avais reçu ce discours quand je l’ai vu dans le film il y a des décennies. En le relisant aujourd’hui, je le trouve terriblement prétentieux et moralisateur.
C’est du genre : « J’ai vécu des expériences que tu n’as pas vécues, donc je suis plus sage et je comprends mieux. » D’une certaine façon, c’est vrai, mais d’une autre, c’est aussi une voie vers l’excès de confiance et donc vers de plus grosses erreurs.
Maintenant que j’ai la cinquantaine bien entamée, j’ai appris et vécu bien plus de choses qu’au début de ma vingtaine, mais ce que j’ai surtout compris, c’est à quel point j’en sais peu.
À moins d’avoir le sentiment de connaître quelque chose de vraiment profondément et intimement, il m’est difficile d’avoir des opinions aussi tranchées que le personnage de Williams, et ce périmètre s’est beaucoup rétréci.
C’est parce que je nous ai vus, moi et d’autres, penser à répétition que nous comprenions suffisamment quelque chose, avant de voir les choses mal tourner d’une manière que personne n’avait anticipée.
Il sait que le fait d’avoir lu Oliver Twist ne lui permet pas de dire à cet « enfant » ce qu’il doit ressentir, et il a conscience que le même principe s’applique à lui-même.
Le propos n’est pas « je suis meilleur que toi », mais que l’expérience donne un type de connaissance différent de la simple lecture.
Et comme l’expérience contient davantage que la lecture, on peut aussi dire que cette connaissance est plus complète.
Il convenait très mal à un personnage censé être un psychologue d’une quarantaine d’années, et tout le discours m’a semblé être une façon de rabaisser le personnage de Matt Damon.
Le fait qu’il reconnaisse humblement qu’il y a des expériences qu’il ne comprend pas lui-même, par exemple ce que c’est que de vivre en orphelin, ne rend pas ce discours meilleur.
On peut au moins savoir qu’il est très probable que cet enfant souffre et qu’il mérite d’être sauvé.
Le fait qu’on ne puisse rien savoir avec une certitude absolue ne mène pas à la conclusion qu’il ne faut rien faire, mais qu’il faut agir en tenant compte du degré d’incertitude.
Je suis assez certain de ne pas vouloir qu’on m’arrache une dent sans anesthésie tout de suite, mais je suis beaucoup moins certain de savoir quelle politique de commerce international est la meilleure.
Je pense qu’il est sain de remettre en question et d’analyser des choses qu’on a longtemps tenues pour évidentes. Russell et d’autres philosophes ont aussi parlé de cela.
Mais cet exercice doit rester, dans une certaine mesure, séparé de la vie quotidienne, et être pratiqué à une dose raisonnable.
Platon a donné une meilleure réponse avec l’allégorie de la caverne.
https://en.wikipedia.org/wiki/Allegory_of_the_cave
Toutes les informations auxquelles l’IA peut accéder sont extraites de textes et, sur des points importants, elles ne sont pas si différentes des ombres sur le mur de la caverne.
D’autres domaines seront sans doute possibles aussi, mais au moins ceux-là peuvent l’être à grande échelle.
Cela sera bientôt déployé dans la guerre. Si l’on inclut la propagande, c’est déjà le cas.
J’ai toujours trouvé ironique que ce beau discours sur l’expérience de la vie ait été écrit par deux « gamins terrifiés » d’une vingtaine d’années, puis confié à Robin Williams.
Il sait dire : « Nous avons ceci, mais pas cela. »
Contre-argument :
« J’ai vu des choses que vous, humains, ne pourriez pas croire. Des navires de combat en feu surgissant de l’épaule d’Orion. J’ai vu des rayons C scintiller dans l’obscurité près de la porte de Tannhäuser. Tous ces moments se perdront dans le temps, comme des larmes dans la pluie. Il est temps de mourir. »
— Roy Batty
Les gens les traitent comme des robots pour pouvoir justifier mentalement une classe d’esclaves.
L’esprit de Roy était indiscernable de celui d’un humain, et c’est pour cela que les humains le craignaient et lui ont imposé artificiellement une durée de vie courte.
La réplique citée prouve au contraire son humanité.
Y a-t-il vraiment une différence ? Cela revient à dire : « Tu crois en savoir beaucoup parce que tu as lu des livres, mais moi je l’ai réellement vécu, donc je comprends vraiment. »
Au mieux, on comprend sa propre expérience, et je n’irais même pas jusqu’à l’affirmer pour la majeure partie de ma vie. On peut même parfois apprendre davantage dans les livres.
Bien sûr, il est vrai de dire que la vie se vit et qu’on n’en a qu’une. Mais dire que l’IA ne sait pas parce qu’« elle n’y était pas vraiment », ça a un parfum assez proche de l’idée qu’un androïde ne serait pas réel parce qu’il n’a pas été créé par Dieu.
De plus, le fait que l’IA ne sache rien, au sens flou où nous entendons « savoir », est une question distincte.
Je n’ai pas d’avis tranché sur le sujet, mais le cadrage de l’article ne m’a pas parlé. Cela dit, ça m’a quand même donné envie de revoir le film.
Il faut évoluer au lieu de s’accrocher à des pailles dans le vide. Ce que vous pensiez qui vous rendait précieux a été dévalorisé.
Vous n’avez jamais été vos productions, mais comme vous vous identifiiez à elles et en tiriez votre estime de vous-même, vous saisissez maintenant tous les arguments possibles contre l’IA.
Mais ce n’est pas nécessaire. Votre valeur n’a jamais résidé dans le fait de savoir faire des choses informatiques que les autres ne comprennent pas.
Il faut maintenant s’adapter et passer à autre chose.
Cette citation de Mark Twain m’est venue à l’esprit :
Ce clip de Good Will Hunting est-il vraiment une scène qui se moque du vibe coding ?
Il me semble plutôt que c’est plus proche d’un ingénieur du noyau Linux qui regarde de haut un développeur React.