On en a assez

• Traite de la lassitude provoquée par « cela », dont on ne prononce même pas le nom, qui recouvre toute la société et semble impossible à éviter
• Comme dans l’expression « rubbish in and rubbish out », considère l’entrée comme la sortie comme des déchets, exprimant un fort rejet des résultats produits et de l’expérience d’utilisation
• Critique le fait que, même si personne ne l’a demandé ni voulu, d’innombrables refus se transforment en acceptation dès que les actionnaires l’exigent
• Les décideurs politiques, les médias, les conversations de comptoir et les récits d’usage personnels tournent tous autour de cela, jusqu’à accaparer les conversations du quotidien
• Le fait que le lecteur sache de quoi il s’agit sans même que le nom soit prononcé devient en soi la preuve de la lassitude causée par son infiltration déjà trop profonde

---

La lassitude provoquée par ce « cela » sans nom

• Tout le texte désigne un objet précis uniquement par it, sans jamais le nommer directement
• Cet objet est traité comme quelque chose de largement répandu, une présence qui englobe tout
• Le point de vue central est qu’il est inévitable et produit des effets déshumanisants
• La phrase « rubbish in and rubbish out » résume une attitude qui ne fait confiance ni aux entrées ni aux sorties
• L’affirmation selon laquelle personne ne l’a demandé et personne n’en veut revient à plusieurs reprises

Pression sociale et infiltration du quotidien

• Critique une situation où les talents et les efforts sont mobilisés pour le diffuser, sur le mode : « les meilleurs esprits de ma génération réfléchissent à la façon de faire en sorte que les gens l’utilisent »
• Estime que, même s’il y a eu d’innombrables « non », ils deviennent « oui » dès que les actionnaires commencent à l’exiger
• Les décideurs politiques évoluent dans le sens d’une complaisance à son égard
• Affirme que le faire fonctionner nécessite des centrales nucléaires fermées, et que son refroidissement consomme des millions de gallons d’eau
• Les médias l’encensent ou le condamnent, et les conversations de comptoir finissent elles aussi par y revenir
• Les gens parlent sans cesse de la manière dont ils l’utilisent, et l’acte même de l’utiliser est présenté comme quelque chose de sale
• Le fait que l’on comprenne de quoi il est question sans que son nom soit jamais mentionné indique qu’il s’est déjà infiltré dans le quotidien au point d’en devenir lassant

[GN⁺]

Avis sur Hacker News

• J’en ai assez de l’expression les plus grands esprits de notre génération. La première fois que je l’ai vue, c’était dans la phrase « les plus grands esprits de notre génération ont été embauchés pour vendre de la publicité », mais savoir faire tourner des ordinateurs de façon spectaculaire ne fait pas de quelqu’un un « grand esprit »
  Pour moi, un « grand esprit » devrait avant tout être capable d’empathie, se soucier du bien-être des autres, porter un regard philosophique sur l’état du monde, faire preuve de patience et de curiosité, et être non seulement intelligent, mais aussi sage
  Le fait même de continuer à placer des gens cupides au rang de « grands esprits » en raison de leur capacité à exploiter les autres pour leur profit personnel fait partie du problème

  • Cette citation précise est désagréable à plusieurs niveaux. Passe encore pour le « gâchis des plus grands esprits », mais la partie « pour vendre de la publicité » est le cœur du sujet
    Le marketing est l’un des rares domaines d’activité humaine où le progrès technologique rend généralement la vie pire, disperse l’attention et vide les portefeuilles
    Un marketing « idéal » efficace à 100 %, en supposant une vache sphérique, reviendrait en pratique à hypnotiser les gens pour qu’ils dépensent tout leur argent dans n’importe quel produit ou service, et serait structurellement isomorphe au braquage. À quoi cela ressemblerait-il avec 10 % d’efficacité ? Avec 1 % ? En quoi porter atteinte à l’autodétermination et au bien-être financier des individus pourrait-il être un bien social ? Si c’est rentable même à 0,001 %, est-ce que cela justifie de recouvrir le monde entier de publicités ? Combien de publicités voulez-vous subir chaque fois qu’un voisin achète quelque chose ?
  • Je ne contesterai pas que l’expression soit surutilisée, mais ici elle renvoie à Ginsberg. Ce n’est pas forcément un compliment : https://www.poetryfoundation.org/poems/49303/howl
  • Après presque 15 ans dans l’IT, j’ai vu qu’il y a beaucoup de bons cerveaux dans l’IT, et beaucoup aussi en dehors
    Mais j’ai aussi vu dans l’IT quantité d’imbéciles qui, parce qu’ils comprennent les algorithmes et les structures de données, croient être brillants en tout. Je ne sais pas si c’est propre à l’IT, mais ce que fait DOGE ressemble exactement à ce genre de profil
  • C’est plutôt l’inverse. Il ne s’agit pas uniquement, ni même principalement, de développeurs logiciels ordinaires
    C’est une lamentation sur le fait que, dans un monde meilleur, des résolveurs de problèmes exceptionnels dans de nombreux domaines — mathématiciens, physiciens, psychologues de tout premier plan, etc. — seraient en train de s’attaquer à de vrais problèmes, alors que les bizarreries de la structure économique les orientent vers des activités comme l’ad tech, bien rémunérées mais qui détériorent la vie des gens à grande échelle
    Je me souviens de cette expression moins comme d’une façon de mesurer les gens à leur intelligence que comme d’un regret devant une allocation terriblement mauvaise du potentiel humain, dans un monde où les meilleurs résolveurs de problèmes sont mobilisés pour créer des problèmes pour tout le monde
  • Dans ce contexte, « grands esprits » peut se comprendre comme « des gens intelligents qui créent des choses nouvelles ». Il est légitime de regretter que ces personnes pourraient mettre leur intelligence au service d’une amélioration pour tous, mais qu’en pratique elles l’emploient souvent à des choses comme l’ad tech

• Douglas Adams résumait ainsi les réactions à la technologie : ce qui existait déjà à votre naissance est normal et naturel ; ce qui est inventé entre vos 15 et 35 ans est nouveau, enthousiasmant et révolutionnaire, au point qu’on peut en faire sa carrière ; ce qui est inventé après vos 35 ans va contre l’ordre naturel des choses
  On peut deviner ton âge

  • Il me semble que les jeunes générations acceptent davantage l’IA, mais la raison principale paraît être qu’elle fait leurs devoirs sans qu’ils aient à apprendre quoi que ce soit. Du moins jusqu’à ce que les programmes scolaires aient eu le temps de s’adapter à cette nouvelle réalité
  • Je vais tenter. J’ai obtenu l’an dernier un doctorat en informatique sur le traitement du langage naturel et la génération créative de texte, et je trouve ridicule le battage autour des grands modèles de langage
    Le monde académique suit les modes autant que l’industrie. Ces modèles sont entraînés à prédire le prochain token à partir d’un contexte donné, et ils font exactement cela très bien. Alors, quel âge me donnes-tu ?
  • J’ai la quarantaine bien entamée et je trouve la révolution des grands modèles de langage stupéfiante
    À bien des égards, elle me rappelle l’époque des dot-com. C’est une technologie véritablement transformatrice, dont le potentiel n’est peut-être même pas réalisé à 20 %, tandis que les attentes ont été gonflées à 200 % de ce potentiel, avec une bulle boursière autour
    Je vous laisse imaginer la suite, mais même avec un esprit un peu fragmenté et rigide, il paraît très clair de voir ce qui va se passer ensuite, puis après, puis encore après. Et c’est là qu’on arrive à la vraie bonne partie. Donc je ne m’ennuie pas et je ne suis pas lassé. Travailler dans la tech me plaît autant qu’à mes débuts, et à certains égards je suis même plus heureux
  • J’aime beaucoup Douglas Adams, mais ce n’est pas pour rien qu’il est surtout connu comme auteur comique plutôt que comme sociologue. Sortir cette citation n’apporte rien à la conversation et ressemble seulement à une forme discrète d’âgisme
  • Si l’on suit cette règle, la supposition sera fausse
    En réalité, ce n’est pas une question d’âge. Par exemple, avec « NFT », « web3.0 » ou « Blockchain technologies », toutes les tranches d’âge ont participé à la hype

• Vivre toujours en ligne est un choix. Si l’on choisit de ne pas s’y exposer en permanence, il n’y a pas de raison de s’en lasser. Le « sujet du moment » ne devient le sujet du moment que quand on s’entoure de gens qui s’en préoccupent profondément

  • Quand on travaille dans la tech, c’est difficile à éviter. L’an dernier, dans mon entreprise, j’ai entendu « essayons d’utiliser l’IA pour ça » au moins deux fois par semaine
    J’utilise des grands modèles de langage pour certaines tâches, et il y a des choses qu’ils font plutôt bien. Mais la hype générale, avec des non-techniciens qui essaient de les faire entrer de force dans tous les cas d’usage imaginables, est vraiment épuisante. Ce qui est pénible quand il faut expliquer pour la énième fois pourquoi ce que nous essayons de faire ne convient pas à l’IA™, ce n’est pas seulement de devoir l’expliquer encore, c’est de savoir qu’il faudra le refaire au moins plusieurs fois la semaine suivante
    Dans cette hype, l’IA est traitée presque littéralement comme de la magie. Elle peut tout faire, il suffit de vouloir que l’IA le fasse. Je ne sais même plus ce que signifie IA, c’est devenu un terme-parapluie pour la pensée magique
    C’est fatigant, et clairement ennuyeux
  • C’est vrai, mais les gens comme l’auteur veulent une meilleure communauté. On peut se déconnecter complètement d’Internet, mais il faut quand même vivre dans un monde toujours en ligne
  • D’ordinaire, je serais d’accord avec l’idée qu’il suffit de choisir de ne pas participer au « [sujet du moment] », mais l’IA est si vaste que, qu’on le veuille ou non, on finit par se confronter aux conséquences de cette technologie
    Ces cycles de hype agaçants ne relèvent généralement pas de façon permanente le bruit de fond d’Internet, ne DDoSent pas des sites au hasard en essayant d’en extraire des données, et ne brisent pas le postulat fondamental selon lequel on peut faire confiance à ce qu’on voit et entend

• C’est absurde. On a créé le plus grand outil de l’histoire de l’humanité, et pourtant les gens se plaignent
  Il aide à coder, à apprendre la CAO tout en corrigeant des problèmes de modélisation, à diagnostiquer un moteur de souffleur de feuilles deux-temps, et explique patiemment, étape par étape, des algorithmes LeetCode complexes. Il sait littéralement tout, et pourtant les gens continuent de se plaindre

  • On n’est même pas près du plus grand outil de l’histoire de l’humanité. Ce sont précisément ce genre de malentendus et d’exagérations qui expliquent pourquoi les gens se lassent de l’IA, s’en ennuient et en sont frustrés
    La vérité dérangeante, c’est que l’IA est le meilleur escroc du monde. L’outil et tout le battage qui l’entoure ont créé un environnement très efficace pour tromper les gens en donnant à l’IA une apparence de savoir et d’utilité, même quand ce n’est pas le cas. Ceux qui se font avoir ne connaissent pas assez le sujet pour se rendre compte qu’ils se font piéger, et même s’ils s’en rendent compte, leur ego les empêche de l’admettre
    C’est pourquoi les personnes qui connaissent un domaine en profondeur disent que l’IA fait des erreurs, tandis que des gens comme les CEO, qui manquent de vraie profondeur technique, encensent l’IA. Ils en savent juste assez pour croire qu’ils savent ce qu’est un « bon résultat », mais pas assez pour reconnaître un tissu d’absurdités joliment emballé
  • Le fait que certaines personnes disent sérieusement des choses comme « il sait littéralement tout » explique à peu près la moitié des raisons pour lesquelles certains se sont lassés de l’IA
  • Les gens veulent continuer à avoir de la valeur, et cet outil la leur enlève. Tant qu’on trouve encore une façon de contribuer de manière significative, ça va
    Mais cela ne change rien au fait que beaucoup de compétences déjà maîtrisées sont devenues, en pratique, inutiles. Avec le temps, si cet outil s’améliore, il pourrait même nous priver de l’agentivité nécessaire pour changer la situation dans laquelle on se trouve
  • Il ne sait littéralement rien
    Il ne peut pas avoir de savoir
    C’est pour ça qu’il est ennuyeux
  • Un outil qui génère sans cesse de fausses informations, qui n’a ni perception réelle ni état interne, et qui ne remarque pas ses propres erreurs même quand on les lui signale explicitement, est franchement assez inutile
    Vous n’avez jamais eu ce genre de conversation avec ChatGPT ? Il sort « Voici la solution ! », vous dites « c’est faux, il faut faire X », puis il répond « vous avez raison, ma réponse était incorrecte », répète ce que vous avez dit et propose une correction qui est toujours fausse. Vous répétez « je t’ai dit de faire X », il dit « c’est clair maintenant », et se trompe encore
    Pire, il peut aussi être manipulé. Si ChatGPT dit correctement « X + Y = Z », mais que l’utilisateur affirme à tort « non, X + Y = Q », il peut répondre « vous avez raison, X + Y = Q est correct » et l’expliquer
    Ça peut être utile pour générer du code ou du texte boilerplate, mais même là, il se trompe souvent

• Honnêtement, c’est l’un des sujets de conversation les moins intéressants qui soient. Dès que quelqu’un dit « en utilisant l’IA ici… », je décroche immédiatement

  • L’IA est mon métier, et je suis globalement d’accord. Je réponds volontiers aux questions sur les détails de son fonctionnement, mais les discussions du genre « alors, l’IA va à l’avenir… » m’ennuient à mourir
  • Récemment, j’ai eu une conversation qui a commencé par « à partir des métadonnées de ces études publiques, est-ce qu’on ne pourrait pas déduire avec l’IA s’il s’agit d’un groupe expérimental ou d’un groupe témoin ? »
    Les données étaient sous forme de tableau, et les gens indiquent les groupes témoins un peu partout, dans les noms de fichiers ou des colonnes arbitraires, avec des variantes comme « control », « ctrl », « ctr », « t0 ». Ça a bien marché, et j’étais content d’avoir essayé. Avec le temps, je pense qu’on en tirera de la valeur, et j’étais heureux que personne n’ait décroché de la conversation

• Ce n’est pas du tout ennuyeux
  Il y a du battage, certes, mais il est important d’être ici pour discuter de ses usages, mésusages et impacts. Certains aspects sont intéressants, d’autres sont mauvais d’une manière intéressante
  Je comprends la lassitude. Mais discuter de la question de savoir si c’est bien utilisé, ou même utilisé tout court, a de la valeur

  • Au bout d’environ une journée, je m’en suis lassé. En tant qu’ingénieur, je ne trouve absolument rien de vraiment intéressant dans les grands modèles de langage

• À titre personnel, l’un des meilleurs conseils que j’aie reçus est celui-ci : apprendre à vivre dans les zones grises, et ne pas être dogmatique
  Le monde n’est pas noir ou blanc. Il faut prendre un peu des deux, sans avoir peur de changer d’avis sur certaines choses
  Pour certains, cela peut sembler évident, et en théorie c’est simple. Mais en pratique, du moins d’après mon expérience, ça ne l’est pas du tout. Cela exige un changement de manière de penser et de vision du monde, et cela devient généralement plus difficile avec l’âge, parce qu’on veut préserver le mode de vie qu’on aime

  • Prendre un poème uniquement comme une longue tirade littérale sur un sujet général est en soi une approche très binaire
    L’auteur est certes négatif à l’égard des grands modèles de langage, mais l’émotion que ce texte suscite parlera à beaucoup de gens. Même à quelqu’un comme moi, qui utilise beaucoup les grands modèles de langage. Il n’est pas nécessaire d’être entièrement, toujours d’accord avec ce texte. Mais c’est quelque chose qui devait être dit
    Parfois, j’ai envie d’enlever mon chapeau de magicien de la tech, de remettre celui d’un simple humain, et d’apprécier ce genre de poème. Puis de soupirer, de réexaminer l’envie de regarder mon téléphone, de réexaminer aussi l’envie de parler de mes plans pour gagner de l’argent ou pour satisfaire mes désirs sexuels, avant de regarder un ami au bar, de comprendre qu’il ne sera pas éternellement à mes côtés, et de lui demander sincèrement : « Alors, comment ça va, mon pote ? »

• Personne n’en voulait ? Personne ne le souhaite ?
  Vous ne regardez pas correctement
  Moi, je le veux. Je pense que c’est notre seule chance de résoudre rapidement des problèmes immenses et complexes comme le vieillissement, le cancer ou Alzheimer

  • Plutôt notre seule chance de résoudre rapidement des problèmes immenses et complexes, comme la réduction des coûts de main-d’œuvre élevés
  • Le vieillissement n’est pas un problème. C’est quelque chose de normal
  • On dirait que vous voulez guérir la vie. Nous sommes des morceaux de viande mortels ; mieux vaut profiter de la vie que de s’inquiéter à vouloir « résoudre » l’inévitable
  • Il est clair que le machine learning est très utile pour s’attaquer à ce genre de problèmes. Il suffit de penser à des percées comme AlphaFold. Mais je m’opposerais à l’idée que ce soit « notre seule chance »
    D’abord, dans les domaines mentionnés, d’immenses progrès sont déjà en cours. Présenter l’IA comme « la seule chance » est une exagération considérable, et peut même être nuisible quand on sait que ces recherches souffrent gravement d’un manque de financement
    Ensuite, ce poème semble porter sur les grands modèles de langage et les chatbots glorifiés plutôt que sur le machine learning en général. Dans ce contexte, je ne vois pas cela comme extrêmement utile pour la recherche sur Alzheimer, et certainement pas comme « la seule chance »
  • J’espère que résoudre le vieillissement restera hors de portée, même pour l’IA la plus intelligente. Il n’y a pas de voie plus sûre vers un monde rempli de pensées figées, où des humains sclérosés accrochés au pouvoir imposent leurs façons de faire aux jeunes générations
    Sans parler de l’impact environnemental qu’auraient des humains vivant éternellement

• J’apprends enfin à ajouter des tests unitaires à du code Python. C’était quelque chose que je repoussais depuis longtemps. Les bio-informaticiens produisent aussi pas mal du code le plus bordélique au monde
  Claude me prend par la main et me guide, en s’assurant que je comprends chaque caractère que je tape. Jusqu’ici, ça va
  Cela dit, c’était un texte agréable à lire et il m’a fait rire. On peut l’appliquer à beaucoup de choses, comme les cryptomonnaies, la politique, Rust, Nix, la publicité et « les plus grands esprits de notre génération »
  À cause de l’histoire de la centrale nucléaire, je suppose que c’est un texte sur l’IA, mais en tout cas les sujets que j’ai mentionnés ne sont pas du tout ennuyeux