L’IA est-elle en train de ruiner nos compétences ? Les premiers résultats de recherche sont préoccupants

• À mesure que la dépendance aux outils d’IA augmente sur le lieu de travail, des premiers éléments montrent que, dans des domaines où l’expertise est cruciale comme la médecine ou l’informatique, les compétences accumulées par les humains peuvent s’affaiblir
• Dans une étude menée auprès d’endoscopistes polonais, sans IA, le taux de détection des adénomes est tombé de 28,4 % à 22,4 %
• Dans un essai randomisé contrôlé d’Anthropic, les ingénieurs aidés par l’IA ont obtenu un score moyen de 50 % au quiz, contre 67 % pour le groupe sans IA
• Dans une enquête auprès de professionnels de santé aux États-Unis, 70 % des infirmiers et 77 % des médecins se disent préoccupés par une perte de compétences due à une dépendance excessive à l’IA
• Comme le GPS a autrefois affaibli le sens de l’orientation, l’IA générative constitue la première technologie à automatiser des capacités cognitives elles-mêmes, comme la réflexion et l’interprétation, ce qui fait de la préservation de l’expertise humaine un enjeu majeur

---

L’essor du phénomène de deskilling lié à l’IA

• À mesure que les professionnels s’appuient sur des outils d’IA dans leur travail, l’inquiétude grandit que des compétences acquises au prix d’efforts se dégradent, chez les experts médicaux, les informaticiens et d’autres profils
• Dans une enquête publiée ce mois-ci par Wolters Kluwer auprès de soignants américains, 70 % des infirmiers et 77 % des médecins disent craindre une perte de compétences liée à une dépendance excessive aux systèmes d’IA
• Des éléments suggèrent que le « deskilling » provoqué par l’IA a déjà commencé dans plusieurs domaines, dont la médecine et l’informatique, et les chercheurs débattent de la manière de préserver l’expertise humaine à l’ère de l’IA
• Kevin Crowston, spécialiste des sciences de l’information à la Syracuse University : « Le simple fait de prendre conscience de ce phénomène peut déjà pousser à s’interroger sur les compétences à maintenir et celles à externaliser à l’IA »

Médecine — étude sur des endoscopistes

• Protocole de recherche

  • L’étude a été menée auprès d’endoscopistes polonais, tous ayant réalisé au moins 2 000 coloscopies au cours de leur carrière
  • On leur a fourni un système d’IA capable d’analyser en temps réel les images de coloscopie et de signaler les adénomes, des lésions intestinales précancéreuses
  • L’outil était disponible certains jours et indisponible les autres

• Résultats

  • Après avoir commencé à utiliser l’IA, les performances des médecins ont significativement baissé lorsque le système n’était pas disponible
  • Au cours des trois mois précédant l’introduction de l’IA, les spécialistes détectaient au moins un adénome dans 28,4 % des coloscopies
  • Durant les trois mois suivant l’introduction de l’IA, le taux de détection des adénomes dans les coloscopies réalisées sans assistance de l’IA est tombé à 22,4 %
  • Ces résultats ont été publiés en octobre dernier dans The Lancet Gastroenterology and Hepatology

• Interprétation des experts

  • Robert Wachter, médecin à l’University of California, San Francisco : « Même des experts hautement qualifiés peuvent voir leur capacité à accomplir les tâches nécessaires à leur travail se dégrader à mesure que leur dépendance à l’IA augmente »
  • Les auteurs de l’étude : « Une exposition continue à ce type d’outils peut rendre les cliniciens moins motivés, moins concentrés et moins responsables lorsqu’ils doivent prendre des décisions cognitives sans IA »
  • Yuichi Mori, médecin-chercheur à l’University of Oslo et co-auteur : « Il faut davantage d’études pour confirmer le phénomène, mais les utilisateurs d’IA doivent être conscients du risque de perdre certaines compétences »
    • « Il n’existe actuellement aucune solution établie au deskilling, et cela devrait devenir un sujet de recherche majeur au cours des dix prochaines années »

Informatique — l’expérience de codage d’Anthropic

• Pour étudier l’éventuelle perte de compétences en informatique, des chercheurs d’Anthropic, entreprise d’IA basée à San Francisco, ont conçu un essai randomisé contrôlé auprès de 52 ingénieurs logiciel
  • Les 52 participants avaient tous accès à la recherche web et à des indications méthodologiques pendant les tâches de codage de base
  • La moitié a en plus été encouragée à utiliser un assistant IA
• Dans un quiz portant sur ce qu’ils avaient appris après les tâches, le groupe utilisant l’IA a obtenu en moyenne 50 %, contre 67 % pour le groupe sans IA
  • Les participants assistés par l’IA ont particulièrement moins bien réussi les questions de diagnostic d’erreurs dans le code, ce qui suggère qu’ils n’avaient pas assimilé les concepts du code qu’ils venaient d’écrire
  • L’étude a été publiée sur le serveur de prépublications arXiv avant évaluation par les pairs
• Crowston : « Il existe désormais une étrange dissociation entre performance et apprentissage »
  • « Si les gens peuvent atteindre un niveau de performance assez élevé, c’est fondamentalement parce qu’ils empruntent les compétences de l’IA, sans développer eux-mêmes ces compétences »
  • Ces résultats sont particulièrement préoccupants pour les étudiants et les jeunes professionnels du secteur

Externalisation de la cognition — comparaison avec les technologies passées

• Tapani Rinta-Kahila, chercheur en systèmes d’information à l’University of Queensland : « Par le passé aussi, certaines technologies ont rendu des compétences moins utiles, comme le GPS qui a affaibli les capacités d’orientation »
  • Mais l’IA générative est « la première technologie à automatiser des capacités cognitives liées à la réflexion et à l’interprétation, longtemps considérées comme proprement humaines »

• Le cas des comptables

  • Une étude publiée en 2018 a examiné un groupe de comptables ayant utilisé pendant plus de dix ans des systèmes comptables automatisés non fondés sur l’IA
  • Une fois l’outil retiré, il est apparu que les comptables avaient oublié comment effectuer plusieurs tâches courantes
  • « La prochaine génération de programmeurs pourrait ne pas bien comprendre les bases du code si elle manque d’expérience pratique »
  • « Cela vaut aussi pour d’autres métiers intensifs en connaissances, comme la comptabilité ou le droit »

• Comment prévenir l’érosion des compétences

  • Il faut être conscient de la quantité de travail que l’on délègue à l’IA générative
  • Il faut comprendre précisément le fonctionnement et les limites des modèles d’IA générative, et ne pas faire confiance à leurs résultats sans vérification
  • Il faut « gérer la dynamique concurrentielle entre la dépendance à l’IA générative et le maintien d’une vigilance consciente »

[GN⁺]

Avis sur Hacker News

• On a vécu trop confortablement. Assis sur des chaises Herman Miller dans des bureaux climatisés, à apprendre l’informatique pour de très bons salaires, et maintenant qu’on a découvert comment synthétiser l’intelligence, la principale idée qu’on a eue, c’est de ruiner ce qui était sans doute la carrière la plus amusante qu’on pouvait espérer
  Bien sûr, nous sommes plus productifs aujourd’hui, mais quelle part de cela vient simplement du fait qu’on superpose l’IA à l’intelligence qu’on avait accumulée auparavant à la main ?
  Qui peut garantir que, dans 36 mois, nos connaissances des systèmes n’auront pas régressé et que nous ne serons pas devenus de moins bons développeurs dans l’ensemble ?
  Il ne s’agit pas de dire qu’il ne faut pas utiliser l’IA. Je m’en sers toujours pour des tâches annexes utiles, comme configurer des GitHub Workflows pendant que je travaille directement sur une fonctionnalité, ou confier des tâches sur Internet à un agent sur un VPS. Un peu d’intelligence synthétique, c’est bien
  Mais remplacer plutôt que renforcer sa propre intelligence, ce n’est pas bien. Comme avec les stéroïdes, on peut devenir musclé tout en se détruisant le corps ; à mes yeux, le bénéfice réside précisément dans le travail lui-même. Les raccourcis sont souvent les chemins les plus dangereux

  • Plus que de demander si « nous sommes plus productifs », j’ai envie de demander si l’ère de l’IA ne nous enfonce pas encore davantage dans une logique de produire plus, plus vite. Mais pour quoi faire, au juste ?
    Si je suis devenu ingénieur logiciel, c’est parce que j’aimais écrire du code, réfléchir à des problèmes complexes et les résoudre, et ressentir la satisfaction de voir fonctionner pour la première fois quelque chose que j’avais construit de mes mains
    Est-ce vraiment amusant de gérer une armée d’agents au lieu d’écrire du code ? Ou est-ce qu’on aime seulement la sensation de vitesse quand on fabrique quelque chose à un rythme impossible seul ? Aller vite n’a jamais été, pour moi, le cœur du plaisir
    Je comprends l’usage de l’IA pour réduire les tâches répétitives ou le boilerplate, mais quand je vois des gens miser entièrement sur le développement basé sur des agents, je me pose vraiment des questions
  • Pour beaucoup de développeurs, devenir de moins bons développeurs dans 36 mois pourrait encore être le meilleur scénario. Le marché du travail est déjà en train d’évoluer pour absorber les gains de productivité, et tout le monde va être forcé de produire davantage pour conserver son poste
    La demande ne peut pas rattraper instantanément les gains de productivité, donc les entreprises ne peuvent pas simplement vendre plus, et au final il y aura des licenciements. Si plus de personnes se disputent moins d’emplois, les salaires des postes restants baisseront aussi. C’est simplement une question élémentaire d’offre et de demande
    Je me demande combien de personnes qui disaient en 2024 « mon travail est trop complexe ou trop spécialisé pour être affecté » diraient encore la même chose aujourd’hui
    Les entreprises devront soit accepter des prix par token de plus en plus élevés pour réduire les coûts salariaux, soit juger que ce compromis n’en vaut pas la peine et recommencer à miser sur l’intelligence humaine. Au cours des prochains mois, il me semble que l’économie du secteur décidera à notre place
  • Vous utilisez sans doute mal l’IA, ou alors votre environnement de travail n’est pas terrible. Moi, coder avec l’IA, je trouve ça très amusant
    Les LLM et leurs outils ressemblent à un nouvel ensemble de contraintes à prendre en compte quand on conçoit un système, et si on sait bien les manier, on peut construire des choses plus grandes et meilleures qu’avant. J’ai l’impression d’apprendre une toute nouvelle branche de l’arbre de compétences en programmation
    Cela dit, je dis ça après avoir passé les deux derniers jours à tout reconstruire parce que Claude avait complètement massacré le RBAC de l’application
  • J’aimerais qu’on évite de dire « nous ». Beaucoup de gens ne voulaient ni de ces modèles ni de ces entreprises, et n’y ont pas contribué non plus. Leur seule « contribution », c’est qu’on leur a volé leur code, leurs données ou leur propriété intellectuelle
    Beaucoup de personnes ne se sont pas inscrites volontairement à l’usage de l’IA ; cela leur a été en pratique imposé par leur employeur. Et l’IA ne rend pas tout le monde plus productif : beaucoup passent autant de temps à relire le code produit par l’IA qu’ils en économisent grâce à elle
  • Au travail, on m’a forcé à utiliser des LLM, en me disant : « n’essaie pas de comprendre, fais juste en sorte que ça marche ». Comme si l’absurdité de cette phrase n’était pas évidente
    Depuis, je cherche comment sortir de ce poste, et peut-être même de cette carrière
    Au final, ceux qui s’en soucient seront écartés ou partiront d’eux-mêmes, et tout le secteur sera rempli de maximalistes de l’IA version Dunning-Kruger. Dire que « l’IA remplace les ingénieurs » sera vrai, mais pour des raisons et d’une manière totalement différentes de ce qu’imaginent ceux qui l’affirment

• Je me demande si le même effet existe aussi chez les très riches ou les cadres dirigeants de très haut niveau. Depuis longtemps, beaucoup de ces gens peuvent déjà « externaliser » leur réflexion, en déléguant le travail, en demandant des recherches ou des résumés, en répartissant des tâches.
  Le fait de confier ces choses à des humains dégrade-t-il les compétences de la même manière ? Ou bien l’IA est-elle fondamentalement différente ? Et si oui, pourquoi ? Est-ce parce qu’il n’existe pas de pression morale et sociale contre le fait de tout déléguer ?

  • Oui. À partir du moment où on quitte le développement pratique du quotidien pour aller vers un poste de management, les compétences commencent à se dégrader. Même si elles ne disparaissent pas comme par magie, on ne continue plus à pratiquer ni à suivre les nouveaux progrès.
    Si on prend vraiment le rôle de manager au sérieux, c’est probablement la voie la plus effrayante d’une carrière. Après quelques années, il n’y a plus vraiment de chemin réaliste pour revenir à un poste de développeur opérationnel moins bien payé. Le métier consiste à aider les autres à faire, pas à faire soi-même.
    Bien sûr, il existe une zone intermédiaire, et certains essaient d’entretenir un peu leurs compétences via la R&D ou des projets annexes, mais ce n’est pas la même chose que le travail de production pratiqué tous les jours.
    Le niveau technique de départ varie selon les personnes, mais l’effet reçu avec le temps est globalement similaire.
    C’est précisément le point sur lequel j’insiste le plus quand un ingénieur expérimenté me dit vouloir passer sur une voie managériale. Ce n’est pas une décision à prendre à la légère.
  • Oui. Cela arrive aussi aux professeurs et aux doyens d’université.
    C’est aussi dans ce contexte qu’il faut, à mon avis, comprendre l’arrivée de Noam Shazeer chez OpenAI. C’est certes un très bon recrutement, mais il n’y a pas de raison particulière de croire qu’il apporte encore une magie secrète que les autres n’auraient pas déjà sous une forme plus récente.
  • La classe possédante ne travaille pas réellement. Le type de planification de haut niveau qu’elle délègue est plus facile à exécuter pour des agents IA que des tâches comme le génie logiciel, parce qu’il n’a pas besoin d’être aussi précis ni aussi directement exécutable.
    Cela dit, l’ampleur est énorme et le risque du rôle est élevé, donc il faudra peut-être des modèles de langage visuels au niveau de Fable 5 ou Fable 6 pour que cela devienne assez « sûr » même en retirant les humains.
    Ce qui explosera en 2027, ce seront les entreprises IA automatisées, et les CEO humains comme les propriétaires ne pourront plus rivaliser avec ces sociétés opérées par IA.
  • Le travail intellectuel, et plus largement tout domaine doté d’un arbre de compétences dans lequel on peut monter ou descendre, se dégrade avec le temps si on ne le pratique pas. C’est comme la course : si l’on arrête pendant un moment, on ne retrouve pas immédiatement son ancien record personnel en recommençant.
    Revenir après une pause et rattraper son niveau reste plus facile que de développer une compétence depuis zéro, ou de le faire sans talent naturel, mais sans entraînement on régresse clairement. Les dirigeants qui sont montés vers des rôles purement managériaux ou stratégiques sans entretenir leurs compétences pratiques ont fini par comprendre nettement plus lentement.
    C’est bien que cette étude ait été menée. Je pense que la corrélation inverse entre l’IA et le bien-être humain est l’un des grands enjeux de notre époque. Mais cette conclusion elle-même paraît assez évidente.
  • J’ai vu pas mal d’anciens programmeurs devenus managers qui, après quelques années de management, arrivaient à peine à faire un fizzbuzz. Donc je pense que c’est très similaire.
    Une grande partie du cerveau fonctionne selon le principe « si on ne l’utilise pas, on le perd », et ce type de délégation revient précisément à ne pas l’utiliser.
    Cela dit, les LLM peuvent très bien être bien pires qu’une délégation à des humains. En partie parce que le cycle d’itération est tellement rapide qu’il donne une vitesse qu’on ne peut pas acheter auprès d’humains, même sans être immensément riche.

• Cela fait plus d’un an que je n’ai pas écrit moi-même une seule fonction de code de bout en bout. À la place, je passe beaucoup plus de temps à réfléchir à l’architecture et aux propriétés du système.
  J’ai donc le sentiment d’avoir perdu une partie de mes compétences de très bas niveau. Mais il se peut aussi que cela m’ait permis de consacrer plus de temps à des compétences de niveau supérieur. Un peu comme des médecins qui deviennent moins bons pour lire les images, mais gagnent en ressources cognitives pour penser au contexte du patient.
  Je n’en suis pas certain.
  Mais je n’arrive plus du tout à me mettre à écrire du code sans IA. C’est trop lent et cela ressemble presque à une souffrance.

  • Je me demande si quelqu’un qui débute peut acquérir ce mode de pensée utile et productif sans la discipline mentale qui consiste à se battre à la main, dans des applications réelles, avec les structures de données et les algorithmes de bas niveau, par exemple.
    Quand j’étais en école de design, une grande partie du travail se faisait sur des supports physiques comme le graphite, le papier découpé, la peinture ou le fusain, et nous pratiquions aussi l’usage d’outils numériques avec un excellent coup de main. Même en numérique, il fallait produire chaque trait et choisir l’outil adapté, mais chez les gens venus d’un parcours purement numérique, il manquait clairement une certaine conscience du processus.
    C’est un peu comme quelqu’un qui n’a travaillé qu’à partir de références photo et tente de dessiner d’après nature. Quand on dessine quelque chose qui est déjà en 2D, toute une partie du processus cognitif n’est pas mobilisée. Cela peut s’apprendre, mais si rien ne vous y force, on continuera probablement à prendre des photos pour les dessiner.
    La génération d’images est tellement différente, même avec de l’inpainting très fin, qu’il est difficile de comparer. J’hésiterais à dire que quelqu’un qui a beaucoup d’expérience avec la génération d’images avancée part très loin devant un débutant complet quand il commence à apprendre à dessiner. Ce n’est déjà pas vrai pour un artiste qui travaille à partir de références photo, et encore moins pour un artiste purement numérique qui a déjà pratiqué le dessin d’après nature sur tablette.
    C’est un peu comme les millennials, qui ont toujours eu accès à la technologie mais ont aussi connu l’époque du bas débit, et qui sont donc en général plus à l’aise techniquement que l’« iPad kid » typique incapable même de naviguer dans une arborescence de répertoires.
  • La question est de savoir quelles compétences de niveau supérieur resteront réellement accessibles à notre concentration.
    Je ne suis pas certain que l’IA soit intrinsèquement moins bonne sur des tâches comme la gestion de projet ou l’architecture.
  • Même si les prêtres de l’IA ont raison de dire que l’usage de l’IA libère de la marge mentale et donc de la capacité cognitive pour penser à des choses plus élevées, comment le patron utilisera-t-il cette marge ? Va-t-il laisser l’utilisateur développer des capacités cognitives de plus haut niveau ? J’en doute.
    Supposons que les médecins de l’article aient eu de moins bons résultats après l’arrivée de l’IA. Si, grâce à l’IA, ils peuvent désormais traiter 100 examens dans le temps qu’il leur en fallait autrefois pour en traiter 10, comment l’employeur utilisera-t-il ce temps de travail libéré ? Évidemment en leur faisant traiter encore plus d’examens, et en licenciant certains médecins devenus inutiles.
    Les médecins qui resteront survivront en étant déqualifiés, tout en faisant autant ou davantage de travail, et la société recevra des soins de moindre qualité. Mais l’employeur économisera sur les coûts salariaux et les actionnaires seront contents.
  • Nous n’avons pas appris à utiliser les cartes perforées IBM. Écrire des fonctions à la main dans les langages modernes devient lui aussi rapidement un travail anachronique.
  • Aux yeux de beaucoup de CEO, vous êtes en train de devenir lentement inutile.

• C’est nouveau, et surtout l’ampleur est nouvelle. Ce ne sont pas quelques « compétences » individuelles qui sont en jeu, mais presque toutes. Le fondement même de notre capacité à penser en profondeur, avec ampleur et avec persévérance est remis en cause. Une chose pareille n’était encore jamais arrivée de cette façon
  Quand on voit des agents à l’œuvre, c’est parfois stupéfiant, au point de couper le souffle. Mais c’est précisément à cause de cette puissance que nous sommes tout aussi vulnérables à sa tentation et à l’amoindrissement qu’elle provoque. Le potentiel d’effets psychologiques à long terme est presque comparable à celui d’une drogue dure

  • Ce qui me vient d’abord à l’esprit, pour cette remise en cause de la capacité à penser en profondeur, avec ampleur et avec persévérance, ce sont les réseaux sociaux et les algorithmes de contenu. C’était la première vague qui a produit l’état catastrophique dans lequel nous étions déjà avant l’ère de l’IA
    Aujourd’hui, il est trop facile de tomber dans une chambre d’écho, et très difficile d’en sortir
    Cela peut être une arme à double tranchant. Une IA que la plupart des gens prennent pour un oracle omniscient pourrait aussi fournir la seule contradiction que nous rencontrons face à des positions absorbées passivement en faisant défiler les contenus sur les réseaux sociaux, Youtube ou TikTok
    Par exemple, si vous demandez à Claude, ChatGPT ou Grok à propos des « lasers spatiaux » liés aux incendies de Hawaii en 2018, une idée relayée sur les réseaux sociaux par des gens comme Marjorie Taylor Greene, ils rétorquent vite que c’est absurde
    Au final, tout le monde pourrait avoir sa propre IA qui lui dit uniquement ce qu’il veut entendre. Mais jusqu’ici, j’ai vu Grok rejeter des affirmations au point que des gens abandonnent la dispute sur Twitter. Donc il semble rester un peu d’espoir
  • Avant de dire « une chose pareille n’était encore jamais arrivée », il faudrait lire ce que les gens disaient de l’invention de la radio et de la télévision
    Le fait que voir des agents à l’œuvre soit incroyablement impressionnant au point de couper le souffle, c’est aussi vrai de la magie. La possibilité inconfortable que tout cela ne soit qu’une illusion mal comprise ne semble pas beaucoup peser sur les gens
    Le fait que les effets psychologiques à long terme ressemblent à une drogue dure tient peut-être davantage à la manière dont les propriétaires de ce produit ont choisi de le commercialiser et de le déployer. Il suffit peut-être de soulever légèrement le capot pour que l’euphorie se transforme en peur. Un moment à la Upton Sinclair approche
  • L’esprit humain a besoin de défis autant que le corps. Pour grandir, ou même simplement pour maintenir un haut niveau cognitif, c’est la seule voie
    Les infirmiers, les médecins et les familles savent bien à quel point la trajectoire de vie d’une personne peut s’effondrer brutalement lorsqu’elle se retrouve soudain confinée au lit, avec un minimum de stimulation et de défis possibles
    Les LLM suppriment ou minimisent le défi. En dehors des économies de coûts pour les employeurs, il est difficile d’imaginer quelle valeur ajoutée cela apporte aux ingénieurs. Bien sûr, certains diront qu’ils font 10 fois plus qu’avant, et pour certains c’est peut-être vrai, mais même là j’ai des doutes. Pour la grande majorité, ce n’est pas bon, et cela ne s’améliorera sans doute pas, sauf si le prix les empêche d’être utilisés sur la plupart des marchés

• À 40 ans, j’apprends de nouvelles choses à une vitesse que je n’aurais jamais imaginée. De nouveaux sports, de nouvelles activités, de nouveaux centres d’intérêt universitaires
  La technologie est un levier, et l’IA est le plus grand levier dont nous disposons. Elle peut rendre paresseux, mais elle peut aussi rendre incroyablement productif. La suite dépend du choix de chacun

  • Je ne sais pas si cela s’applique à vous, mais j’ai vu quelques amis finir par croire qu’ils exploraient les frontières de la science, et les conversations ont toujours fini par tourner à un galimatias étrange de pseudo-quantique et de pseudo-métaphysique
    Les LLM sont des flatteurs, et dans une longue conversation, cette flatterie crée une boucle de rétroaction positive. Une fois qu’une validation d’une mauvaise interprétation ou d’une analogie douteuse entre dans la fenêtre de contexte, le chatbot continue dans cette direction parce qu’il produit simplement la suite la plus vraisemblable du texte précédent
    Et avant même de s’en rendre compte, on est en train de découvrir la trame cachée de l’univers, qui finit toujours par ressembler à un collecteur tensoriel fractal d’espace-temps de Minkowski avec des nanotubes d’ADN sous-harmoniques
    Donc, si vous n’avez pas une méthode solide pour évaluer ce que vous apprenez et vérifier que vous apprenez réellement, mieux vaut être prudent
  • Ce n’est pas apprendre. Apprendre implique de faire soi-même
    On le sait depuis longtemps. Un étudiant ne réussira pas un examen de maths s’il se contente de lire le manuel sans refaire les exercices encore et encore
    Dans le meilleur des cas, on ne fait que lire quelque chose. Les utilisateurs d’agents de code ne font même pas cela
  • Ce n’est pas apprendre. C’est écouter des explications, et plus ou moins recevoir un marteau pour les appliquer avec un niveau de compétence inférieur à la moyenne
    Apprendre exige un investissement massif en temps. Utiliser des LLM ne réduit pas ce temps
  • En quoi exactement l’IA aide-t-elle dans le sport ? Êtes-vous devenu un meilleur athlète ? Avez-vous, par exemple, mieux appris la stratégie de chaque sport d’un point de vue d’entraîneur ? Pouvez-vous détailler ?
  • En fait, je suis d’accord. J’ai clairement l’impression qu’on peut apprendre et explorer des concepts avec des LLM. Mais dès le départ, j’étais quelqu’un de très autodidacte et très motivé
    Tout ce que je sais de technique, je l’ai appris par mes propres efforts. J’aimerais donc que ces outils soient présentés non comme un moyen de faire faire plus de travail, mais comme un moyen d’aider à faire un meilleur travail
    Pour l’instant, ils servent surtout de prétexte à des licenciements massifs au lieu d’élever les capacités des gens. Et bien sûr, ils ont aussi attiré en masse des personnes qui s’en servent pour gonfler artificiellement leurs compétences réelles

• L’usage des outils suit en général ce type de courbe. Si vous voulez préserver une compétence, il faut effectivement la préserver
  Ce n’est pas intrinsèquement mauvais en soi. Les outils permettent de faire bien plus que ce qu’on pourrait faire sans eux, et il est légitime de débattre de savoir quelles compétences restent fondamentalement importantes même lorsqu’un outil peut les prendre en charge

  • La difficulté ici, c’est que l’ensemble des compétences que nous sommes en train d’atrophier a une portée pratiquement infinie
    Ce n’est pas un outil spécialisé avec un domaine de problème bien défini, comme une calculatrice. En pratique, beaucoup de gens utilisent déjà l’IA dans des domaines spécialisés comme le code ou le design visuel, mais en principe rien n’empêche de déléguer aussi à l’IA le niveau d’abstraction même auquel nous travaillons aujourd’hui
  • Le grand problème dans ce cas, c’est que pour bien utiliser cet outil, il faut quand même que les compétences de base aient été développées et conservées. C’est très différent d’une perceuse électrique
  • La différence entre acceptable ou non dépend de la fiabilité de l’outil. Avec une calculatrice ou un compilateur, pas de problème. L’exemple de classification d’images en machine learning cité dans l’article semble aussi acceptable, mais je n’en suis pas certain
    Les sorties des LLM ne sont pas fiables, donc il faut toujours du jugement. Et pour juger du code, il faut en avoir manipulé soi-même au moins un peu. Donc un outil non fiable n’aide pas beaucoup, à moins d’accepter cette incertitude
  • Oui. Mais si vous ne possédez pas l’outil, et qu’il est entre les mains d’un groupe centralisé, voire proche du politique ou de l’État, alors le jour où cela devient « l’ordinateur dit non », vous vous retrouvez dans une situation très problématique

• Quand on pense aux ingénieurs Staff+, ce n’est pas surprenant. Leur travail ressemble beaucoup à donner des instructions à une IA. La plupart gravissent les échelons grâce à leurs efforts, à de solides compétences d’ingénierie, à leurs soft skills et à un peu de chance. Mais plus l’entreprise grandit, moins ils passent de temps à coder, déboguer ou faire de la conception en profondeur
  À la place, ils agissent comme des product managers très techniques. Ils aident les VP à planifier et rédiger des exigences produit de haut niveau, en y saupoudrant un peu de jargon technique. Ils dessinent des boîtes au tableau blanc, font de jolies slides et rédigent des documents bien polishés qui satisferont la direction. Ils sont en réunion ou en route vers la suivante, et quand ils ont une idée technique, ils envoient une équipe la valider
  Bien sûr, ils ont toujours le sentiment d’être profondément techniques, mais quand arrive le jour où il faut résoudre un incident en production, réussir un entretien technique ou écrire beaucoup de code, ils réalisent que leurs compétences se sont rouillées
  Ce n’est pas une critique, c’est pour souligner un vrai défi de carrière. En tant qu’ingénieur, on veut affûter ses capacités techniques, mais pour monter dans la hiérarchie de l’organisation, il faut assumer davantage de travail organisationnel. La seule solution qui me vienne à l’esprit est de se rapprocher du parcours de chercheur ou de professeur. Les bons professeurs passent moins de temps, avec les années, à écrire des articles ou à dériver des formules, mais leur profondeur d’analyse leur permet d’encadrer des doctorants et d’obtenir d’excellents résultats. Cela dit, cette voie est loin d’être aussi simple qu’elle en a l’air

• Le plus grand effet négatif que je vois, c’est que les gens vont trop vite pour évaluer ce qu’ils balancent dans la machine. Quand on va trop vite, on n’a pas le temps de développer son goût ni de comprendre les nuances entre plusieurs approches d’un même problème
  J’utilise moi aussi pas mal les LLM, mais j’ai l’impression de passer en moyenne bien plus de temps que mes collègues à rester assis devant le code généré. La première sortie “fonctionne”, mais après l’avoir laissée décanter un peu dans ma tête, je finis généralement par itérer encore 2 ou 3 fois sur l’idée initiale avant d’avoir le sentiment qu’on peut réellement la merger
  Donc au total, je n’ai pas l’impression que ma productivité ait énormément augmenté sur les sujets de conception qui comptent vraiment

• D’abord, je m’interroge sur la valeur de l’étude en endoscopie. Pour comparer le nombre d’adénomes détectés avant et après une potentielle perte de compétence liée à l’IA, il faut supposer que le taux de survenue des adénomes reste constant, et cette hypothèse ne me paraît pas forcément sûre
  Je ne sais pas si le problème vient de l’étude elle-même ou du résumé, mais il aurait été bien préférable de mesurer la performance des participants par rapport à leur analyse de référence, et cela aurait aussi donné davantage d’assurance sur l’existence d’un véritable changement de compétence
  Je me demande aussi si le temps de lecture a diminué, ou si les participants ont ressenti plus de pression en lisant les scans à l’ancienne parce que l’IA les traitait rapidement. C’est un facteur de confusion potentiel
  Ensuite, le fait que l’IA entraîne une perte de compétence mesurable n’a rien de surprenant. Mais on aurait sans doute pu constater la même chose autrefois avec les correcteurs orthographiques et les calculatrices. Pourtant, personne ne dit aujourd’hui qu’il faut abandonner les traitements de texte et recommencer à compter sur ses doigts et ses orteils ou à faire des divisions longues
  Il y a toujours des arbitrages sur les compétences et connaissances vraiment essentielles pour les experts, et sur ce qu’on peut sous-traiter à la technologie. En ce moment, c’est une période de transition, non seulement parce que la technologie est nouvelle, mais aussi parce qu’elle évolue trop vite. Dans quelques années, quand on sera plus avancé sur la courbe d’adoption et que le rythme du changement se sera stabilisé dans certains domaines, on devrait converger vers des usages de l’IA qui exigent une combinaison de connaissances et de compétences dans des secteurs comme le code et la médecine. Et je pense qu’on finira aussi par s’habituer au fait que les gens n’auront plus besoin de connaître ni de faire eux-mêmes certaines choses que l’on considère aujourd’hui comme centrales dans leur métier

• Est-ce qu’on se retrouvera un jour à regretter des compétences perdues parce que l’IA aurait disparu ? Même dans le pire des cas, on utiliserait sans doute simplement des modèles à poids ouverts au lieu du tout dernier état de l’art, donc je ne pense pas que ce soit un gros problème
  Je suis convaincu que les gens sont devenus moins bons en arithmétique après l’invention de la calculatrice

  • La vraie menace, à mon avis, n’est pas au niveau individuel mais au niveau sociétal
    Avec le temps, l’accumulation de compétences produit de l’intuition, et cette intuition mène à l’innovation
    L’IA fait beaucoup de choses intéressantes, mais elle n’innove pas encore
    La vraie menace, ce n’est pas que nous perdions tous nos compétences et notre accès à l’IA. C’est possible, mais la perte d’accès me semble peu probable. Le plus grand risque, c’est que l’IA reste à peu près à son niveau actuel pendant que nous devenons dépendants d’elle, que nos compétences s’émoussent et que nous lui déléguions tellement notre réflexion à une machine non innovante que l’innovation elle-même stagne
    Je ne dis pas que cela arrivera forcément, mais cela me semble tout à fait plausible
  • Toute l’histoire de l’informatique d’avant 2023 a-t-elle disparu ? Est-on vraiment à ce point foutus ?
  • Dans la phrase « après l’invention de la calculatrice, les gens sont devenus moins bons en arithmétique », on peut remplacer “arithmétique” par une variable X pour parler des LLM
    « Après l’invention des LLM, les gens sont devenus moins bons en X »
    Le problème n’est pas seulement que la compétence X se dégrade
    Le problème avec les LLM, c’est que X correspond en pratique à l’ensemble des compétences de connaissance et de communication
    Une société peut-elle réellement supporter un état où pratiquement toutes les compétences de connaissance et de communication se dégradent ?
  • Dans le pire des cas, on subit une atrophie cognitive. On devient plus stupides et plus paresseux