La technologie du futur, ce n’est pas l’« IA », mais la « concentration »

• Les LLM sont utiles pour automatiser les tâches répétitives, faire du brainstorming, etc., mais une dépendance aveugle peut entraîner une baisse des capacités de résolution de problèmes
• En particulier, la fiabilité des LLM face à des problèmes nouveaux est faible, ce qui rend le jugement des ingénieurs humains essentiel
• Les moteurs de recherche comme Google offrent un équilibre entre exploration et exploitation, mais les LLM poussent immédiatement vers la seule « exploitation »
• L’habitude de ne compter que sur des réponses rapides entraîne un déclin des capacités essentielles de résolution de problèmes et de la concentration (focus)
• La compétence clé de demain ne sera pas tant la maîtrise de l’IA que la capacité proprement humaine à penser en profondeur et à se concentrer

---

Les LLM sont puissants, mais doivent être utilisés avec prudence

• Les LLM aident beaucoup à automatiser les tâches répétitives, à rédiger du code ou à assister le débogage
• Cependant, en raison de problèmes de biais, d’incohérences et d’hallucinations, leurs résultats doivent toujours être vérifiés
• Les données d’entraînement contiennent surtout des réponses à des problèmes existants, mais leur capacité à traiter de véritables problèmes nouveaux reste faible
• En conséquence, si les ingénieurs s’en remettent aux LLM, leur propre capacité de résolution de problèmes peut s’affaiblir

Les risques d’une acceptation non critique

• Si l’on accepte les réponses fournies par les LLM sans les comprendre, on finit par se concentrer davantage sur l’obtention d’une réponse que sur la résolution du problème
• Résoudre des problèmes complexes exige au final une accumulation de bases solides et de capacités de réflexion, que les LLM ne peuvent pas remplacer
• L’important n’est pas seulement le résultat, mais la compréhension de la raison pour laquelle la solution fonctionne et du processus de réflexion qui y mène

Différence essentielle entre moteurs de recherche et LLM

• Les moteurs de recherche permettent une approche équilibrée entre exploration et exploitation
• À l’inverse, les LLM cherchent d’emblée à fournir la bonne réponse, et les utilisateurs ont tendance à l’exploiter sans la vérifier
• Un système où seule l’exploitation existe, sans exploration, renforce l’instabilité et la dépendance

Le but originel de l’informatique : des outils pour permettre aux humains de se concentrer sur la résolution de problèmes

• Les humains ont créé des outils pour réduire les tâches répétitives, et le contrôle des algorithmes restait entre leurs mains
• Mais aujourd’hui, la pression pour produire rapidement des résultats réduit les occasions d’entraîner la concentration et la pensée
• Cette évolution pourrait finir par affaiblir la créativité humaine et la capacité à penser en profondeur

La vraie compétence technologique pour l’avenir : la concentration (Focus)

• Plus la technologie progresse, plus les capacités de réflexion propres à l’humain et la concentration deviennent importantes
• Plus que les performances de l’IA, l’essentiel est la capacité humaine à identifier et résoudre des problèmes complexes
• Plus que la maîtrise des LLM, la concentration et la capacité à comprendre l’essentiel ont de fortes chances de devenir les compétences clés de demain

[GN⁺]

Avis Hacker News

• Il est courant que les nouveaux étudiants perdent leur capacité de concentration. Pas seulement les LLMs : presque toutes les apps et startups sont en concurrence pour capter l’attention limitée des utilisateurs

  • Les LLMs ont supprimé la barrière qui obligeait les étudiants à faire un effort pour trouver des réponses. Il est facile de devenir accro aux réponses rapides et d’oublier de se demander pourquoi quelque chose fonctionne
  • Cependant, bien utilisés, les LLMs peuvent soutenir l’exploration. On a déjà vu des étudiants contester la première réponse et découvrir des idées plus profondes
  • Le vrai danger n’est pas l’outil, mais le fait d’oublier comment l’utiliser avec discernement

• Utiliser un aimbot dans Gunbound n’a pas rendu les joueurs meilleurs. Cela a détruit l’écosystème du jeu

  • Je ne sais pas si l’humanité pourra utiliser de manière responsable un « aimbot de la littératie »
  • L’ABS a rendu le freinage plus simple et plus sûr sur chaussée glissante. Les gens n’ont pas appris à mieux freiner, et beaucoup pensent encore qu’il faut appuyer plus fort sur la pédale pour que la voiture s’arrête plus vite
  • Beaucoup de personnes ont besoin de concentration. D’autres non, et elles doivent passer à l’échelle. Certains systèmes ont besoin d’un aimbot, d’autres non
  • L’avenir devra faire coexister toutes sortes de technologies

• Les moteurs de recherche offrent un bon choix entre exploration (parcourir une liste de résultats et des pages) et exploitation (cliquer sur le premier résultat)

  • Les LLMs n’offrent pas ce choix
  • Les LLMs sont très utiles pour l’exploration. Ils aident à résoudre des problèmes complexes et à affiner des idées. Ils peuvent aussi créer des boucles de feedback difficiles à obtenir même avec un partenaire humain

• Pouvoir se concentrer ressemble aujourd’hui à un privilège

  • Dans les années 1990, on pouvait travailler plusieurs semaines sans interruption. Aujourd’hui, il y a toujours des managers qui veulent des mises à jour ou des plans
  • Le vrai travail passe après les conversations

• Dans un monde riche en information, l’abondance d’information signifie la pénurie d’autre chose. L’information consomme l’attention de celui qui la reçoit

  • L’abondance d’information entraîne une pauvreté de l’attention, qu’il faut donc allouer efficacement

• L’opposé de la concentration, c’est la réactivité. Si l’on poste sur SO, on peut obtenir une réponse exacte, mais il faut savoir formuler la bonne question et avoir la patience d’attendre les réponses

  • Un LLM peut vous dire immédiatement quelque chose de faux. C’est réactif
  • Un excellent ingénieur doit être réactif envers son équipe, ses managers, ses clients et le business. Il doit aussi trouver du temps pour se concentrer
  • Depuis le Covid, il y a eu un grand changement culturel : des gens qui n’étaient ni asynchrones ni en remote se sont tous retrouvés en ligne
  • Il est facile de mesurer la réactivité, mais difficile de mesurer la qualité et la progression

• On perd sa concentration quand on utilise des LLMs

  • Copier-coller, copier-coller. Aucune compréhension réelle de la solution
  • On peut peut-être faire plus de choses, mais on n’y prend pas plaisir. Et maintenant, on ne peut plus revenir au simple fait de googler
  • J’aurais préféré que cela ne soit jamais inventé

• Ce sera une autre forme de concentration

  • On prédit régulièrement que la technologie va affaiblir des capacités autrefois considérées comme importantes
  • Les calculatrices ont fait que les enfants n’avaient plus besoin de faire du calcul mental à la main. Mais il faut toujours savoir interpréter les résultats
  • Les moteurs de recherche ont permis aux gens de trouver des réponses en quelques secondes. Mais il faut toujours savoir quoi chercher et comment utiliser ce qu’on a trouvé

• Il y a dix ans, des experts disaient déjà que les smartphones et les réseaux sociaux allaient tout changer. Il faut apprendre à les utiliser intelligemment

• Je ne suis pas d’accord avec l’idée d’assimiler la révolution des LLMs à la montée des moteurs de recherche comme Google dans les années 1990

  • Les LLMs encouragent l’exploitation immédiate. Les utilisateurs peuvent explorer quand la première solution ne fonctionne pas
  • La plupart des usages des LLM ressemblent en réalité à ceux d’un moteur de recherche : expliquer des choix de conception existants, chercher une bibliothèque adaptée à ses besoins ou générer des requêtes pertinentes