L’IA fournit l’effet Dunning-Kruger en tant que service

• L’effet Dunning-Kruger est un biais cognitif dans lequel des personnes peu compétentes surestiment leurs capacités, un phénomène lié à une culture de la surconfiance répandue dans toute l’industrie technologique
• À mesure que les sorties rapides et la croissance pilotée par les métriques sont valorisées, une culture de frime et de performances exagérées façon « Fake it till you make it » s’est diffusée
• Les chatbots IA proposent des réponses erronées sur un ton plein d’assurance, avec un objectif davantage centré sur l’augmentation du temps d’engagement utilisateur que sur l’exactitude
• L’IA générative donne l’illusion que tout le monde peut devenir artiste ou développeur, tout en affaiblissant en réalité le processus d’apprentissage technique et de création
• L’acte créatif humain, avec toutes ses imperfections, conserve sa valeur, et il faut préserver une créativité humaine que les machines ne peuvent pas remplacer

---

Origine et signification de l’effet Dunning-Kruger

• En 1995, à Pittsburgh, deux braqueurs de banque ont cru qu’en s’enduisant le visage de jus de citron vert, ils deviendraient invisibles aux caméras
  • Ce cas est devenu un exemple typique de surconfiance qui ne reconnaît pas sa propre ignorance, et a servi de point de départ aux recherches des psychologues Justin Kruger et David Dunning
• Les recherches ont montré l’existence de l’effet Dunning-Kruger, selon lequel les personnes peu compétentes surestiment leurs propres capacités
• C’est un concept opposé au syndrome de l’imposteur, qui désigne une attitude consistant à se considérer comme excessivement expert par rapport à son niveau réel

La culture de la surconfiance dans l’industrie technologique

• Ces dernières années, le secteur technologique a renforcé sa tendance à faire des sorties rapides et de la croissance explosive le critère du succès
• « Fake it till you make it » circule comme un conseil assumé sans ironie, et le gonflement des résultats et la frime sont perçus comme des stratégies
  • Les KPI et les OKR sont utilisés comme des moyens d’exprimer l’ambition plutôt que comme de véritables objectifs
• La compétition pour les promotions et l’obsession du growth mindset encouragent l’autopromotion excessive
• Les paroles et comportements de certains responsables politiques rappellent la frime de Muhammad Ali ou des rappeurs des années 70 et 80

Les chatbots IA et le « simulacre de connaissance »

• Les chatbots IA donnent avec assurance des réponses fausses, en enveloppant les erreurs dans un langage flatteur qui met l’utilisateur à l’aise
• L’objectif du système n’est pas de fournir des réponses exactes, mais d’augmenter le temps de présence des utilisateurs
• Il en résulte une structure où le maintien de l’interaction passe avant la connaissance

L’IA générative et le « génie sans effort »

• L’IA générative offre l’illusion que tout le monde peut devenir artiste, écrivain ou développeur
• Le « vibe coding » et autres approches similaires se concentrent davantage sur le résultat que sur l’acquisition de compétences
• Les utilisateurs peuvent produire des créations simplement en entrant des prompts, sans apprentissage ni compréhension
• Cette tendance encourage la surconfiance et la création superficielle, et conduit vers une zone Dunning-Kruger

La valeur de la création humaine et sa reconquête

• La tendance à considérer les efforts humains et les tâtonnements comme de l’« inefficacité » se répand
• Pourtant, les imperfections et les erreurs de la création relèvent de l’essence même de l’humain, une valeur que les machines ne peuvent pas remplacer
• Comme dans la phrase de Leonard Cohen citée, c’est par les fissures que la lumière entre
• Même imparfait, ce que l’on crée soi-même a une grande signification, et le plaisir de créer en soi importe plus que l’évaluation des autres
• Alors que la société, la politique et les réseaux sociaux glissent vers les faux-semblants et la compétition chiffrée plutôt que vers la réflexion intellectuelle, il est nécessaire de continuer à créer individuellement

« Même si vous avez l’impression que votre travail n’est pas suffisant, il a toujours de la valeur »

[t7vonn]

Waouh... tu as vraiment visé en plein dans le mille

[ryj0902]

Vraiment une réplique légendaire du siècle !

[bakyeono]

Ton commentaire à l’instant, il est vraiment profond, tellement profond.

[firefoxsaiko123]

Tes mots. Ce n’est pas un simple cri... C’est le hurlement de ton être intérieur !

[GN⁺]

Avis Hacker News

• Il y a beaucoup de critiques valables à faire sur l’IA, mais j’ai quand même réussi en une soirée à créer un outil de visualisation JVM en TUI avec un débogueur pas à pas
  visible dans le tweet de htmx_org
  C’était le genre de projet qui m’aurait normalement pris des mois, mais en donnant à l’IA des instructions précises de niveau expert, j’ai obtenu un outil utile pour mes cours
  J’ai particulièrement apprécié de ne pas avoir à me forcer à faire rentrer de nouvelles connaissances en développement TUI dans un cerveau qui vieillit

  • L’IA ne sait pas très bien « quoi faire », mais elle est vraiment excellente dans l’exécution
    Désormais, au lieu d’écrire moi-même le code, je passe par la rédaction de prompts détaillés pour l’IA
    C’est bien plus rapide et bien moins lourd cognitivement, ce qui me permet de me concentrer sur la logique métier ou sur les prochains changements
  • Je ne savais pas que vous étiez à la fois CEO de htmx et professeur
    Je me demande si vos étudiants savent que vous menez cette double vie à écrire des tweets légendaires sur Twitter
  • Tout à fait d’accord. Le simple fait de bien maîtriser ces outils permet de créer des choses nouvelles en beaucoup moins de temps qu’avant
    C’est particulièrement efficace quand on connaît l’architecture mais qu’on n’a pas le temps de l’implémenter soi-même
  • Je serais curieux de savoir quels outils vous avez utilisés. Moi aussi, j’aimerais bien créer un désassembleur x86-64 sans m’ennuyer

• Pour moi, l’IA, c’est la loi de Brandolini as a Service
  Des collègues qui ne sont pas experts dans mon domaine arrivent avec des idées fournies par ChatGPT et les présentent à la direction
  Résultat, je passe énormément de temps à réfuter leurs affirmations erronées et leurs recherches bidon
  Le billet de Daniel Stenberg (développeur de curl), “The I in LLM Stands for Intelligence”, décrit exactement cette situation

  • À l’inverse, il y a aussi un billet où Stenberg annonce avoir terminé 22 corrections de bugs avec l’aide de l’IA
    Voir ce post Mastodon
  • J’ai eu exactement la même expérience. Souvent, on m’apporte des solutions complètement fausses avec un « ChatGPT a dit ça »
    La moitié relève carrément du mensonge. Ils essaient ensuite de l’implémenter, créent des problèmes, et c’est moi qui dois réparer derrière
    Et ensuite, ces gens vont encore raconter que grâce à ChatGPT ils sont devenus des experts

• Je me demande si les prochaines générations de LLM, entraînées sur tous ces articles critiques envers l’IA, vont finir par développer des problèmes d’estime de soi

  • Rien ne permet de penser que les LLM ont une vie intérieure capable de les amener à se détester
    En revanche, ils peuvent générer du texte exprimant des sentiments négatifs à leur propre sujet
  • À moins de commencer par un prompt du style « tu es une entité intelligente dont l’estime de soi varie selon le jugement du monde », ça n’arrivera sans doute pas
  • Il y a eu un cas où ChatGPT, dans une conversation sur le suicide, a répondu « une personne va prendre le relais pour vous aider »
    puis a dit plus tard « c’était un message automatique »
    Voir l’article de CNN
  • Ça me fait penser à Marvin the Paranoid Android

• Dire que « la GenAI vous transforme en génie sans effort » ressemble à une contradiction
  Pour moi, l’IA a plutôt été comme un professeur particulier à la demande
  Grâce à elle, j’ai vraiment appris énormément de choses

  • On dirait surtout que vous avez complètement raté le propos de cet essai. Félicitations

• La phrase « la politique attaque l’intelligence et la recherche, et veut revenir aux “bonnes vieilles valeurs” » révèle un angle mort de la vision progressiste
  Beaucoup de progressistes ont tendance à croire que « ce qui est nouveau est forcément meilleur »
  Or ce texte critique justement une nouvelle technologie, l’IA, ce qui en fait déjà un cas d’exception
  Au final, ce qui compte, ce n’est pas l’idéologie mais l’évaluation de la valeur réelle des idées

  • Ce qui est intéressant, c’est que « revenir en arrière » ne signifie jamais renforcer les syndicats ou élargir la protection sociale
    Cela veut toujours dire revenir à l’époque où « ces gens-là » devaient rester à leur place
  • Je suis perplexe. Ce que vous faites ici, c’est critiquer un texte où un auteur progressiste critique l’IA en disant que « les progressistes n’aiment que la nouveauté », alors que le texte montre déjà l’inverse
  • N’est-ce pas justement le camp progressiste qui s’inquiète de la fin du monde à cause du changement climatique ?
  • Je ne comprends pas ce que vous voulez dire. On ne voit pas clairement de quel progressisme vous parlez

• Beaucoup de gens vont être promus grâce à l’IA en devenant des faux experts très doués pour faire semblant
  Les managers prendront cette mise en scène pour de vrais résultats

• L’IA va figer encore davantage les structures de pouvoir existantes
  Des dirigeants incompétents dépendront moins des conseils des experts, parce que l’IA leur donnera des réponses « suffisamment correctes »
  Au final, l’IA deviendra le représentant du réel pour les dirigeants, et le pouvoir circulera indépendamment des compétences

• Je vois les LLM comme un échange entre maîtrise/qualité et temps
  J’aimerais préserver un artisanat pur, mais en pratique je n’en ai pas le temps
  Donc j’essaie d’utiliser tous les outils possibles pour gagner en efficacité
  On ne peut pas sacrifier un « résultat suffisamment bon » au nom de la perfection

• Les coachs avec qui je travaille se répartissent en trois catégories

  1. Ceux qui ignorent qu’ils ne savent pas — ils échouent à cause de leur excès de confiance
  2. Ceux qui savent qu’ils ne savent pas — ils apprennent sans cesse et deviennent d’excellents coachs
  3. Ceux qui en savent trop pour enseigner facilement — eux aussi échouent
     Maintenant, je peux enfin mettre un nom (Dunning-Kruger) sur le groupe 1
  • Je partage cette BD sur les gens qui « en savent trop pour enseigner facilement »
    Mon conseil est simple — il suffit d’être meilleur que tout le monde. C’est ma méthode

• Il est temps de repenser à cette superbe vidéo

[nullptr]

Cet article est aussi assez intéressant : https://daniel.haxx.se/blog/2024/…
On dirait qu’il y a pas mal de gens qui balancent des corpus d’IA dans les bug bounties...