J’en ai assez de parler à l’IA
(orchidfiles.com)- J’ai découvert un dépôt GitHub contenant un malware et j’ai demandé à une IA comment réagir, mais je n’ai obtenu aucune réponse utile ; puis, après avoir ouvert une discussion sur GitHub, une personne a laissé exactement la même réponse que l’IA
- Quand j’ai signalé que cette réponse était identique à celle fournie par l’IA, le commentaire a été supprimé, puis quelqu’un d’autre a de nouveau posté la même réponse générée par l’IA
- Au travail, lorsque j’ai posé au responsable de l’activité une question liée à mes tâches, j’ai reçu en réponse une capture d’écran de ChatGPT qui ne correspondait pas à ma question et dont le contenu était erroné
- Quand j’ai dit que la réponse n’avait aucun rapport avec ma question, une autre capture d’écran de ChatGPT est arrivée une minute plus tard ; il est apparu que mon interlocuteur avait simplement fait une capture et me l’avait envoyée sans même lire la réponse de l’IA
- Sur Reddit, après avoir échangé quelques messages au sujet d’une publication, j’ai découvert que mon interlocuteur était un agent IA
J’en ai marre de parler à l’intelligence artificielle.
Je veux parler à de vraies personnes.
Mais même quand je parle à des gens, ils transmettent ma question à une intelligence artificielle et m’envoient sa réponse.
8 commentaires
Avis sur Lobste.rs
Au lieu de GitHub ou des réseaux sociaux commerciaux, si vous voulez parler avec des gens, il suffit de rejoindre le Fediverse
On y trouve pas mal de personnes qui ne veulent rien avoir à faire avec l’« IA », et pour les projets, Codeberg vaut le détour, car il n’y pousse pas des résultats de faible qualité comme GitHub
Même en subissant le DDoS des crawlers, sa disponibilité était récemment meilleure que celle de GitHub, et ce genre de choix aide pas mal à préserver le peu d’énergie mentale qu’il reste et à éviter les répondeurs bâclés
Le contexte, c’est qu’il travaille comme développeur en entreprise et qu’il a posé une question liée au travail à un responsable métier
S’il coupe la conversation avec son supérieur, il perdra bientôt son emploi, et s’il ne publie pas sur GitHub la PR corrigeant un problème signalé par quelqu’un, les autres personnes concernées ne pourront pas voir cette correction
Il pourrait la corriger juste pour lui et la garder de son côté, mais on peut se demander à quoi cela servirait
Quand les collègues répondent avec de l’IA, c’est à peu près aussi utile qu’un coup de pied de sable en plein visage, mais il n’y a aucun levier pour les faire arrêter
Honnêtement, cela donne presque envie de quitter complètement le secteur
C’est presque l’inverse du problème de la « forêt sombre », une sorte de « forêt de lumière aveuglante »
Dans un monde où n’importe qui peut produire du contenu crédible en apparence, il suffit de regarder dans un endroit dont on n’est pas sûr qu’il soit sûr pour risquer de s’aveugler
C’est le genre d’endroit où l’on vous dit : « cette pièce tombera en panne dans X mois, essayez plutôt celle-ci » ou « pour faire ____, utilisez ces articles en suivant cette procédure »
Mais la dernière fois, l’employé a simplement ouvert un LLM pour me montrer la réponse
Non, moi j’étais allé à la quincaillerie pour demander à une vraie personne, comme avant
Je suis fatigué maintenant, bordel
Je suis tout à fait d’accord. Je trouve triste de voir des collègues se défaire de leur sens des responsabilités et se reposer sur l’IA pour leur identité.
Je comprends ce qu’on ressent quand on confie les commandes à Skynet. lol
Je comprends.
À l’heure où l’IA est activement déployée, j’ai l’impression qu’il faut au contraire lire davantage et essayer d’écrire soi-même.
Moi, c’est plutôt parler avec des gens que je n’aime pas,
alors en ce moment, je préfère largement discuter avec une IA...
Le fait que vous ne trouviez même pas ça bizarre, c’est bien le problème…
Avis sur Hacker News
Le problème fondamental, c’est que des gens transfèrent ma question à une IA puis me renvoient la réponse de l’IA
Ça donne profondément une impression triste et malaisante, comme voir quelqu’un demander quelque chose à un adulte, qui appelle ensuite sa mère pour qu’elle réponde à sa place
On perd le sentiment de parler à quelqu’un qui est parfaitement capable de répondre par lui-même
Il peut s’agir de demander l’avis de l’autre par politesse avant de faire un changement, ou de partager du contexte sans exposer trop frontalement sa propre opinion
On peut aussi manquer d’assurance sur un plan et vouloir une validation directe de cette personne, ou simplement être bloqué et avoir besoin d’entamer une conversation humaine
Utiliser l’IA dans chacun de ces moments enlève des occasions de construire une vraie confiance dans la culture de travail
Certaines personnes sont fondamentalement paresseuses et refilent à d’autres le travail de réflexion
Je trouve toujours lamentable d’envoyer une réponse d’IA, mais si on demande de l’aide, il faut d’abord avoir fourni un minimum d’effort
Par paresse, j’entends le fait de ne même pas chercher d’abord alors qu’on sait soi-même où se trouve la documentation nécessaire
Je ne parle pas des problèmes qui demandent une connaissance métier approfondie et prennent du temps ; personnellement, je ne répondrais pas avec une réponse d’IA, mais je comprends parfois la tentation
Quand « l’expert » n’a pas su répondre immédiatement, il a dit qu’il allait « demander à un outil d’IA », et je l’ai interrompu pour dire que c’était une insulte à l’intelligence
J’étais venu chercher l’avis d’un expert, pas regarder quelqu’un relancer à ma place le même prompt IA que j’avais déjà essayé
Il devient difficile de distinguer les hallucinations, les malentendus et les désaccords
Il faut traiter chaque point avec la prudence qu’on aurait pour une production humaine tout en gardant en tête la possibilité d’une hallucination, ce qui rend la charge pour le destinataire extrêmement lourde par rapport au faible effort fourni pour envoyer une sortie d’IA
Et pire encore, il y a de fortes chances que cette réponse soit ensuite recollée dans la fenêtre de chat d’un grand modèle de langage
Envoyer brut une sortie d’IA est vraiment une attitude déplorable, et ce n’est qu’une des raisons
Ça ne vaut pas la peine d’interagir avec ce genre de personnes
Quand je travaillais comme développeur en entreprise, j’ai posé une question de travail à un responsable métier, qui m’a envoyé une capture d’écran de ChatGPT ; quand j’ai répondu que cela n’avait rien à voir avec ma question et que tout était faux, il m’a renvoyé une autre capture d’écran de ChatGPT une minute plus tard : on est au-delà de l’impolitesse
Mon entreprise n’en est pas encore à ce niveau, mais il y a déjà des choses agaçantes
Mon manager prépare des notes où il colle des conversations du chatbot Gemini dans le wiki en disant qu’il « étudie » une fonctionnalité
Bien sûr, ce n’est pas une spécification, mais c’est quand même traité comme une bonne base pour démarrer le travail sur la fonctionnalité
Comme Gemini a déjà choisi des bibliothèques de code et des concepts, de l’extérieur on a l’impression qu’il ne reste plus qu’à les transcrire dans le produit
En réalité, ce n’est pas du tout aussi simple, et le plus souvent cela gêne plus que ça n’aide
Mais du coup, comme le « plan » existe déjà et semble si clair, on demande pourquoi la fonctionnalité n’est toujours pas faite
Les outils d’analyse sectorielle étaient dans Excel, et mon rôle consistait à les transformer en produit logiciel utilisable directement par les clients
Le patron avait un diplôme d’ingénieur en mécanique, mais chaque fois que je lui posais une question technique sur l’outil, il repartait dans son argumentaire commercial sur le produit que j’étais censé construire
Il était toujours en mode conquête de nouveaux contrats, comme s’il ne savait jamais sortir du « mode commercial »
Si je travaillais sous ses ordres aujourd’hui, je suis sûr qu’il me renverrait vers un grand modèle de langage pour n’importe quelle question
Avant, cela voulait dire « garbage in, garbage out », autrement dit : si on met des déchets dans l’ordinateur, on obtient des déchets en sortie
Aujourd’hui, GIGO ressemble plutôt à « garbage in, gospel out »
Peu importe à quel point l’entrée est bancale, la sortie est traitée comme la parole divine
Des managers non techniques saisissent un prompt dans un grand modèle de langage, récupèrent un document de cinq pages plein d’assurance, avec même les bibliothèques déjà choisies, puis s’imaginent avoir fait 80 % du travail
Les développeurs doivent ensuite passer des heures à déboguer et réfuter une architecture hallucinée afin de prouver pourquoi l’approche de l’IA n’est pas compatible avec la base de code existante
Toute la charge réelle de gestion produit est ainsi totalement transférée à l’équipe de développement sous forme de garde d’enfants de l’IA
Ce responsable métier a probablement eu le sentiment d’économiser beaucoup de temps et d’effort mental dans cette interaction
Comme il n’a même pas caché qu’il utilisait un grand modèle de langage, il a peut-être aussi eu l’impression de marquer des points en « sincérité » et en « honnêteté »
La relation en a peut-être été un peu abîmée, mais seul le temps dira si c’était un dommage significatif ; et à froid, la durée de vie d’une entreprise étant courte, il est possible que cela n’ait au fond pas beaucoup d’importance
Lors de la panne d’électricité massive d’une journée en Espagne et au Portugal en 2025, il s’est passé quelque chose de très surprenant
Quand même les antennes-relais sont tombées, tout le monde est sorti dans les parcs pour traîner ensemble
Les gens se sont reconnectés avec des amis et des inconnus, et comme il n’y avait nulle part où aller ni rien pour les distraire, tout le monde était vraiment là, dans l’instant
On voyait les gens prendre leur téléphone, réaliser qu’il n’y avait rien dessus, le reposer, puis reprendre la conversation
Dans ces endroits, les gens étaient présents comme je ne l’avais jamais vu auparavant, et c’était assez magique
En banlieue, beaucoup de voisins se sont rencontrés pour la première fois ou ont reparlé en personne après des années
Cette vie de banlieue très ordinaire d’autrefois est revenue : discuter dans l’allée, se prêter et s’emprunter des outils ou des affaires
C’était frappant de voir à quel point nous étions déjà devenus déconnectés alors que les smartphones n’étaient quasi universels dans la région que depuis cinq ans à peine
À Tel Aviv, le samedi, les magasins ferment, il y a bien moins de restaurants, moins de programmes à la télévision, et des lieux comme les salles de sport ouvrent tard ou ferment tôt
Les parcs et les plages sont pleins de gens qui sont simplement là
Pendant la panne, tout le monde est arrivé à la même conclusion : c’était agréable de simplement être ensemble et de parler, mais dès le lendemain, cette leçon avait déjà été oubliée
Pendant 18 jours, il n’y avait ni électricité ni service mobile
Les premiers jours, les routes étaient tellement abîmées ou bloquées que, dans beaucoup d’endroits, les seuls moyens de se déplacer étaient à pied, à vélo ou en ATV
Du jour au lendemain, on allait voir ses voisins à pied sans prévenir, les gens faisaient des grillades dans leur jardin de devant, et bien sûr les téléphones n’avaient plus aucune utilité
Les premiers jours, on prenait machinalement son téléphone, on réalisait qu’il n’y avait rien, on le reposait, puis au bout d’un moment on a même cessé de le faire
Beaucoup de gens ont souffert et les dégâts ont été importants, mais d’une certaine façon, on vivait aussi plutôt bien
J’aimais les dessins animés, mais la télé ne diffusait qu’à 10 h du matin, donc on n’avait pas d’autre choix que d’aller jouer dehors
La maison de plage de mes grands-parents avait une vieille télévision à tube qui mettait des heures à chauffer, donc on ne l’allumait presque jamais
C’est sur cette télé que j’ai vu Tyson perdre contre Buster Douglas, et elle mettait tellement longtemps à s’éteindre complètement qu’il restait encore un petit point lumineux au centre de l’écran le lendemain matin
Le fait de ne pas avoir accès à la télé était libérateur, et encore aujourd’hui je pense que ça ne me dérangerait pas de passer les week-ends sans Internet
Quelqu’un a déjà confié à l’IA jusqu’à une dispute avec moi, via Slack ou une réponse d’e-mail générée
Ce n’était même pas pour transmettre des informations, mais pour rédiger des phrases négatives, plates, disant qu’il ne continuerait pas la discussion sur ce sujet
Cette personne avait un style très particulier, donc le passage au style IA était tellement évident et glaçant
Le processus par lequel j’ai compris que ma voix n’avait soudain plus d’importance, et que je parlais à quelque chose qui rejetait de façon créative et sans fin mes idées sans jamais vraiment les traiter, a été désagréable à un niveau difficile à décrire
Ce comportement s’est accumulé, mais personne ne s’en est occupé, et personne parmi ceux à qui j’en ai parlé n’a vraiment essayé d’y mettre un frein
La meilleure solution a été d’organiser une réunion en présentiel avec plus de deux personnes de chaque côté
La confiance s’est effondrée, et toutes les réunions avec cette équipe ont fini par être enregistrées et transcrites ; les gens ont commencé à parler comme s’ils étaient sur scène au lieu d’essayer de résoudre un problème commun
Même les tâches de base se sont arrêtées, et j’ai fini par partir
C’était un projet assez important, avec un nom que des gens ici reconnaîtraient, mais merci de ne pas demander lequel
Il s’est passé quelque chose de similaire dans l’espace de chat « public » de l’entreprise, et même si notre boîte adopte assez activement les grands modèles de langage et les workflows agentiques, la réaction a surtout été du genre « je ne vais pas lire tout ça » et « eh, ce n’est pas très professionnel »
Il faudrait faire honte aux gens qui essaient de sous-traiter toute leur pensée à un chatbot ou à un agent
Ça pourrait marcher
C’est une question de limites à poser
Et cette vague est imminente
J’ai appelé l’Apple Store du coin et c’est probablement une IA qui a répondu
Ça m’allait, je voulais juste connaître les horaires d’ouverture, mais comme elle a demandé si j’avais besoin d’autre chose, j’ai demandé les numéros gagnants de la loterie
Elle a réfléchi un bon moment avant de répondre qu’elle devait me transférer à un employé du magasin
Maintenant je sais comment éviter une tonne de questions et être mis en relation avec une vraie personne
Si on ne s’arrête pas avant d’entendre la tonalité de transfert, ça marche presque toujours
J’ai cinq enfants de la génération Z, et ils rejettent fortement l’IA générative ; leurs pairs seraient aussi en colère à cause de son impact sur leur vie
En tant que technicien, j’ai tendance à adopter rapidement les nouveautés, car c’est ainsi que j’ai survécu longtemps dans l’IT
Je ne suis pas encore prêt à prendre ma retraite, donc j’ai aussi intérêt à continuer à comprendre ce qui est en jeu
Malgré tout, le texte d’origine semble bien pointer les problèmes psychologiques que nous traversons
J’ai aussi commencé à ralentir mon usage de Claude
Avant, je me créais de nouveaux objectifs de travail, mais maintenant je filtre mes tâches existantes selon leur nécessité, donc je passe bien moins de temps avec Claude
J’imagine que les entreprises d’IA sentent aussi cette tendance, et on dirait que la phase d’ajustement dont on parle approche
L’IA générative est excellente comme outil, mais elle ne peut pas être tout
Je n’avais jamais exprimé publiquement ce point de vue, et un jour il a simplement manifesté son aversion pour l’IA
Je travaille dans l’IT depuis longtemps et je suis plutôt proche du camp sceptique vis-à-vis de l’IA, mais l’utiliser comme outil pertinent dans mon domaine me va, et cela a clairement de la valeur
En revanche, l’imposer partout de force et s’en servir comme substitut général à la créativité humaine est inacceptable
Je suis rassuré d’apprendre que la Gen Z ressent cela aussi, et j’espère que si une génération entière s’y oppose, cela aidera au moins à ralentir un peu les choses
Pour les développeurs logiciel, cette question est encore plus difficile
Parce que l’IA est particulièrement performante en développement logiciel
Il faut présenter des arguments business très solides pour justifier qu’il ne faudrait pas l’utiliser
Je n’aime pas ça, mais c’est la réalité, c’est le monde dans lequel on vit
Si on ne l’accepte pas, on se fait distancer
Ici, j’aimerais accorder un peu de bonne foi aux gens
Ça me rappelle le phénomène de la recherche Google dont d’autres ont parlé, qui a fini par donner lieu au site de blague “let me google that for you”
Je ne pense pas que ce soit forcément parce que les gens sont stupides ou paresseux
Ces deux facteurs jouent, mais une autre grande raison, c’est que les gens sont submergés par le travail
Une question de plus peut ne pas apparaître comme une occasion d’apprendre ou d’aider un collègue, mais comme une tâche supplémentaire à traiter le plus vite possible pour que la montagne de travail ne grossisse pas encore
J’espère qu’un jour, l’IA automatisera une grande partie du travail pénible au bureau, de sorte que les gens auront enfin le temps d’approfondir les questions de leurs collègues, d’y répondre correctement et d’avoir de vraies conversations
C’est une vision assez optimiste, et je sais qu’il faudra peut-être du temps pour en arriver là, mais cela fait aussi quelques années que les gens ont cessé de m’envoyer des résultats de recherche Google
Ce phénomène est passé assez vite, et j’aimerais que ce soit pareil cette fois aussi
Je suis en train de voyager en train à travers l’Europe, et sortir chaque jour pour rencontrer des habitants et d’autres voyageurs est vraiment un énorme bénéfice
Je le recommande vivement
J’aime généralement parler avec les gens, mais voyager longtemps devient très fatigant
Tu parles anglais à toutes les personnes que tu rencontres ?
Parce que les gens de Wall St prennent le métro pour aller travailler
L’IA révèle que, pour certaines personnes, la seule valeur qu’elles avaient était de pouvoir accéder à des informations auxquelles les autres n’avaient pas accès
Maintenant, si elles délèguent entièrement même cet unique avantage à l’IA, elles ne font plus que servir de relais à une IA placée au même niveau informationnel que leur interlocuteur, et elles finiront par s’exclure elles-mêmes du marché du travail
“Si vous n’êtes qu’un proxy IA, quelle valeur ajoutez-vous exactement à l’organisation ?”
La plupart de ceux qui commentent ici diraient clairement “ne faites pas ça”, mais si quelqu’un qui lit en silence a fait cela récemment ou prévoit de le faire, je lui recommande de réfléchir à ce point
Si vous n’êtes qu’un proxy IA, vous vous portez volontaire pour être tout devant sur la ligne de licenciement
Même si les entreprises commencent à tiquer sur le coût de l’IA, elle reste encore bien moins chère que vous
C’est pareil si quelqu’un qui ne connaît pas le droit demande un conseil juridique à Claude en espérant un résultat aussi bon que celui d’un avocat, ou si une personne qui n’est pas médecin demande un avis médical
J’espère au minimum que ces gens relisent les réponses avant de les transmettre
Si l’on est vraiment expert, on peut filtrer les absurdités et reformuler les prompts mieux qu’un non-spécialiste ; il y a donc de la valeur là-dedans
Dans de très rares cas, on pourra peut-être même réellement y parvenir soi-même
L’IA va faire ressortir très vite le meilleur et le pire de nos collègues
Il y a toujours eu des gens qui travaillaient au strict minimum pour éviter d’être licenciés, et l’IA rend simplement cela plus visible
Et quand l’IA supprimera inévitablement certains emplois de bureau tout en en créant d’autres, ce sont ces personnes qui partiront les premières
Elles pourraient même ne pas obtenir les nouveaux emplois créés, parce qu’elles auront fini par laisser pourrir les quelques neurones qu’elles avaient au départ
Dans mes prompts, je fournis toute la connaissance et tout le plan du contenu, puis je relis et je corrige manuellement
Quelqu’un qui connaît le sujet verra que le texte est généré, mais cela ne me dérange pas vraiment
Cela reste mon savoir, et je peux toujours discuter du fond en profondeur