Montrer à quelqu’un une production de l’IA est impoli

• Transmettre sans discernement à d’autres personnes un texte généré par l’IA est un comportement qui risque de les embrouiller
• Autrefois, un texte rédigé constituait une preuve de pensée humaine, mais les progrès de l’IA ont brisé cette confiance
• La diffusion d’un contenu généré par l’IA n’est acceptable que si l’expéditeur s’est approprié le résultat pour le reformuler dans ses propres mots, ou avec le consentement du destinataire
• L’abus des messages produits par l’IA provoque chez le destinataire une fatigue informationnelle et un gaspillage de ressources
• Relayer directement des réponses d’IA sans respecter l’étiquette de l’IA est considéré comme un comportement socialement impoli

---

Le contexte de Blindsight et la signification du signal

• Dans Blindsight, le roman de science-fiction de Peter Watts, l’intrigue porte sur la rencontre entre l’humanité et une espèce extraterrestre dépourvue de conscience (les scramblers)
• Contrairement aux humains, les scramblers détestent les informations inutiles et considèrent la transmission de signaux inutiles comme un acte d’invasion
• De la même manière que les humains diffusent n’importe comment des textes dénués de sens, abuser de l’information est interprété comme une attaque qui gaspille les ressources d’autrui

Le concept de proof-of-thought

• Autrefois, seuls les textes écrits directement par une personne constituaient le sujet de la communication, si bien que lire quelque chose revenait naturellement à pouvoir faire confiance à une trace de pensée humaine
• Avec la généralisation de l’IA, les textes, le code, les images, les vidéos et tous les médias sont produits bien trop facilement en masse, ce qui fait disparaître la preuve de pensée humaine (proof-of-thought) dans leur contenu
• Désormais, dès lors que quelqu’un retransmet une production de l’IA, le destinataire risque de voir son temps précieux absorbé par une information dénuée de sens
• Par nature, l’IA ne répond que lorsqu’on la sollicite, donc si personne ne la sollicite pas, elle ne déclenche pas d’elle-même un déluge d’informations
• En fin de compte, le problème de fond n’est pas l’IA elle-même, mais les humains qui exploitent et diffusent sans discernement ses productions

La nécessité d’une étiquette de l’IA

• Lorsqu’on transmet tel quel à quelqu’un le résultat d’une IA, il faut impérativement qu’il y ait un accord mutuel ou un consentement explicite
• Si l’on dit à quelqu’un quelque chose comme « J’ai demandé à ChatGPT et voilà ce qu’il m’a répondu », l’interlocuteur peut le percevoir comme de l’impolitesse
• Transmettre la réponse fournie par une IA sans opinion ni jugement personnel provoque chez l’autre de l’inconfort et une pollution informationnelle
• Par exemple, dire « J’ai obtenu cette réponse avec ChatGPT ; si tu veux, je peux te montrer le log de la conversation » laisse à l’autre une possibilité de choix
• Quand on fait relire son travail, il est préférable de ne pas dire « C’est un contenu généré automatiquement par l’IA, regarde-le directement », mais d’effectuer soi-même une relecture puis d’en envoyer un résumé

Conclusion : précautions à prendre lors de la diffusion de productions de l’IA

• Contrairement aux scramblers, les humains ne sont pas des êtres qui reçoivent passivement des signaux dénués de sens, mais des êtres capables de choisir ce qu’ils acceptent
• Respecter l’étiquette de l’IA et éviter de transmettre directement des textes produits par l’IA relève de la politesse
• Même lorsqu’on exploite des productions de l’IA, il faut toujours respecter le temps et l’attention de la personne qui les reçoit
• Quand on veut transmettre tel quel un résultat obtenu via l’IA, il est important de prendre d’abord l’habitude de demander l’accord du destinataire
• Dans un monde saturé par le « bruit » généré par l’IA, la capacité à adopter l’information de manière responsable et à la filtrer soi-même doit devenir une norme de savoir-vivre social

[GN⁺]

Avis Hacker News

• J’aimerais que certains collègues arrêtent d’écrire leurs e-mails ou messages Teams avec des LLM ; ces messages paraissent tellement peu investis que je n’ai même plus envie de les lire

  • Il arrive parfois qu’un collègue laisse par erreur toute sa conversation avec l’IA, et ça se voit immédiatement. Récemment, j’ai reçu un e-mail qui se terminait par : « Voulez-vous que je le mette en forme dans Outlook, ou que je vous aide à le publier dans un canal précis ou sur une liste de diffusion ? »
  • Dans ce genre de cas, j’ai essayé de demander directement : « Il semble qu’une partie des messages que vous m’envoyez soit générée par un LLM. J’apprécie la recherche d’une grammaire et d’un style corrects, mais je préfère largement quelques fautes ou une formulation un peu brute plutôt qu’un sens déformé ou un contexte effacé. À l’avenir, j’aimerais que vous les écriviez vous-même. Dans nos communications internes, les minuscules ou un style oral ne me dérangent pas du tout. »
  • Des personnes qui ont des difficultés d’écriture à cause d’un handicap peuvent exprimer leurs idées bien mieux qu’avant grâce à l’aide de l’IA. Même si ce n’est pas exactement le même sujet ici, c’est aussi quelque chose qu’il faut garder à l’esprit
  • LinkedIn est probablement le pire endroit pour ça. C’était déjà rempli de « dilution corporate/professionnelle », mais maintenant l’interface pousse activement des réponses générées par IA. Je pense que c’est le pire réseau social. Exemple : « Vraiment très perspicace ! Transformer des tâches quotidiennes en opportunités de branding transformationnelles, c’est la marque d’un véritable maître de l’auto-promotion ! »
  • J’ai déjà donné ce retour directement à un collègue. Une personne qui me reportait a commencé à me répondre avec de l’AI slop, alors je lui ai demandé : « C’est toi qui as écrit ça ? » Comme la réponse était non, je lui ai dit clairement : « J’ai l’impression que tu ne m’écoutes pas vraiment quand tu fais ça. » Heureusement, il a arrêté ensuite. À mesure que les modèles deviennent plus intelligents, ce sera sans doute plus difficile à repérer, mais je pense qu’au final ce sont surtout les gens qui collent de l’IA partout sans y penser qui en paieront le prix. (Comme dans un épisode de South Park) ils peuvent se retrouver impliqués dans un commit qu’ils ne comprennent même pas et devoir en assumer la responsabilité

• Quand on pose une question à quelqu’un, ce n’est pas seulement pour obtenir une réponse technique ; c’est aussi pour entendre une idée inattendue, créer un lien ou trouver un point de départ à une collaboration. Une vraie conversation humaine ouvre des chemins et des ramifications de pensée ; l’IA, elle, paraît simplement sans vie. Si quelqu’un me copie-colle une réponse faite par IA, j’en conclus qu’il ne s’intéresse pas du tout à moi. Je n’ai pas envie d’interagir avec ce genre de personne

  • Dans une conversation, ça donne la même impression que « t’avais qu’à chercher sur Google »

• J’ai déjà vu une PR avec le slogan « PR codée à l’émotion en 15 minutes, merci de relire ». Sauf qu’en réalité, l’auteur de la PR ne laissait même pas ce genre de mention, et ne l’admettait pas non plus quand le reviewer lui demandait directement. Mes commentaires de review étaient aussitôt passés à l’IA, puis une PR modifiée de travers réapparaissait 10 minutes plus tard, sans que mon retour principal soit pris en compte. Franchement, j’aimerais mieux pouvoir parler directement à l’IA. (Et pour info, je n’ai même pas le pouvoir d’ignorer ou de fermer la PR)

  • Il ne faut pas ignorer ou fermer la PR, il faut engager la conversation. L’IA n’est pas une personne, et il est important de faire comprendre que s’il soumet du code buggé ou de mauvaise qualité, la responsabilité retombera bien sur celui qui l’a soumis. Et s’il compte se contenter de relayer la sortie de l’IA sans la relire lui-même, alors il n’apporte en réalité aucune valeur. S’il y a autour de toi des gens qui ne transmettent que de l’AI slop, il faut peut-être voir ça comme une occasion de mentorat et de leur montrer la bonne direction ; ça pourrait même contribuer à relever le niveau de toute l’industrie. J’ai la conviction que, dans le futur, les vraies compétences différenciantes seront la pensée critique, le débogage et la capacité à relier les choses au contexte métier ; ceux qui ne les ont pas prendront de plus en plus de retard
  • Je pense que la réalité est encore plus déprimante. Confier tout le processus de review à l’IA risque aussi de dégrader l’évaluation de ses propres compétences. Je me demande s’il ne faudrait pas pénaliser ça dans les évaluations de performance
  • La confiance se construit lentement et s’effondre en un instant. Si quelqu’un continue à me forcer à relire des PR médiocres générées par IA sans accord préalable, je ne relirai pas sa PR suivante
  • Quelle horreur de situation, ça ressemble vraiment à un enfer professionnel
  • Dans ce cas, en parler directement à son manager peut aussi être une option

• Je me reconnais profondément dans l’idée que « écrire coûtait plus cher que lire ». Avec les LLM, cette équation s’est inversée et, dans mon cas, le temps passé en code review a explosé. Comme auteur et reviewer se retrouvent souvent avec un niveau de compréhension comparable du changement de code, il devient d’autant plus important que la PR soit rédigée de façon claire. Je me demande aussi quels effets cachés ce changement va produire

  • Autrefois, peindre un paysage demandait bien plus de temps que regarder un paysage réel, alors qu’aujourd’hui les deux demandent à peu près le même effort. L’humanité s’est bien adaptée à ce genre de changement, et je suis heureux de vivre dans un monde avec la photographie. Je pense qu’une forte perception négative va naturellement émerger vis-à-vis des contenus générés par IA non signalés explicitement, ainsi que des contenus insuffisamment vérifiés

• Le fait que des gens racontent maintenant leurs conversations avec ChatGPT est devenu une sorte de nouveau « récit du rêve que j’ai fait hier » (ce qui est un peu dommage, car il y a pourtant beaucoup de choses dont j’aimerais vraiment parler, et même ces conversations-là deviennent difficiles à avoir)

  • Parler d’une conversation avec une IA en disant « j’ai eu cette expérience, voilà ce que j’y ai trouvé intéressant et voilà l’effet que ça m’a fait » reste tout à fait humain et valable. En revanche, transmettre la conversation telle quelle revient à dire : « Je t’ai donné l’input, maintenant à toi de réfléchir au résultat et d’en faire quelque chose. » Il m’arrive moi aussi de partager avec un ami ou ma partenaire ce que m’ont inspiré mes échanges avec Claude ou ChatGPT, mais je ne partage pas le transcript brut
  • Un rêve, au moins, c’est le produit direct de mon cerveau ; ChatGPT, c’est le produit de cerveaux « mis en saumure » de milliers d’internautes qui réagissent instantanément à un prompt. Ce n’est pas du tout le même type de résultat
  • J’ai eu exactement la même impression. C’est intéressant pour la personne qui l’a vécu, mais pas tellement pour celle qui écoute. Parfois, jeter un petit coup d’œil dans la tête de quelqu’un peut sembler nouveau, mais le contenu lui-même importe peu. Les rêves comme les réponses de l’IA se ressemblent dans leur nature fondamentalement « hallucinatoire » — autrement dit, dans leur absence de contenu substantiel. Au final, tout ramène à l’essence même de la communication
  • En fait, ça ressemble plutôt à « j’ai demandé à un oncle ivre », sauf que la réponse était livrée avec énormément d’assurance

• Si quelqu’un transmet un résultat généré par IA, il faut l’indiquer clairement. Le fait d’avoir utilisé l’IA n’excuse pas une mauvaise qualité, et il est important de citer toutes les sources. Si l’on ne veut pas recevoir de contenu généré par IA, la mention de la source permet au moins de le filtrer à l’avance

• J’ai récemment croisé un non-spécialiste qui contestait mon avis technique en joignant à son e-mail une capture d’écran de ChatGPT (version gratuite). La réponse du LLM n’était pas fausse, mais elle était enveloppée d’une couche de rhétorique appropriée, et la personne n’avait en réalité pas les capacités nécessaires pour comprendre le sens central de la réponse

• À ce sujet, je pense même qu’il vaut mieux lire directement le prompt https://news.ycombinator.com/item?id=43888803

  • Ma position est la suivante :
    • D’accord
    • Mais les gens veulent généralement du texte rédigé, pas des puces
    • C’est une question de différences culturelles

• Je trouve intéressant d’observer quelqu’un débattre avec l’aide de ChatGPT. Même comparé à une personne qui écrit elle-même, on voit vite que cela manque de profondeur de façon répétée et reste superficiel. Ce genre de conversation manque tellement d’effort et de sincérité que j’y mets fin immédiatement

  • Je ne pense pas que les gens qui n’utilisent pas l’IA soient en train de prendre du retard ; au contraire, ce sont plutôt ceux qui ne font qu’utiliser l’IA qui vont devenir obsolètes. (Roko's Reverse Basilisk?)

• J’ai récemment eu une expérience désagréable avec une boutique en ligne ; j’ai envoyé un e-mail au support pour dire en substance « j’aime bien l’entreprise, mais cette expérience m’a posé problème », et je n’ai reçu en retour qu’une réponse d’un « AI Agent Bot » me disant, avec une avalanche de formules inutiles, qu’aucune action n’était nécessaire, que ma commande était traitée normalement, et que le ticket allait être fermé. Utiliser un LLM pour aider à rédiger des e-mails, très bien ; mais laisser systématiquement un bot clôturer les demandes client, c’est vraiment impoli

  • C’est un exemple qui révèle sans filtre la culture interne de l’entreprise. On y lit clairement l’attitude : « les clients ne méritent pas qu’on s’en préoccupe »