- « Sloppypasta » désigne le fait de copier tel quel la sortie non relue d’un LLM (grand modèle de langage) pour l’envoyer à quelqu’un d’autre, une impolitesse qui reporte sur le destinataire une charge de vérification inutile
- Ce type de message crée une asymétrie entre lecture et vérification : l’auteur l’envoie en quelques secondes, mais le destinataire doit examiner un long texte, ce qui revient à un transfert de travail
- Le problème de confiance est également sérieux : en raison des hallucinations des LLM et de leur ton excessivement assuré, le destinataire se retrouve dans une situation où il doit partir du principe que tout est douteux
- L’article présente comme règles de base de politesse avec l’IA : « Read », « Verify », « Distill » et « Disclose », et insiste sur le fait de ne pas partager de sorties IA non sollicitées
- L’IA peut améliorer la productivité, mais il faut une manière de l’utiliser qui n’empiète pas sur le temps et la confiance des autres
Définition de Sloppypasta et identification du problème
- Sloppypasta est un mot-valise formé de « slop » (contenu IA de mauvaise qualité) et de « copypasta » (mème de copier-coller), qui désigne le fait de transmettre tel quel une sortie de LLM ni lue ni vérifiée
- Cela est considéré comme un comportement asymétrique qui fait porter au destinataire l’effort de relecture et de synthèse que l’expéditeur devrait assumer
- Le phénomène est fréquent sur Slack, Teams, par e-mail, etc., et se repère facilement à cause du style formel typique de l’IA et d’une mise en forme excessive
- L’expéditeur envoie le message en quelques secondes seulement, tandis que le destinataire doit supporter la charge de vérification et d’évaluation du contenu
Types de Sloppypasta et exemples
- The Eager Beaver : cas où l’on colle directement une réponse de chatbot avec l’intention de contribuer au sujet de la conversation
- Même si l’intention est bonne, un texte IA générique et hors contexte perturbe la discussion et casse son rythme
- The OrAIcle : forme consistant à transmettre telle quelle une réponse à une question précise en commençant par « ChatGPT says »
- Cela est considéré comme une réponse impolie, à l’image de l’ancien LMGTFY (« Let Me Google That For You »)
- Le destinataire doit alors juger lui-même de la véracité, de la pertinence et de la source du contenu
- The Ghostwriter : cas où un contenu rédigé par l’IA est partagé en se faisant passer pour un texte personnel
- Le destinataire n’a aucune raison de lui faire confiance, et si l’information est fausse, cela conduit à une dégradation de la crédibilité de l’expéditeur
Pourquoi est-ce un problème ?
- Déséquilibre des efforts : les LLM réduisent presque à zéro le coût de rédaction, mais le destinataire doit toujours fournir un effort cognitif important pour lire et vérifier
- Cela entraîne une accumulation de dette cognitive et prive l’expéditeur d’une occasion d’apprendre et de comprendre
- Effondrement de la confiance : avec les hallucinations et la fabrication d’informations fausses par les LLM, le principe « faire confiance, mais vérifier » ne tient plus
- Le destinataire est forcé de se méfier par défaut de chaque message, tandis que le capital de confiance de l’expéditeur s’érode
- Perte du signal d’expertise : le ton assuré de l’IA rend plus difficile de distinguer la vraie expertise de la fausse certitude, ce qui affaiblit encore la confiance
- Responsabilité floue : en cas d’erreur, il devient difficile de savoir si l’IA ou l’utilisateur doit en répondre
- Au final, Sloppypasta provoque une perte d’apprentissage, un effondrement de la confiance et une fatigue de communication
Avis cités
- « Écrire est un processus de pensée, et le déléguer à un LLM réduit la compréhension et la mémorisation » — étude d’Anthropic
- « Partager une sortie IA sans l’avoir lue est impoli » — Simon Willison
- « Une réponse lisse rédigée par l’IA, même correcte sur le fond, peut donner l’impression d’être ignoré » — Blake Stockton
- « Autrefois, l’écriture était la preuve d’une pensée humaine ; ce n’est plus le cas aujourd’hui » — Alex Martsinovich
6 principes pour éviter le Sloppypasta
- Read : avant de partager, il faut lire et comprendre soi-même
- Une sortie non lue ne permet de garantir ni l’exactitude, ni la pertinence, ni l’actualité
- Verify : il faut vérifier les faits
- Ce que vous partagez implique une garantie implicite de fiabilité de votre part, et une information erronée peut nuire à votre réputation
- Distill : il faut résumer et ne transmettre que l’essentiel
- Les LLM ont tendance à produire des réponses verbeuses en raison de la logique de coût au token ; c’est donc à l’expéditeur d’assumer la responsabilité de la synthèse
- Disclose : il faut indiquer explicitement l’usage de l’IA
- Partager ce qui a été vérifié et quels prompts ont été utilisés permet de restaurer des signaux de confiance
- Share only when requested : ne pas partager de sorties IA si elles n’ont pas été demandées
- Le Sloppypasta impose au destinataire la charge de lecture, de vérification et de synthèse
- Share as a link : partager les longues sorties IA sous forme de lien ou de pièce jointe
- Cela évite de remplir la fenêtre de discussion et de perturber le fil de la conversation
Conclusion
- L’IA est utile comme outil de productivité, mais il est indispensable de l’utiliser sans empiéter sur le temps et la confiance des autres
- Les nouvelles technologies exigent de nouvelles règles de savoir-vivre (New manners), et
l’IA doit être utilisée non comme un substitut à la pensée, mais comme un outil pour l’accélérer
1 commentaires
Avis sur Hacker News
C’était quelqu’un qui avait simplement collé dans un ticket Jira le résultat d’un prompt du type : « rédige des spécifications produit détaillées pour un pipeline de collecte de données d’essais cliniques »
Cela ne correspondait en rien à l’architecture interne et ajoutait une tonne de fonctionnalités inutiles
Quand je l’ai signalé au PM, il a botté en touche en disant « on en discutera à la sprint review » et qu’il fallait « collaborer » avec l’équipe d’ingénierie
J’ai l’impression qu’on va bientôt devoir apprendre les bonnes manières liées à l’IA
Entendre dire que l’IA a augmenté la productivité semble terriblement ironique
Il a juste fallu un peu de temps pour qu’il déborde aussi dans le travail en entreprise
L’IA est utile, mais c’est agaçant de devoir traiter sérieusement un résultat que quelqu’un a produit en 10 secondes
Pour l’instant, c’est un peu le Far West, mais un jour des règles d’usage correctes finiront par s’imposer
C’est quand même assez drôle
Aujourd’hui, j’ai carrément décidé de recréer moi-même un projet POC
Pendant deux semaines, j’ai fait de la revue de code, collecté des logs et rédigé des exemples pour prouver que, dans la plupart des cas, rien ne fonctionnait
Le plus drôle, c’est que le manager avait signalé qu’en une semaine, avec Claude, « ça marchait »
Moi, j’ai dû écrire 4 tâches Jira, d’innombrables commits et trois rapports
Internet n’a jamais été à l’origine un haut lieu du débat de qualité
En tant que consommateurs de contenu, nous avons surtout besoin de meilleurs outils de filtrage, et ironiquement l’IA pourrait justement être ce qui les rend possibles
Il est intéressant de voir que les gens trouvent acceptable le contenu produit par « leur IA », mais se sentent floués quand ils voient celui produit par « l’IA des autres »
Au final, on finira peut-être dans un monde à la Dead Internet Theory, où l’IA crée le contenu et où l’IA le consomme
Même si cela semble inefficace, Internet n’a jamais vraiment été un espace efficace
Si j’avais voulu une réponse d’IA, je l’aurais demandée moi-même
Si je m’adresse à un humain, c’est parce que je veux une réponse humaine
C’est comme manger occasionnellement du fast-food, mais se mettre en colère si un Big Mac arrive dans un restaurant gastronomique
Une idée simple est étirée en longues phrases formelles pour lui donner un air crédible
Les gens aiment bien mettre leurs pensées dans un LLM et voir que le résultat leur ressemble,
mais du point de vue des autres, c’est juste une longue tartine inutile qui fait perdre du temps
Il suffirait de résumer ça en puces
Donc quand quelqu’un envoie une réponse écrite par l’IA, cela semble aussi impoli que d’envoyer un lien LMGTFY
Moi aussi je sais demander quelque chose à une IA ; l’envoyer à ma place n’apporte aucune valeur
Au bout du compte, si les producteurs ne paient pas les consommateurs, tout cet écosystème s’effondrera
Beaucoup de gens n’aiment pas non plus « notre IA », ils évitent simplement de la refiler aux autres
Du point de vue de quelqu’un qui gère une équipe, cela permet d’identifier clairement les personnes dont il faut se séparer
Résultat : l’entreprise est devenue un marché de drones qui balancent de la bouillie IA
Je ne suis pas webdesigner, donc je m’en suis servi pour m’aider à créer un site agréable visuellement
Mais l’essai et les consignes ont entièrement été rédigés par un humain
Cela dit, c’était bien d’indiquer l’usage de l’IA
Lien AI Disclosure
Ça sonne désormais comme une tournure de conversation tout à fait ordinaire
Contrairement au mensonge, le bullshit ne déforme pas les faits, mais déforme l’intention du locuteur
Il y a aussi un concept similaire, le Gish-gallop — une technique de débat qui consiste à déverser une multitude d’affirmations fausses et de points difficiles à réfuter afin de faire perdre du temps à l’adversaire
Je crains qu’il y ait une certaine tension si je dis à un collègue d’arrêter d’utiliser des résultats d’IA non vérifiés
Et si c’était vraiment lui qui l’avait écrit, ce serait encore plus gênant
Ils vont vraiment recommencer à répondre avec un pavé ?
L’aborder dans une discussion à part, plutôt que sur un canal public, s’est révélé efficace
Il est aussi utile de proposer une politique d’usage de l’IA au niveau de l’équipe, afin d’avoir une base pour la conversation
À moins que le leadership technique ne l’impose, il vaut mieux l’aborder sous forme de revue d’équipe
Avant, même quand on rédigeait un document avec soin, personne ne le lisait,
mais maintenant, si on envoie un document de 3000 pages généré par l’IA, personne ne le lit non plus et on obtient quand même l’approbation
Ce n’est pas parfait, mais je trouve ça préférable à l’époque où je devais le lire moi-même à voix haute en réunion
À l’ère de l’IA, je ne sais pas si ce rôle deviendra inutile, ou si nous finirons tous simplement par n’être plus que des relecteurs