- « Sloppypasta » désigne le fait de copier tel quel la sortie non relue d’un LLM (grand modèle de langage) pour l’envoyer à quelqu’un d’autre, une impolitesse qui reporte sur le destinataire une charge de vérification inutile
- Ce type de message crée une asymétrie entre lecture et vérification : l’auteur l’envoie en quelques secondes, mais le destinataire doit examiner un long texte, ce qui revient à un transfert de travail
- Le problème de confiance est également sérieux : en raison des hallucinations des LLM et de leur ton excessivement assuré, le destinataire se retrouve dans une situation où il doit partir du principe que tout est douteux
- L’article présente comme règles de base de politesse avec l’IA : « Read », « Verify », « Distill » et « Disclose », et insiste sur le fait de ne pas partager de sorties IA non sollicitées
- L’IA peut améliorer la productivité, mais il faut une manière de l’utiliser qui n’empiète pas sur le temps et la confiance des autres
Définition de Sloppypasta et identification du problème
- Sloppypasta est un mot-valise formé de « slop » (contenu IA de mauvaise qualité) et de « copypasta » (mème de copier-coller), qui désigne le fait de transmettre tel quel une sortie de LLM ni lue ni vérifiée
- Cela est considéré comme un comportement asymétrique qui fait porter au destinataire l’effort de relecture et de synthèse que l’expéditeur devrait assumer
- Le phénomène est fréquent sur Slack, Teams, par e-mail, etc., et se repère facilement à cause du style formel typique de l’IA et d’une mise en forme excessive
- L’expéditeur envoie le message en quelques secondes seulement, tandis que le destinataire doit supporter la charge de vérification et d’évaluation du contenu
Types de Sloppypasta et exemples
- The Eager Beaver : cas où l’on colle directement une réponse de chatbot avec l’intention de contribuer au sujet de la conversation
- Même si l’intention est bonne, un texte IA générique et hors contexte perturbe la discussion et casse son rythme
- The OrAIcle : forme consistant à transmettre telle quelle une réponse à une question précise en commençant par « ChatGPT says »
- Cela est considéré comme une réponse impolie, à l’image de l’ancien LMGTFY (« Let Me Google That For You »)
- Le destinataire doit alors juger lui-même de la véracité, de la pertinence et de la source du contenu
- The Ghostwriter : cas où un contenu rédigé par l’IA est partagé en se faisant passer pour un texte personnel
- Le destinataire n’a aucune raison de lui faire confiance, et si l’information est fausse, cela conduit à une dégradation de la crédibilité de l’expéditeur
Pourquoi est-ce un problème ?
- Déséquilibre des efforts : les LLM réduisent presque à zéro le coût de rédaction, mais le destinataire doit toujours fournir un effort cognitif important pour lire et vérifier
- Cela entraîne une accumulation de dette cognitive et prive l’expéditeur d’une occasion d’apprendre et de comprendre
- Effondrement de la confiance : avec les hallucinations et la fabrication d’informations fausses par les LLM, le principe « faire confiance, mais vérifier » ne tient plus
- Le destinataire est forcé de se méfier par défaut de chaque message, tandis que le capital de confiance de l’expéditeur s’érode
- Perte du signal d’expertise : le ton assuré de l’IA rend plus difficile de distinguer la vraie expertise de la fausse certitude, ce qui affaiblit encore la confiance
- Responsabilité floue : en cas d’erreur, il devient difficile de savoir si l’IA ou l’utilisateur doit en répondre
- Au final, Sloppypasta provoque une perte d’apprentissage, un effondrement de la confiance et une fatigue de communication
Avis cités
- « Écrire est un processus de pensée, et le déléguer à un LLM réduit la compréhension et la mémorisation » — étude d’Anthropic
- « Partager une sortie IA sans l’avoir lue est impoli » — Simon Willison
- « Une réponse lisse rédigée par l’IA, même correcte sur le fond, peut donner l’impression d’être ignoré » — Blake Stockton
- « Autrefois, l’écriture était la preuve d’une pensée humaine ; ce n’est plus le cas aujourd’hui » — Alex Martsinovich
6 principes pour éviter le Sloppypasta
- Read : avant de partager, il faut lire et comprendre soi-même
- Une sortie non lue ne permet de garantir ni l’exactitude, ni la pertinence, ni l’actualité
- Verify : il faut vérifier les faits
- Ce que vous partagez implique une garantie implicite de fiabilité de votre part, et une information erronée peut nuire à votre réputation
- Distill : il faut résumer et ne transmettre que l’essentiel
- Les LLM ont tendance à produire des réponses verbeuses en raison de la logique de coût au token ; c’est donc à l’expéditeur d’assumer la responsabilité de la synthèse
- Disclose : il faut indiquer explicitement l’usage de l’IA
- Partager ce qui a été vérifié et quels prompts ont été utilisés permet de restaurer des signaux de confiance
- Share only when requested : ne pas partager de sorties IA si elles n’ont pas été demandées
- Le Sloppypasta impose au destinataire la charge de lecture, de vérification et de synthèse
- Share as a link : partager les longues sorties IA sous forme de lien ou de pièce jointe
- Cela évite de remplir la fenêtre de discussion et de perturber le fil de la conversation
Conclusion
- L’IA est utile comme outil de productivité, mais il est indispensable de l’utiliser sans empiéter sur le temps et la confiance des autres
- Les nouvelles technologies exigent de nouvelles règles de savoir-vivre (New manners), et
l’IA doit être utilisée non comme un substitut à la pensée, mais comme un outil pour l’accélérer
Aucun commentaire pour le moment.