Lancer des murs de texte générés par l’IA dans une conversation
(noslopgrenade.com)- Une slop grenade consiste à coller une énorme réponse générée par l’IA dans un chat ou un e-mail auquel une seule phrase aurait suffi, ce qui détériore le canal de conversation
- Au lieu de répondre simplement à « À quelle heure est la réunion ? », on balance une analyse de 10 pages sur les bonnes pratiques de gestion d’agenda, créant un décalage entre la taille de la question et le format de la réponse
- Pour des questions qui demandent du jugement, comme le choix entre Redis et Memcached, une réponse courte du type « Redis. Il faut le pub/sub pour les notifications » est plus adaptée qu’une longue analyse comparative
- Ce que l’interlocuteur voulait, ce n’était pas un essai que ChatGPT peut produire, mais le jugement humain du répondant ; un long mur de texte rend la réponse, la contradiction et la vérification plus difficiles
- L’IA ne doit pas servir à allonger les réponses, mais à rendre la pensée plus claire ; augmenter la quantité d’informations sans sens tue la conversation
Qu’est-ce qu’une slop grenade ?
- Une slop grenade consiste à coller une énorme réponse générée par l’IA dans un chat ou un e-mail auquel une personne pourrait répondre en une seule phrase
- Jeter un long essai dans un canal de conversation comme Slack détériore le média lui-même, et le copier-coller depuis l’IA rend cela facile
- C’est une façon de répondre à une question simple par une réponse digne d’un document, comme envoyer une analyse de 10 pages sur les bonnes pratiques de gestion d’agenda à la question « À quelle heure est la réunion ? »
- Dans une situation où l’on demande quoi utiliser entre Redis et Memcached, il est plus approprié de transmettre brièvement un jugement comme « Redis. Il faut le pub/sub pour les notifications » qu’une longue analyse comparative
Pourquoi est-ce une mauvaise pratique ?
- Si l’interlocuteur voulait un essai produit par l’IA, il aurait directement interrogé ChatGPT ; s’il a posé la question, c’est qu’il voulait le jugement du répondant
- Les longues réponses générées par l’IA volent le temps du destinataire et détériorent la conversation
- L’interlocuteur peut devoir passer 20 minutes à chercher la phrase unique qui aurait dû être donnée dès le départ
- Même si la réponse est techniquement correcte, sa forme est elle-même hostile à la manière dont les humains communiquent
- Un gigantesque mur de texte rend plus difficile le fait de répondre, de contredire ou de vérifier, et finit par tuer la conversation
- L’IA doit servir non pas à rallonger les réponses, mais à rendre la pensée plus claire
- Cela rejoint le monde décrit par Jean Baudrillard, où « l’information est toujours plus abondante et le sens toujours plus rare »
- Si vous êtes confronté à une slop grenade, vous pouvez partager noslopgrenade.com
- Le texte s’inspire de nohello.net, qui promeut de meilleures pratiques de communication asynchrone
1 commentaires
Commentaires de Hacker News
Les conversations avec l’IA ressemblent à des rêves : tout le monde a au moins un rêve qu’il aime bien et qu’il a envie de raconter aux autres, mais ce rêve ou cette session de chat n’a quelque chose de spécial que pour la personne concernée, et n’a pas beaucoup de sens pour les autres
Il ne faut pas ennuyer ses collègues ou les autres avec le récit de ses rêves, et il ne faut pas non plus leur balancer les logs de chat IA, qui sont en quelque sorte les rêves de l’ordinateur
Au fond, quel que soit le sujet, il faut vérifier si la personne en face est intéressée quand on lui parle, et l’auditeur doit aussi envoyer des signaux de réaction. En revanche, les partages de conversations IA, non merci. Le poker face et la politesse ne tiendraient pas longtemps, et je finirais probablement par me plaindre ou par être sarcastique
J’ai trouvé ça drôle, donc j’ai écrit au-dessus « This is what Copilot said about my code: », et Copilot a continué l’autocomplétion avec « Copilot was correct, but... »
J’ai décidé de ne plus réagir à ça uniquement par l’agacement, ni de penser que ça peut seulement se corriger par l’éducation. Je préfère le voir comme une autre différence culturelle de communication, essayer de comprendre, l’accepter avec un certain degré de tolérance, et réfléchir à la manière de combler cet écart
Dans la culture de communication de cette personne, cela peut vouloir dire : « Je ne sais pas très bien, mais j’ai essayé d’aider. » Au final, l’essentiel est de savoir si on peut croire que l’autre agit de bonne foi. Si on ne peut pas présumer de la bonne foi, la forme de la réponse n’est pas le vrai problème. Bien sûr, la fréquence à laquelle sa réponse interprétée ou sa contribution à la conversation se rapproche de « je ne sais pas », ainsi que la fréquence à laquelle il intervient alors qu’on n’a pas besoin de lui, influencent aussi mon évaluation
Une culture de communication suppose non seulement des gens qui parlent, mais aussi des gens qui écoutent. Les gens qui parlent, on les voit ; ceux qui écoutent, je ne les ai pas encore vus. S’il y a écrasamment plus de gens qui parlent que de gens qui écoutent, ce n’est pas une culture extérieure mais plutôt une impolitesse courante, du même ordre que coller un chewing-gum sous la table ou faire du catcalling : quelque chose de répandu mais dépourvu d’égards. Et faire honte aux gens peut être une manière de changer l’environnement pour réduire ce comportement. Pour ma part, je considère ce comportement comme inacceptable
Les déversements de bombes IA entrent généralement dans la même catégorie. Si une réponse générée par IA va droit au but, reste concise et répond à mon problème, ça me va ; mais si je dois lire un énorme pavé pour trouver la réponse, ça ne sert à rien. C’est pour ça que j’ai bloqué ce genre de sites de « réponses » dans les résultats de Kagi, et c’est un des points que j’aime chez Kagi
Il ne faut pas faire passer ça pour sa propre réponse, il faut garder uniquement l’information qu’on juge utile, et l’éditer de manière concise
Ce n’est donc pas simplement une question d’accepter une autre culture, parce que ce coût n’est pas « gratuit ». Lire une bombe IA est, au moins pour moi, assez stressant
Objectivement, au mieux, l’utilité nette approche de zéro. Si c’est vraiment une différence culturelle mais qu’on veut sincèrement aider, alors ça peut se corriger par l’éducation. Si on ne s’intéresse qu’aux apparences, je suis d’accord pour dire que la formation ne servira à rien
Quand je tombe sur un mur de texte pareil, j’aimerais qu’il y ait un bouton « view prompt » au lieu d’un bouton du type « view source »
Les messages ou documents produits par IA sont généralement inutilement verbeux ; souvent, lire seulement le prompt suffit. Je ne comprends pas pourquoi certaines personnes pensent qu’il vaut mieux transformer un prompt en puces en énormes paragraphes. Cela me fait juste perdre mon temps, et donne l’impression qu’un effort plus important qu’en réalité a été fourni
Avant que tout le monde utilise ChatGPT, un long document signalait qu’une personne avait passé du temps devant son ordinateur et fourni plus d’efforts qu’avec une simple liste à puces moins polie. En écrivant, les idées étaient aussi souvent affinées. Maintenant, n’importe qui peut mettre des puces dans ChatGPT et les gonfler en document, créant l’illusion d’une réflexion approfondie. On occupe le même espace que ceux qui, autrefois, faisaient réellement beaucoup de travail, sans avoir à faire ce travail
Même des gens avec qui je veux rester en bons termes me font ça, et je ne sais pas quelle bonne réponse donner sans les braquer. Eux choisissent ça parce que c’est facile, et moi je dois choisir entre lire ces déchets, essayer d’en extraire le sens et poser des questions, ou refuser en demandant leur avis à eux plutôt que celui de Claude. La première option entraîne encore plus de longs textes, et la seconde me fait passer pour quelqu’un de peu aimable ou comme un anti-IA. Je ne suis pas anti-IA, mais au travail, peu de gens expriment ouvertement leur mécontentement vis-à-vis de l’IA. Pour l’instant, c’est la mode. Le fait que ce texte lui-même sente l’IA est aussi ironique
Sur Slack aussi, j’écris des messages longs à 100 %
Quand je contacte quelqu’un pour une question ou une demande, j’essaie de fournir autant de contexte que possible
« Bonne question », on l’utilise pour une question vraiment difficile, ou de manière sarcastique. La plupart des questions ne sont pas de grandes questions ; la personne a juste besoin d’une réponse simple
Quand j’écris pour demander de l’aide, je ne passe pas des heures à taper en mettant un titre et en soignant la mise en forme. Je n’y ajoute pas non plus plein de procédés stylistiques créatifs inutiles
C’est possible parce qu’on sait de quel contexte un destinataire précis a besoin. L’IA générative, en général, ne le sait pas
J’aimerais que davantage de gens utilisent l’email
Je trouve intéressant qu’on ait toujours besoin de pages de ce genre pour apprendre aux gens à ne pas être impolis
Je ne comprends pas pourquoi il est si difficile de saisir qu’il ne faut pas adopter des comportements jugés impolis et stupides
Avant d’exiger qu’ils changent, il est utile de montrer qu’on comprend pourquoi ils agissent ainsi, de leur point de vue. Les gens écoutent mieux quelqu’un qui essaie de les comprendre
Même si on leur met des lunettes Meta pour qu’ils lisent à voix haute des sorties d’IA, les idiots trébucheront probablement quand même sur les mots
En revanche, on trouvait déjà quelque chose de similaire avant l’IA dans certains endroits, comme les réponses du support client ou les formulations marketing et RH scriptées. Même un vrai appel téléphonique où l’on vous parle de l’entreprise pendant cinq minutes sans laisser d’ouverture pour intervenir peut ressembler à une sorte de bombardement
À la fin, on dit « utilisez l’IA pour être plus clair », mais non. N’utilisez pas l’IA, dites simplement ce que vous avez à dire
Mais il consacre énormément d’efforts à faire en sorte que le résultat reste agréable à lire. Grâce à ce travail, ses textes sont devenus solides et précis. Avant l’IA, il y avait des erreurs évidentes qu’on attend d’un non-natif ; aujourd’hui, ses écrits sont si clairs et utiles qu’il est difficile de voir qu’il a utilisé l’IA. Il y a parfois une tournure un peu étrange, mais c’est rare et difficile à repérer. C’est le bon usage de l’écriture avec l’IA, et cela n’a rien à voir avec les bombardements de déchets que produit une autre personne avec qui je travaille
Parfois, cela produit comme dans l’exemple un long mur de texte, mais dans l’ensemble c’est préférable au cas où un profane, ne connaissant pas le vocabulaire spécifique et cherchant simplement à régler son problème, n’arrive pas du tout à l’expliquer. Nous sommes tous des non-spécialistes hors de notre domaine, donc il faut faire preuve d’un certain niveau de compréhension
Je suis totalement d’accord avec l’idée qu’il ne faut pas déverser de l’information avec l’IA
En même temps, hors ligne, j’ai moi-même cette mauvaise habitude en tant qu’humain
La plupart des dirigeants semblent à peine capables de lire, donc envoyer plus de 150 caractères n’aide pas beaucoup une carrière
C’était bien plus facile à lire, et la vie était beaucoup plus simple parce qu’il suffisait de citer une puce précise puis d’y répondre directement
Cela aide à réduire les allers-retours de questions, et rend aussi mon propos plus clair. La plupart des gens ne consultent le contexte plus tard que s’ils ont déjà une action à effectuer
Je me demande si l’exemple « Faut-il utiliser Redis ou Memcached ? » n’aurait pas pu viser un public plus large
Je travaille pourtant dans l’IT, mais même moi je ne sais presque pas ce que sont Redis ou Memcached, et je n’ai utilisé ni l’un ni l’autre
Ce type d’usage de l’IA ressemble à une sorte d’attaque par déni de service
Alice envoie à Bob un long mur de texte avec peu d’effort, et Bob doit fournir beaucoup d’efforts pour l’interpréter, alors que la valeur qu’il en retirera risque d’être minime au regard de cet effort