Le bullshit du tricot
(katedaviesdesigns.com)- Knitting Bullshit reprend le concept de On Bullshit de Harry Frankfurt pour désigner le phénomène par lequel des contenus de tricot générés par IA vident le sujet de sa vérité et de sa réalité, remplacées par une mise en scène émotionnelle et une simulation
- Inception Point AI affirme publier environ 3 000 podcasts par semaine avec 8 employés, animés par des « AI personalities », et avoir cumulé 12 millions de téléchargements, avec une moyenne mensuelle d’environ 750 000 téléchargements
- Lorsque Jamie Bartlett a demandé si quelqu’un examinait réellement les 3 000 contenus produits chaque semaine, Anne McHealy a répondu que personne ne les vérifiait ni ne les éditait, ajoutant que le jardinage, le tricot et la cuisine ne relevaient pas du « life or death », donc se tromper n’était pas « end of the world »
- Les podcasts IA Knitting Through the Ages et The Art of Knitting Pattern Design prétendent traiter de l’histoire du tricot et du savoir en design, mais sont en réalité vides de contexte historique et d’expertise, remplis de noms d’experts inexistants et de formules de validation émotionnelle
- Les podcasts et animations de tricot générés par IA transforment le travail, l’histoire, l’intelligence du design et le savoir partagé accumulés par des communautés humaines en une monnaie émotionnelle au service du profit, et la conclusion appelle à soutenir les véritables créateurs humains et la communauté du tricot
Le sens de « Knitting Bullshit »
- Dans On Bullshit de Harry Frankfurt, le bullshit est défini comme une parole détachée de toute préoccupation pour la vérité, indifférente à la réalité des choses
- Le mensonge présuppose au contraire la vérité puisqu’il cherche à la déformer intentionnellement, mais pour Frankfurt, le cœur du bullshit n’est pas tant le « faux » que le factice (phony)
- « Knitting Bullshit » ne désigne donc pas simplement des absurdités sur le tricot, mais le phénomène par lequel des contenus IA sur le tricot vident le sujet de sa vérité et de sa réalité pour les remplacer par une mise en scène émotionnelle et une simulation
Inception Point AI et les podcasts IA
- Le premier épisode de la série de podcasts de Jamie Bartlett, Everything is Fake and Nobody Cares, comprend une interview d’Anne McHealy, directrice produit d’Inception Point AI
- Inception Point AI est une société de podcasts fondée par Jeanine Wright, ancienne COO de Wondery, plateforme connue pour ses contenus narratifs de haute qualité écrits par des humains, avant qu’Amazon ne la démantèle en 2025 et que 110 postes disparaissent
- Inception Point AI publie environ 3 000 podcasts par semaine avec 8 employés, animés par des « AI personalities »
- Selon Anne McHealy, les podcasts d’Inception Point AI ont cumulé 12 millions de téléchargements, avec une moyenne mensuelle d’environ 750 000 téléchargements
- Quand Jamie Bartlett lui demande si quelqu’un écoute réellement ces 3 000 contenus hebdomadaires ou en vérifie l’exactitude et la qualité, Anne McHealy répond que personne ne les contrôle ni ne les édite
- Anne McHealy affirme que des sujets comme le jardinage, le tricot ou la cuisine ne sont pas une question de « life or death », donc se tromper n’est pas « end of the world »
- Cette remarque entre en conflit avec une vision du tricot comme monde réel de communautés et d’industrie, et sert de point de départ à la critique des contenus de tricot générés par IA
Ce que les podcasts de tricot générés par IA ont vidé de sa substance
-
Knitting Through the Ages
- Cet épisode promet d’explorer la signification culturelle du tricot, les fils qui relient générations et continents, ainsi que l’histoire cachée allant des « ancient Egyptian socks » à l’essor mondial du tricot
- En réalité, le contenu mentionne une paire de chaussettes de l’Égypte ancienne avant de sauter directement à la communauté mondiale moderne du tricot et à Ravelry, laissant vide tout le contexte historique intermédiaire
- En 15 minutes, il n’aborde ni la longue histoire du tricot, ni le travail invisible et la créativité des femmes, ni l’exploitation de ce travail, ni l’industrialisation, ni l’originalité, ni la résistance, ni la solidarité
- Chaque phrase paraît douce et plausible isolément, mais l’ensemble fonctionne comme si une IA ayant appris des slogans marketing sur la laine produisait une « syrupy word salad » sans information réelle
-
The Art of Knitting Pattern Design
- Cet épisode affirme déplier le processus créatif depuis l’étincelle initiale d’une idée jusqu’à la dernière maille d’un vêtement achevé, et couvrir différents types de motifs comme la dentelle, les torsades et le travail des couleurs
- Il prétend rassembler la sagesse, la philosophie de design et les techniques favorites de « renowned knitting experts and designers », mais les experts nommés et longuement cités n’existent pas réellement
- Michael Lee, Elizabeth Brown, Daniel Nakamura, Olivia Patel et Emily Davis sont présentés comme des personnes inventées par l’IA, qui ne laissent derrière elles que des phrases fades comme « embrace the process » ou « confident and empowered »
- Alors même que de vrais experts du tricot partagent chaque jour des savoirs accumulés via des patrons, webinaires, articles de magazine, livres, forums numériques, Substack, podcasts et vidéos pédagogiques, l’épisode n’apporte rien qu’on puisse réellement apprendre sur le design ou le tricot
- Le travail créatif du design de maille, pratiqué par des milliers de personnes dans le monde, est remplacé par une douce simulation de « joy » et de « possibility »
Une réalité remplacée par la validation émotionnelle
- Au lieu de la « vérité » ou de la « réalité » du tricot, les podcasts IA répètent le ton familier de validation émotionnelle que l’on retrouve lorsqu’on pose une question à Claude ou ChatGPT
- De la même manière que ChatGPT qualifie une question de « genuinely insightful », les podcasts félicitent sans cesse les choix artisanaux de l’auditeur
- On peut écouter plusieurs épisodes sans rien apprendre sur le tricot lui-même, tout en se sentant mieux parce que le podcast valide en permanence le sentiment de tricoter et l’identité de personne qui tricote
- Même les épisodes censés traiter de techniques avancées ne décrivent pas réellement ces techniques, et se contentent de répéter qu’il faut imaginer la « joy » de voir apparaître les mailles sur les aiguilles ou la satisfaction de s’envelopper dans une création « cosy » et « mesmerising »
Les animations de tricot générées par IA et le bullshit sophistiqué
- Une autre forme de Knitting Bullshit apparaît dans des animations générées par IA, avec davantage d’intervention humaine que les podcasts automatiquement produits
- Cette animation semble avoir pour thème le « tricot », a dépassé les 100 000 vues et suscité plus de 500 commentaires enthousiastes, dont la plupart viennent de personnes qui tricotent et disent à quel point cela leur procure une bonne sensation
- L’animation est conçue pour procurer au spectateur un sentiment globalement positif, et plus particulièrement pour lui faire éprouver de bonnes émotions à propos du tricot
- Son contenu narratif réel semble presque négligeable, au-delà même d’un rôle secondaire, tant pour l’IA que pour la personne ayant rédigé le prompt
- L’animation répète qu’elle traite de la longue histoire du tricot, alors qu’en réalité elle ne dit rien sur le sujet
- Harry Frankfurt distingue le bullshit « simplement expulsé ou rejeté » du « carefully wrought bullshit », qui donne l’impression d’avoir réellement quelque chose à dire tout en recouvrant son vide interne d’une enveloppe persuasive de sincérité émotionnelle
- Le slop de podcasts générés automatiquement relève de la première catégorie, tandis que l’animation générée par IA appartient à la seconde
- La description de la vidéo adopte, comme les images et l’audio, un ton émotionnel doux, quasi mythique, mais dépourvu de sens
- “Before writing. Before anyone thought to write anything down at all – there were hands, and thread, and the slow click of needles in the dark . . .”
- “. . .the oldest thing people still do. Not a craft. Not a hobby. A language passed from hand to hand.”
- Indépendamment du fait qu’il est peu probable qu’on ait tricoté « dans le noir », l’expression selon laquelle il s’agirait de « la plus ancienne chose que les gens font encore » est traitée comme du bullshit sans rapport avec l’histoire réelle du tricot
Comment la critique est présentée comme un manque de sensibilité
- Ce type de contenu IA pousse à demander s’il n’est pas suffisant de célébrer le tricot et de procurer une sensation agréable, même sans s’appuyer sur son histoire réelle
- Mais l’un des aspects nocifs de ce bullshit est précisément qu’il fait passer toute forme d’examen critique pour une défaillance de sensibilité
- Les étrangetés historiques de la vidéo, ses inexactitudes, ses fausses affirmations, son indifférence envers la pratique concrète du tricot et les mouvements du corps, son incapacité à saisir les récits complexes et disputés qui ont façonné cet artisanat, ainsi que sa déconnexion des réalités élémentaires du tricot, sont tous relégués au rang de détails insignifiants
- Le cœur du problème n’est pas seulement l’inexactitude ou l’expression émotionnelle synthétique en elles-mêmes, mais le fait que le Knitting Bullshit parasite l’industrie et la communauté du tricot tout en les dégradant
Des contenus IA qui extraient le savoir et la création des communautés humaines
- Anne McHealy a déclaré qu’il n’était pas « end of the world » que des contenus IA sur des sujets comme le tricot se trompent, mais pour la communauté du tricot, c’est bien le monde réel
- La communauté du tricot produit depuis longtemps quelque chose doté d’une véritable valeur humaine, et le savoir partagé, la signification culturelle et la critique attentive ont donné à cette pratique sa profondeur et sa richesse
- Dans l’univers du Knitting Bullshit, le travail, la résistance, la solidarité, l’intelligence du design, l’histoire réelle du tricot comme artisanat et la sagesse accumulée sont convertis en une puissante monnaie émotionnelle que podcasts et vidéos générés par IA exploitent pour le profit
- Le propos ne consiste pas à critiquer les personnes qui se sentent bien après avoir regardé une vidéo ou écouté un podcast généré par IA, mais à souligner que cette émotion peut provenir moins du contenu consommé que de l’héritage complexe et matériel du tricot construit par des communautés humaines et des praticiens au fil des décennies et des siècles
- L’AI Knitting Bullshit fonctionne en absorbant cet héritage humain puis en le régurgitant
- La conclusion appelle à soutenir les contenus de tricot créés par de vrais humains et leurs auteurs, plutôt qu’à consommer du Knitting Bullshit généré par IA
- sont cités comme destinataires de ce soutien : crofters, crafters, indie yarnies, designers, podcasters, organisateurs de salons, fileurs, fabricants de boutons en céramique, passionnés de couleur travaillant avec des teintures végétales historiques, et artisans sculptant des wooden hap frames, swifts et yarn bowls
- L’héritage humain, la pratique créative humaine, une histoire ancienne et complexe, ainsi que des communautés humaines contemporaines joyeuses et diverses méritent de continuer à être célébrés, aimés et soutenus, même si l’avenir de l’AI-bullshit advient
- Toutes les images utilisées dans l’article sont des résultats générés par IA à partir du prompt de deux mots « lovely knitting »
1 commentaires
Réactions sur Hacker News
Chaque fois que je vois presque n’importe quel type de contenu généré par l’IA, je ressens désormais d’abord une tristesse profonde et résonnante
La progression de l’IA donne parfois l’impression de perdre un membre. Au début, il y a le choc, le sentiment de perte, la sensation qu’on vous a pris quelque chose, puis pendant des mois ou des années, au détour de petites scènes du quotidien, on se surprend à se dire : « ah, ça aussi, c’est changé pour toujours »
C’est comme mesurer chaque jour la profondeur d’un puits sombre en laissant descendre un peu plus de corde, sans rien recevoir en retour qu’une sensation de balancement inutile dans un vide immense et insondable
Il y a dans le bon art quelque chose de difficile à reproduire, sauf quand une personne déjà artiste utilise l’IA comme médium : c’est l’intentionnalité
Prenez par exemple Floor796[0] : chaque petit détail y compte. L’IA pourrait générer chaque personnage ou même l’ensemble, mais on finirait par repérer des détails présents sans aucune raison. On pourrait les effacer à la main ou modifier le prompt et les images d’entrée, l’IA continuerait quand même à glisser de nouveaux éléments étranges
Plus le prompt devient long, plus tout semble intentionnel, et au fond c’est presque le prompt lui-même qui devient l’œuvre
[0] https://floor796.com/
Je me dis parfois que j’aurais préféré ne jamais avoir connu ce bref moment de splendeur, tant j’ai l’impression de ne jamais pouvoir surmonter cette perte. J’ai de la peine pour l’enfant que j’étais, qui croyait que tout cela durerait
Je savais déjà qu’il y avait beaucoup de gens indifférents à la vérité ou à la qualité, mais pas à ce point
Surtout parmi mes amis, ma famille, mes collègues. Certains envoient maintenant des phrases générées par l’IA dans leurs échanges ordinaires, d’autres utilisent des images fourre-tout générées par IA pour faire la promo de leur travail, d’autres encore posent n’importe quelle question à ChatGPT
On a l’impression qu’ils se moquent de la beauté, de la vérité, de l’expression personnelle, de la qualité du travail expert, et qu’ils ne veulent plus qu’une machine à “fais-moi ça”
En tant qu’économiste, la question qui vient tout de suite est : où est l’incitation financière à faire ça ? C’est un peu comme un programmeur qui demande « qu’est-ce qu’une stack ? »
Il y a plusieurs possibilités. 1) Blanchiment d’argent : une grande ferme à contenu peut prétendre générer tel ou tel chiffre d’affaires tout en dissimulant en réalité d’autres sources de revenus
2) Fraude publicitaire : en faisant grimper des podcasts dans les classements ou les résultats SEO pour attirer des clics et vendre de la pub. Une ferme de bots peut aussi générer les clics nécessaires pour donner l’illusion de ventes publicitaires
3) Tentative de dominer une niche dans la vente de produits de tricot, ou au moins de donner l’impression qu’on la domine afin de revendre plus tard l’activité avec un multiple plus élevé
4) Tester, sur un sujet discret et apparemment inoffensif, un moteur plus vaste destiné à faire 1 à 3 avant de le déplacer vers des élections ou d’autres secteurs plus lucratifs. C’est aussi une manière de voir jusqu’où on peut aller du point de vue réglementaire
S’il existe d’autres incitations à construire ce genre de chose, ça vaut la peine d’y réfléchir
L’incitation spécifique à lancer un réseau de contenus fourre-tout, c’est la promesse d’améliorer les marges en réduisant les coûts de production, et la promesse de croître plus vite grâce à des délais de fabrication plus courts. Plus besoin de payer ces créateurs pénibles, et en théorie on peut produire un épisode en gros dans le temps qu’il faut pour l’écouter, voire moins
J’ai envisagé il y a quelques années de lancer un réseau IA de ce type. À l’époque, la technologie n’était pas encore prête. La motivation était beaucoup plus primitive : je voulais juste voir les chiffres monter
C’est un scandale que personne n’ait encore posté le dessin de Gary Larson, Far Side, « Bullknitters »
https://www.instagram.com/p/C2OQtokvzCa/
Ou alors on peut le trouver via Google Images
L’article lui-même ne parle pas vraiment de tricot. Le tricot n’est que le point d’entrée par lequel l’autrice a été aspirée dans l’univers des podcasts IA, avant de découvrir à quel point ce résultat était pauvre sur le fond
On pourrait remplacer le mot tricot par presque n’importe quel loisir et l’article se lirait pratiquement de la même façon
C’est un texte sur le monde des podcasts IA sans âme ni contenu, et sur le fait que les productions de l’IA ne fonctionnent pas comme du contenu porteur de sens, mais comme une validation émotionnelle pour l’auditeur
Ce phénomène du résumé sans corps de texte est intéressant. Je l’ai vu sous plusieurs formes et je ne comprends pas bien pourquoi il se produit. Le résumé est-il fortement contraint par le prompt, contrairement au reste ?
J’ai déjà vu des bots bizarres sur Reddit. Quand quelqu’un posait une question en lien avec un article d’actualité ou quelque chose du genre, un compte répondait non pas à la question mais avec ce qui ressemblait à un résumé d’une partie de l’article. Et si on répondait « ce n’est pas ce que j’ai demandé », la suite devenait encore plus étrange
Les humains se comportent parfois un peu comme ça eux aussi, donc ce n’est pas totalement aberrant, mais je m’en souviens parce qu’à un moment ces comptes se sont multipliés d’un coup sur Reddit avant de disparaître
Le but du résumé est d’amener l’auditeur à lancer le podcast. Il faut donc promettre une profondeur intéressante
Une fois l’écoute commencée, le corps de texte n’a plus qu’à être suffisamment confortable pour retenir l’utilisateur jusqu’à la prochaine publicité. Tant que l’auditeur n’écoute pas avec assez d’attention pour demander des comptes, il n’est pas nécessaire de tenir réellement cette promesse
Je n’aurais jamais imaginé voir Kate Davies apparaître sur Hacker News. Lorsqu’elle parle du tricot comme d’une question de vie ou de mort, il est important de connaître un peu son parcours
Avant l’AVC qu’elle a subi jeune, elle était spécialiste de littérature du XVIIIe siècle[0]. Elle s’est tournée vers le tricot comme moyen de rééducation, puis n’a plus jamais regardé en arrière. Elle a bâti une entreprise et une communauté, et attribue une grande part de sa santé physique et mentale au tricot
Donc oui, ce texte résonnera auprès de quiconque travaille dans la création, mais elle représente aussi un type bien particulier de personne pour qui ce contenu fourre-tout constitue un danger réel à un niveau existentiel. Ce n’est pas une question de métier, mais de personnalité tout entière
Dans un monde où les contenus fourre-tout chassent l’humanité des choses et où des machines à débiter des absurdités remplissent tous les espaces, quelle est la probabilité qu’une personne comme elle puisse se construire une seconde vie meilleure que la première ?
0: https://katedaviesdesigns.com/2015/01/28/five-years-on-part-...
Voir une personne aussi remarquable risquer d’être abandonnée par un monde qui semble, franchement, miser contre le développement intellectuel humain m’inquiète
Il n’y a pourtant rien de mauvais dans cette phrase, et je crois sans mal qu’elle a été écrite par une personne
Ce qui m’agace, c’est que des structures linguistiques parfaitement normales ont été tellement salies que leur simple apparition provoque maintenant chez moi un mouvement de recul réflexe, et que je dois consciemment les réinterpréter comme des formulations tout à fait correctes
Tous les visuels de cet article auraient été générés en réponse au simple prompt de deux mots « lovely knitting ». Exquis
On est censés croire que ces 700 000+ téléchargements viennent d’un trafic organique ? Qui écoute vraiment tout ça ?
Donc, pour répondre : nous les écoutons tous, d’une certaine manière. La seule différence, c’est que chacun a ses propres sujets qui lui font baisser la garde
Il existe un immense marché pour des contenus qui donnent l’impression de devenir plus intelligent sans demander de réfléchir, et qui donnent l’impression d’être occupé sans exiger de travail. Je ne veux pas dire que c’est intrinsèquement mauvais
Écouter de la musique pendant les trajets domicile-travail, c’est un peu la même chose. C’est juste un contenu de remplissage qu’on peut apprécier au lieu de s’énerver contre les autres conducteurs. Internet a militarisé cette formule, et l’IA en est peut-être la version nucléaire
https://www.inceptionpoint.ai
95 % des réponses sont des bots, et la plupart ne sont même pas basées sur l’IA, juste du texte poubelle hors sujet
J’aime beaucoup la phrase : « l’un des aspects les plus nuisibles de ce genre de foutaise est la manière dont elle transforme toute forme d’examen critique en terrible échec de sensibilité »
On voit des baratineurs très habiles ou des virtuoses de la manipulation utiliser cette technique. Si on demande de la rigueur ou de la vérification, on reçoit en retour une sorte de mépris poli
On est traité comme quelqu’un qui a enfreint les règles de savoir-vivre, et c’est ce qui rend cette technique si puissante. Il devient facile de se sentir déstabilisé et de battre en retraite
Plus besoin alors de répondre à son véritable argument. Il suffit de décréter que Kate n’apporte pas de contenu, mais crée du conflit ou traverse un état émotionnel malheureux
Cette stratégie aide aussi indirectement les modérateurs débordés : punir la dissension réduit les guerres de flammes
Ceux qui critiquent Kate peuvent même prétendre la soutenir. Ils n’auraient qu’à dire qu’ils veulent simplement l’aider à gérer sa surcharge émotionnelle
J’ai aimé que les images deviennent de plus en plus fourre-tout au fil du texte
Il manque toutefois un groupe important parmi les victimes : les créateurs qui produisent des podcasts authentiques et de qualité sur le tricot. Leur vrai contenu se retrouve enseveli sous des montagnes de bouillie
En théorie, les algorithmes de recommandation devraient faire remonter ce qui est bon, mais ça ne semble pas aligné avec leurs incitations. C’est triste
À un moment, je me suis arrêté pour essayer de comprendre les images, avant de réaliser qu’elles avaient été rendues délibérément de plus en plus absurdes
J’espère que les gens finiront par réaliser à quel point rien de tout cela n’a demandé de soin, et que cette bouillie finira par disparaître
S’il existe un diable, je suis de plus en plus convaincu qu’il garderait les grandes affaires pour lui et confierait à des légions de petits démons des tâches comme produire des podcasts automatiques non supervisés sur le tricot, pour ronger avec persistance les petits plaisirs sales de la vie
https://en.wikipedia.org/wiki/Good_Omens
J’aimerais bien mettre un extrait, mais justement, dans un bel exemple du sujet, un démon quelconque a rendu ça horriblement pénible à retrouver
Il s’avère que je me trompais sur le degré de tolérance de la plupart des gens
Une grande partie de la valeur de ces podcasts IA réside dans la confirmation de soi qu’ils offrent à l’auditeur. Peu importe qu’il n’y ait rien entre les chaussettes égyptiennes et Ravelry : l’auditeur n’est pas là pour apprendre, mais pour se sentir bien
Et cela fait longtemps que les reportages me tapent sur les nerfs avec leur habitude de coller des vidéos de stock sans rapport avec le sujet. Si les gens acceptent déjà qu’on montre n’importe quelle image de bateau en parlant d’un navire précis, sans que ce soit même un bateau du bon port, pourquoi l’IA devrait-elle être exacte ?
La musique peut nous faire du bien et maintenir notre engagement en stimulant simplement notre reconnaissance des motifs
Les images et les vidéos IA semblent produire un effet similaire. Même sans être réelles, elles encodent suffisamment de motifs issus de bonnes œuvres humaines pour capter l’attention
Sur Internet, le simple fait d’offrir aux gens un refuge pour leur attention a déjà de la valeur