- Alors que l’IA remplace de nombreux emplois, de nouveaux postes humains se multiplient en parallèle pour nettoyer les productions absurdes générées par l’IA
- Avec la diffusion des outils génératifs, l’explosion de contenus bon marché et produits à grande vitesse fait émerger un phénomène où la baisse de qualité et les erreurs sont compensées par le travail humain de post-édition et de correction
- Dans le texte, l’image et la vidéo, l’AI slop prolifère, et le problème structurel de sa diffusion via les plateformes virales, de recherche et de e-commerce s’installe durablement
- De plus en plus d’auteurs, de designers et de développeurs travaillent non plus comme créateurs, mais comme “personnel de nettoyage”
- L’industrie ne s’appuie pas tant sur des techniques comme la correction multipartie ou les demandes de hedge, mais augmente un travail de dépollution numérique qui améliore le résultat final grâce au jugement humain du contexte, de l’émotion et de la factualité
- Au final, contrairement à la promesse de remplacer l’embauche de créateurs d’origine, l’IA crée un nouveau coût de correction de ses productions ainsi qu’un risque de burnout
- La solution de fond consiste à clarifier l’usage de l’IA comme outil par une conception human-in-the-loop et une redéfinition des standards de qualité, afin de restaurer une culture de production centrée sur l’authenticité et l’intégrité
L’ironie d’une époque où les humains nettoient les problèmes créés par l’IA
- Tandis que l’IA remplace de très nombreux emplois, on voit en même temps apparaître une situation où l’on embauche des humains pour trier et corriger les résultats absurdes et erronés produits par l’IA (slop), créant ainsi une nouvelle catégorie de métiers
- Les designers, auteurs et artistes numériques sont mobilisés non plus pour créer directement, mais pour corriger et améliorer les productions inexactes générées par l’IA
WHAT IS AI SLOP
- L’AI slop est une forme évoluée du spam : un contenu de masse de faible qualité qui présente un attrait de façade, mais manque de créativité, de sens et de fiabilité
- Des outils comme ChatGPT ou Midjourney permettent de produire en masse des contenus de faible qualité
- Il se répand sous de nombreuses formes : posts sur les réseaux sociaux, e-books Amazon, musiques sur Spotify, articles de presse, et même images dans des revues académiques
- Ces contenus ont une apparence crédible, mais ressemblent à des “calories vides” : ils manquent de sens, d’originalité et de fiabilité
- Avec la baisse du coût de la vidéo générée par IA, le slop vidéo se met lui aussi à inonder le web, avec de nombreux cas viraux surréalistes, comme des mouettes brisant les vitres de voitures
- Des vidéos façon CCTV montrant des lapins sur un trampoline présentent souvent des erreurs comme deux têtes ou des éléments qui disparaissent en plein milieu
- Même dans la publicité d’entreprise, on observe des déformations du texte, comme le logo Coca-Cola mal orthographié en “Coca-Coola”
HARMS OF THE AI SLOPOCALYPSE
- L’IA produit en masse des articles, avis et posts de faible qualité mais convaincants en apparence, accélérant l’effondrement de la confiance dans un flot d’informations toujours plus dense
- On dépasse l’enshittification du business en ligne pour entrer dans une enshittification de la culture
- L’art, la musique, la vidéo, les livres et les avis auparavant créés par des humains sont recyclés et reproduits par l’IA, ce qui dégrade la culture elle-même
- La production de contenus par l’IA consomme aussi d’énormes quantités d’électricité et d’eau, ce qui alourdit son impact environnemental
- L’exploitation de grands modèles à forte consommation d’électricité et de ressources hydriques augmente le coût environnemental et provoque chez les personnes chargées du nettoyage de la frustration et du burnout
- L’exemple de la fausse parade d’Halloween à Dublin en 2024 montre comment les fautes et formulations incohérentes dans des contenus produits par IA peuvent induire le public en erreur
- Le cas des schémas générés par IA dans un article rétracté de la revue Frontiers peut être vu comme un signal d’alarme sur la contamination du champ académique
CLEANUP CREW TO THE RESCUE
- Contrairement à la promesse d’efficacité de l’ère de l’IA, on aboutit à une structure où les coûts invisibles — nettoyage et contrôle qualité — sont supportés par les humains, ce qui fait exploser la demande en spécialistes de la correction a posteriori
- Réécrivain de contenus IA : réécrit les textes produits par l’IA en renforçant le contexte, l’émotion et les faits
- Art fixer : corrige les parties irréalistes, les erreurs de texte et autres défauts dans les illustrations, logos et images générés par l’IA
- Débogueur de code : corrige et optimise le code incomplet généré par Copilot ou ChatGPT
- Polisseur vidéo : des artistes VFX corrigent les erreurs physiques et le manque de naturel dans les vidéos générées par IA
- La plupart de ces emplois relèvent moins de la collaboration que d’un travail de retouche et de correction, sans être un espace où s’exprime la véritable créativité humaine
- Sur Upwork, Fiverr et Freelancer, la demande pour des missions de création et de correction pilotées par des humains est en hausse
- Des artistes et auteurs sont poussés vers des tâches de simple nettoyage, comme des agents d’entretien de l’environnement numérique, ce qui accentue la perte de créativité et l’épuisement
La véritable ironie et la solution
- L’IA donnait l’impression de remplacer les humains, mais en réalité on recrute de nouveau des personnes comme main-d’œuvre d’appoint chargée de compenser l’immaturité de l’IA, créant une structure à double niveau
- Cela forme une économie parallèle où l’humain rend l’IA plus humaine, avec la tragédie de voir certaines personnes qui auraient pu devenir créateurs être réaffectées à des rôles de “nettoyeurs”
- Le vrai problème n’est pas l’IA en elle-même, mais le choix humain de privilégier la vitesse, le volume et le coût au détriment de la qualité
- La solution ne réside ni dans l’abandon de l’IA ni dans une hausse de son intelligence, mais dans un usage avisé et une implication humaine
- Il faut redéfinir l’IA comme un outil combiné à la créativité authentique et à l’empathie humaines
- L’humain doit rester au centre, et il ne faut pas dériver vers une structure où l’on doit en permanence nettoyer les problèmes des productions créées par l’IA
- Le vrai danger est de nous habituer à l’AI slop et d’oublier la valeur créative humaine
- Les équipes de nettoyage actuelles ne sont qu’une solution provisoire ; à long terme, il faut viser un avenir technologique fondé sur la véritable créativité humaine et l’authenticité
1 commentaires
Avis sur Hacker News
On disait que l’IA allait remplacer les humains, mais en réalité j’ai l’impression qu’il se passe deux choses. D’abord, l’IA n’a pas réussi à généraliser le travail qualifié ; ensuite, la culture médiatique se dilue et se dégrade. Pour le premier phénomène, j’attends davantage d’indicateurs, notamment les données du BLS. Pour le second, une nouvelle catégorie de médias est apparue, avec une vibe proche du chiptune ou des mèmes « deep-fried »
Les vrais métiers qualifiés, comme traducteur, designer ou concepteur-rédacteur, restent nécessaires à partir d’un niveau intermédiaire et au-delà. Ces personnes ne seront probablement pas remplacées tout de suite, donc cela n’apparaît pas clairement dans les statistiques officielles. En revanche, ceux qui sont remplacés, ou qui ne sont plus recrutés, ce sont les stagiaires ou les profils juniors. À ce niveau, l’IA peut déjà faire une assez grande partie du travail, mais ce changement non plus ne ressort pas vraiment dans les statistiques officielles du chômage. On peut tout au plus observer la baisse des offres d’emploi, et encore, cela peut aussi venir de nombreuses variables comme l’incertitude économique ou la situation internationale. Au final, dans quelques années, les secteurs des médias et de la création seront complètement cassés. Si l’IA bloque l’entrée dans les carrières, il n’y aura plus de stagiaires, puis de moins en moins de juniors, d’intermédiaires et de seniors. À la fin, il ne restera plus que des types en costume qui ont touché à Photoshop il y a 15 ans et l’équipe commerciale
Je doute que les statistiques officielles du BLS restent vraiment dignes de confiance. Quand on voit la manière dont l’institution a été traitée par le président Trump après avoir publié des statistiques du chômage qui ne lui plaisaient pas, la confiance baisse encore davantage
Jusqu’ici, la créativité humaine et sa capacité d’explication approchaient la spécificité tout en gérant bien l’arbitraire. Mais maintenant, l’automatisation de cet arbitraire, alors que l’IA n’est pas entraînée pour la spécificité, donne plutôt l’impression d’émousser la pointe de la créativité et d’éloigner de plus en plus les vrais détails. Cette régression est particulièrement visible quand les humains se trompent et prennent les sorties de l’IA pour quelque chose de valide et de détaillé. C’est absurde, mais normalisé par la technologie
Il n’y a rien d’ironique. Quand on voit des humains dans une usine trier les produits défectueux, il faut se rappeler qu’à une époque, ces mêmes personnes étaient des artisans qui fabriquaient directement les produits
Dans une usine, les produits défectueux sont rares et faciles à distinguer. On les jette, et la machine continue à produire le reste. C’est bien plus rapide qu’un artisan. Mais avec l’IA, le problème, c’est qu’elle ne fabrique pas la même chose en boucle ; il est donc difficile d’identifier le problème, et même quand on repère une erreur, il faut la corriger manuellement une par une, au point qu’on peut finir par tout jeter et recommencer de zéro. Au final, tout le temps et tous les efforts investis dans l’IA sont gaspillés, et il aurait mieux valu confier le travail à un artisan
C’est assez décevant au regard de la manière dont l’IA a été vendue comme la grande révolution des derniers siècles. En fin de compte, nous ne sommes pas encore entrés dans l’ère de l’IA
En voyant cette histoire de « l’humain dans l’usine qui trie les produits défectueux », je me suis rappelé qu’un site d’un sous-traitant indien expliquait que ses employés ne « triaient » pas les défauts, mais faisaient du « clean up ». Même si, dans une usine, on supposait que la majorité des produits soient défectueux et faciles à repérer, si au lieu de les jeter il fallait tous les réparer, alors le coût énergétique du processus de production deviendrait énorme
Que des humains passent leur temps à nettoyer les erreurs d’autres humains, c’est courant partout. C’est encore pire dans le développement logiciel
Que le premier secteur visiblement transformé par l’IA soit l’e-commerce n’a rien de très surprenant. La plupart des boutiques en ligne n’ont qu’une proposition centrale, et la présentation compte assez peu. Il suffit que ça n’ait pas l’air d’une page d’accueil de 2003, et honnêtement, presque personne ne se soucie vraiment de l’apparence de la vitrine d’un magasin en 2025. La publicité doit seulement attirer l’attention ; son but n’est pas l’art. Et ce que l’IA sait bien faire, c’est produire quelque chose de banal, globalement correct aux yeux de tout le monde. En réalité, c’est très fade. C’est pareil pour la musique, les images et les textes. Bien sûr, il reste des problèmes de bon sens, comme les dessins avec huit doigts, mais pour un survol superficiel, les résultats générés par l’IA sont presque impossibles à distinguer du vrai. Donc, à ce stade, l’IA est surtout douée pour produire des « moules ». Avant, le Lorem Ipsum servait d’exemple de texte ; maintenant, l’IA génère ce genre d’ossature dans tous les domaines. Aux humains d’ajouter une personnalité à cette base disséminée par l’IA. Créer implique toujours du risque et des décisions. Ces décisions impliquent du goût, et quelqu’un doit en assumer la responsabilité. Il ne s’agit pas seulement de corriger les erreurs évidentes ; au bout du compte, l’important est de personnaliser cette ossature selon chaque situation
Comme le disait Brad Pitt dans le rôle de Rusty : « Utilise uniquement tes propres mots quand tu peux. Ne t’arrête pas, garde seulement ton objectif en ligne de mire. Sois juste assez spécifique pour ne pas qu’on s’en souvienne. Sois drôle, mais ne fais pas le clown. Donne juste l’impression qu’il faut pour qu’on t’oublie dès que tu es parti. Et le plus important de tout… ne jamais, jamais… » (citation du film <Ocean's Eleven>)
Le shopping et la publicité sont des domaines où l’IA peut vraiment montrer sa valeur. Le signal de retour sur la réussite ou l’échec y est clair. Bien sûr, encore faut-il exploiter correctement ce signal ; il ne suffit pas de coller la sortie d’un LLM partout sans réflexion
Au fond, ce n’est pas si différent des consultants d’avant. Ça nettoie le code et ça produit de l’efficacité pour les sites d’emploi. Il n’y a pas grand-chose de nouveau. C’est exactement ce que tout le monde prévoyait
On dirait l’apparition d’un rôle de middle manager chargé d’encadrer des employés incapables d’apprendre
Avant même d’atteindre l’AGI promise par l’IA, on a déjà l’impression que tout le monde va perdre la tête dans une sorte de slopocalypse, comme dans la nouvelle de PKD « Sales Pitch ». Sales Pitch (short story)
La plus grande ironie, c’est que l’unique commentaire sous cet article a lui aussi été écrit par une IA
Je pense que nous ne sommes pas encore entrés dans l’ère de l’IA. On dirait qu’elle approche, mais pour moi les LLM ne sont pas vraiment de l’IA, et le machine learning est plus pratique. Je ne sais pas si, à l’avenir, les LLM vont évoluer ou disparaître
Les LLM sont une application du machine learning, donc les deux s’influencent mutuellement. Les LLM ne sont pas l’IA unique que nous imaginons, mais ils ont indéniablement marqué une étape majeure dans le traitement du langage. Avant, la capacité à traiter le langage naturel faisait partie des critères emblématiques pour mesurer l’AGI. Au final, ce n’est qu’une question de temps : je pense qu’on verra apparaître de grands modèles multisensoriels capables de comprendre et d’apprendre à partir des cinq sens humains, avec en plus une capacité d’auto-modification. Il pourrait même exister des modèles capables de traiter de nouveaux sens que les humains n’ont pas
J’ai l’impression qu’on repousse un peu plus loin les critères de réussite à chaque fois
Cela fait des décennies que nous faisons ce genre de travail. Il y a plus de 20 ans, j’ai été embauché pour corriger et entraîner des logiciels de reconnaissance vocale ou d’OCR, et un ami à moi corrigeait des géotags. Les systèmes d’IA ont une longue histoire : à leurs débuts, des humains saisissaient directement des règles Prolog, ou des programmeurs codifiaient manuellement des règles dans des programmes comme ELIZA ou Generalised Problem Solver