On ouvre les yeux, et le « slop » est partout

• Les algorithmes des réseaux sociaux sont conçus pour maximiser l’attention et le temps des utilisateurs, ce qui renforce une structure de consommation infinie
• Le phénomène de contenus de mauvaise qualité générés par l’IA (« AI slop ») qui prolifèrent est un sous-produit de la surconsommation, et apparaît lorsque l’offre ne parvient pas à suivre la demande
• La créativité est une ressource non extensible : les créateurs humains ont des limites de production, alors même que les plateformes exigent un flux de contenu sans fin
• Le texte cite l’effondrement passé de Vine comme exemple d’un collectif de créateurs ayant révélé les faiblesses d’une plateforme ; par la suite, TikTok a bloqué l’influence des créateurs en reprenant le contrôle via l’algorithme
• L’article propose le retour du « web ouvert » et du surf sur le web, et souligne l’importance de retrouver une consommation consciente fondée sur l’exploration personnelle plutôt que sur un feed algorithmique

---

Le lien entre conception de l’environnement et consommation

• Comme la taille de la vaisselle ou l’absence d’horloges dans les casinos, la conception de l’environnement module les comportements de consommation
  • La For You Page (FYP) de TikTok masque le temps et pousse l’utilisateur à regarder des centaines de vidéos d’affilée
• Cette conception vise à maximiser le temps passé, et TikTok comme Meta indiquent que le temps moyen passé sur leurs plateformes atteint des niveaux records
• La surconsommation de contenu mène à une prolifération de productions générées par l’IA, autrement dit à la diffusion du « slop »
  • Quand la demande dépasse l’offre, le marché comble le vide avec du contenu de remplissage de faible qualité

Le déséquilibre entre créativité et algorithme

• La production de contenu sur les plateformes suit la règle du 90-9-1 : seuls 1 à 3 % des utilisateurs publient réellement
  • L’apparition de la FYP a encore aggravé ce déséquilibre de contenu
• La créativité est une ressource impossible à automatiser, et la création humaine comporte des limites de productivité
  • Les plateformes peuvent améliorer les outils de publication, mais elles ne peuvent pas optimiser l’inspiration créative elle-même
• Résultat : même sous l’illusion du scroll infini, l’art reste une ressource finie

Le rapport de force entre créateurs et plateformes

• Mark Zuckerberg cherche à augmenter le temps passé par les utilisateurs, mais le volume d’activité des créateurs reste une variable impossible à contrôler
  • Si les créateurs arrêtent de publier ou exigent une rémunération, la plateforme devient vulnérable
• En 2015, 20 grands créateurs de Vine ont demandé à être rémunérés ; après un refus, ils sont partis ensemble, et la plateforme a fermé quelques mois plus tard
  • Cet épisode a révélé l’influence collective des créateurs et la faiblesse structurelle de la plateforme
• Par la suite, TikTok a abandonné une structure centrée sur les abonnés au profit d’un algorithme opaque de type boîte noire, coupant ainsi l’impact organisationnel des collectifs de créateurs

La propagation du « slop » et les contenus IA

• La mécanique virale actuelle fonctionne comme un système de récompense probabiliste comparable au jeu d’argent
  • Les utilisateurs publient plus souvent, mais cela ne suffit toujours pas à satisfaire la demande
• Les entreprises comblent ce vide avec des contenus générés par l’IA, en considérant les créateurs humains comme une variable impossible à maîtriser
  • Le texte va jusqu’à dire qu’« ils détestent les humains » et critique l’attitude des plateformes, qui voient dans un feed fabriqué par des robots un état idéal

Le retour du web ouvert et du « surf »

• En dehors de la FYP, il existe des œuvres, essais et vidéos de créateurs autonomes, que les utilisateurs peuvent consommer à leurs propres conditions
• Le texte appelle cela le « web ouvert » ou le « web social ouvert », et propose de réhabiliter le surf sur le web
  • Autrefois, surfer sur le web relevait d’une consommation consciente et exploratoire, à l’opposé du scroll inconscient d’aujourd’hui
• Enfin, l’article annonce « The Lost Art of Surfing The Web » et appelle à retrouver un usage conscient d’Internet

[GN⁺]

Avis sur Hacker News

• Ironiquement, la première phrase de la page, « la taille de l’assiette influence la quantité mangée », repose sur une étude observationnelle non reproduite dans des recherches contrôlées
  Les articles correspondants sont disponibles ici et ici

  • Il existe aussi des articles défendant la thèse inverse. Même au sein de la même revue, les avis divergent, comme dans cet article
  • Pour ma part, je sens clairement que la quantité que je mange varie selon la taille de l’assiette. Cela ne s’applique peut-être qu’aux personnes à qui on a inculqué l’habitude de finir leur assiette
  • Le terme « ironie » est mal choisi. C’est intéressant, mais ce n’est pas de l’ironie. Voir cet article
  • Il faudrait peut-être maintenant étudier la corrélation entre « les gens à qui leur mère ou leur grand-mère disait de finir leur assiette » et le taux d’obésité

• Je ne suis pas d’accord avec l’idée qu’une plateforme meurt parce que quelques gros créateurs s’en vont
  Vine n’est qu’un exemple d’autodestruction, et sur les réseaux sociaux actuels, les 1 à 3 % du haut produisent la majorité du contenu, mais il y a toujours 15 % de créateurs en attente qui visent cette place
  C’est juste que l’algorithme fige le classement, pas que les tentatives cessent

  • Le départ de quelques grands noms ne détruit pas une plateforme. Au contraire, cela crée plus de diversité et rend l’ensemble plus sain. Même sur YouTube ou Twitch, l’écosystème tient même si de très grosses chaînes disparaissent
  • Microsoft a signé des contrats d’exclusivité avec des streamers connus sur Mixer, mais au final le service a été fermé un an plus tard
  • Vine a été tué délibérément par Twitter. Même chose pour Periscope
  • Le problème n’est pas seulement la proportion de créateurs, mais la vitesse à laquelle les nouveaux créateurs atteignent le niveau moyen de contenu de l’IA. Je me demande quel impact cela aura sur la croissance
  • Si le « slop » (contenu de mauvaise qualité) est infini, alors la disparition des créateurs de tête déclenche en quelque sorte un mécanisme d’autorégulation

• J’adore les polices imparfaites et le design rétro de ce site web
  J’essaie depuis longtemps de recréer numériquement l’impression du texte et des graphiques de vieux livres, et ce site s’approche presque de mon idéal

  • Les ressources de polices de la H.P. Lovecraft Historical Society peuvent aussi être utiles
  • En regardant le CSS, on voit qu’ils utilisent les polices « Volume Tc » et « Volume Tc Sans » de Tom Chalky. Lien
  • Moi aussi, je cherchais une bonne police avec empattements pour mon site, et celle-ci est vraiment magnifique
  • En revanche, sur iPhone, la ligature fl du mot « influence » n’apparaît pas, ce qui est dommage. En tant que passionné de typographie, ça me trouble. BD liée

• Le contenu actuel, c’est du contenu fast-food
  C’est rapide, bon marché et stimulant, mais monotone, malsain et addictif. Les gens en consomment jusqu’à saturation, et même quand ça leur fait du mal, ils ne s’arrêtent pas

  • En réalité, ce phénomène existe dans l’ensemble de la culture populaire depuis des décennies. L’être humain a toujours aimé le « slop »

• Je m’attends à ce que, d’ici quelques années, 95 % du contenu nouvellement généré soit produit par l’IA. Commentaires, vidéos, blogs, tout y passe

  • En ce moment, je porte un regard très critique sur la culture populaire que je consomme. Du coup, je fais des playlists uniquement avec des films d’avant 1990. Le savoir-faire artisanal de cette époque est clairement différent
  • Si on est malin, on peut aussi confier 95 % de la consommation à l’IA. De toute façon, on va vers un monde où les IA parleront entre elles

• Je suis un petit créateur de contenu, avec un nombre d’abonnés à quatre chiffres. Je ne monétise pas, je crée juste par plaisir
  Mais récemment, en investissant davantage dans le matériel et le temps, je me suis rendu compte que si je n’adapte pas mon contenu à ce que l’algorithme FYP aime, même un travail très soigné reste invisible
  Au final, on en vient à devoir choisir entre « le contenu que je veux créer » et « la croissance / les revenus ». Activer la publicité augmente le trafic, mais cela abîme l’authenticité de ma création

  • Cela rappelle la courte histoire de l’« Anekdote zur Senkung der Arbeitsmoral »
  • Avec un nombre d’abonnés à quatre chiffres, la plateforme peut déjà envisager la monétisation. À ce niveau-là, c’est déjà assez réussi
  • Plus tard, j’aimerais créer moi-même un site où l’on pourrait héberger librement du contenu sans algorithme, comme au début de Twitch (Justin.tv)
  • Mais en réalité, l’écosystème AdTech ne récompense pas l’authenticité. Toute la structure vise à maximiser les clics et le temps de visionnage, donc la création honnête est de plus en plus désavantagée
  • Je serais curieux d’avoir des exemples concrets. Sur mon ancien compte aussi, la qualité des recommandations était meilleure, mais après seulement quelques jours, tout redevenait centré sur le clickbait. Au fond, ce contre quoi on se bat n’est peut-être pas l’algorithme, mais l’instinct humain

• Je gère un compte Instagram de niche et je reposte le contenu d’autres comptes
  Avant, je prenais plaisir à chercher moi-même du contenu et à concevoir mon propre algorithme maison pour donner la priorité aux anciens posts de petits comptes
  Mais aujourd’hui, les comptes remplis d’images de haute qualité générées par l’IA pullulent. Comme l’« acier d’avant-guerre » (pre-war steel), il devient difficile de trouver du contenu purement humain
  Je ne sais pas si, à l’avenir, les gens accorderont plus d’importance aux activités hors ligne qu’en ligne, ou s’ils deviendront encore plus dépendants. Les deux se produiront probablement en même temps

  • Le CEO d’Instagram a lui aussi décrit 2020 comme le pic des fonctionnalités sociales, avant un déplacement vers les discussions de groupe et les stories privées
  • Au final, la polarisation va continuer
  • Il suffirait d’ajouter une option pour masquer la date de publication et ce serait parfait, mais je ne comprends pas pourquoi on utilise une plateforme aussi peu pratique

• L’un des bons côtés de BlueSky, c’est qu’il utilise un fil algorithmique mettant en avant les utilisateurs discrets
  Je regarde surtout ce fil et j’ai complètement désépinglé le fil « discover »

• Le contenu de l’article est bon, mais la phrase « le contenu alternatif existe déjà » m’agace un peu
  La plupart des sources alternatives dépendent déjà d’autres réseaux sociaux ou disparaissent lentement

• Si tout finit rempli de slop produit par l’IA, cela pourrait au contraire devenir l’occasion de sortir de notre addiction chronique aux écrans

  • Qu’une vidéo courte soit faite par un humain ou par l’IA, au fond cela reste un stimulus à dopamine. Mais le contenu humain comporte une proximité parasociale, et si elle disparaît, on pourrait soudain se dire : « Qu’est-ce que je suis en train de regarder ? »
  • Au final, « la seule façon de gagner au jeu, c’est de ne pas jouer ». J’ai moi aussi supprimé l’app Instagram, puis gardé seulement la version web, avant de tout arrêter.
    À la place, j’ai ajouté cette liste de filtres UBlock pour vider complètement les fils de recommandations de YouTube et Reddit
  • Si tu voulais dire « upside » au lieu de « upshot », le jeu de mots était plutôt bien trouvé
  • Mais en pratique, des génies travaillent déjà à renforcer le pouvoir addictif de l’IA, donc je pense qu’il y a peu de chances que cela échoue
  • Quelqu’un finira forcément par relier complètement le système de récompense humain à un générateur de slop, rétablissant un rythme de consommation de contenu comparable à celui d’avant la pandémie