- Ces dernières années, de nouvelles plateformes sociales sont apparues en promettant de résoudre les problèmes existants
- Mais ce sont finalement les algorithmes et la pression de la croissance qui finissent par corrompre l’intention initiale des plateformes
- L’addiction des utilisateurs est le résultat structurel de systèmes de récompense et de modèles de rendement pour les investisseurs
- Les solutions à l’échelle individuelle sont inefficaces face à un problème systémique
- Pour une solution de fond, des réformes structurelles sont nécessaires, comme des modes de financement alternatifs, une régulation des algorithmes et une évaluation centrée sur l’utilité sociale
Introduction : l’échec qui se répète des plateformes sociales
- De nouvelles plateformes sociales apparaissent régulièrement en promettant de corriger les problèmes des précédentes
- BeReal, Clubhouse et d’autres ont mis en avant respectivement l’authenticité et la proximité, mais ont fini par reproduire le même schéma : capital-risque, pression sur la croissance, manipulation algorithmique et corruption
- Circliq a été construit de manière empirique autour des rencontres hors ligne et de la communauté, sans pour autant parvenir à surmonter les problèmes structurels des réseaux sociaux existants
La nature de l’addiction structurelle
- Les jeunes générations ont servi de groupe test des expériences dopaminergiques de la Silicon Valley, et en subissent désormais les effets secondaires
- Même lorsqu’une nouvelle approche est tentée, comme avec Circliq, les questions de financement et de croissance reviennent sans cesse, au point d’en faire à nouveau une partie du problème existant
- Les plateformes suivent une trajectoire récurrente : de bonnes intentions, la pression de la croissance, la maximisation du temps d’engagement, la manipulation algorithmique, puis la perte de finalité
Déformation des valeurs : la structure économique des réseaux sociaux
- Instagram, Twitter et toutes les grandes plateformes sociales ont commencé avec une mission initiale sincère, avant de dériver progressivement, sous la pression de la croissance, vers une concurrence de l’engagement pilotée par les algorithmes
- La levée de fonds, la croissance continue du nombre d’utilisateurs et les exigences du capital-risque déforment l’objectif communautaire d’origine
- Dans ce processus, ni les fondateurs ni les utilisateurs ne sont malveillants, mais ce sont les incitations structurelles qui produisent la corruption
Le casino gagne toujours (une structure où l’utilisateur ne peut pas gagner)
- Les solutions individuelles comme le digital detox ou les limites de temps d’écran ne sont pas efficaces face à un problème structurel
- Les grandes plateformes sociales mobilisent des psychologues comportementaux, des milliers de tests A/B et du machine learning pour cibler les vulnérabilités psychologiques
- Les mécanismes de récompense, les schémas de récompense variables (comme les machines à sous), la comparaison sociale et la stimulation de la colère renforcent l’addiction
- TikTok, Instagram et X ne sont pas des outils neutres, mais des systèmes d’addiction de type machine à sous conçus avec précision
- Les données montrent clairement des effets négatifs, comme la hausse de la dépression et de l’anxiété chez les adolescents
À la recherche de solutions concrètes
- Un problème systémique nécessite des solutions structurelles
- Structures de financement alternatives : les modèles de bien public, l’abonnement, les coopératives ou les dons peuvent se concentrer sur le bien-être des utilisateurs (Wikipedia en est un exemple de réussite)
- Régulation des algorithmes : transparence de conception, renforcement du contrôle utilisateur, avec en référence le DSA de l’UE (Digital Services Act)
- Séparation fonctionnelle : nécessité de dissocier les revenus publicitaires des fonctions sociales
- Nouveaux indicateurs d’évaluation : remplacer le DAU et le temps passé par des mesures comme la qualité des relations et les connexions réelles
- Plus fondamentalement, une structure centrée sur le profit entrave la connexion humaine
- Des systèmes qui renforcent dans le monde réel les tiers-lieux et les liens directs afin de rendre les réseaux sociaux moins nécessaires peuvent constituer une alternative
Conclusion : il faut changer les règles du jeu elles-mêmes
- Pour créer de meilleures plateformes sociales, il faut renoncer aux incitations économiques actuelles elles-mêmes
- Sinon, toute tentative d’innovation finira par être absorbée dans la structure même du problème
- La solution n’est pas une application de plus, mais un changement des règles fondamentales du jeu (la structure des incitations)
1 commentaires
Commentaires sur Hacker News
Après avoir levé des fonds de venture capital, l’entreprise se retrouve à courir après les métriques de croissance et les objectifs trimestriels. En pratique, le centre de gravité passe de « l’authenticité » aux « utilisateurs actifs quotidiens ». Après avoir aussi travaillé dans le capital-risque, j’en suis venu à penser que l’investissement externe est l’un des principaux facteurs qui font perdre leur boussole morale aux entreprises. Ce supposé devoir légal de représenter les intérêts des actionnaires finit par éroder la morale. Quand les dirigeants font passer les actionnaires avant leur propre jugement, ils consultent les recherches sur l’addiction non comme une ligne rouge, mais comme un manuel. Cela rappelle presque la Stanford Prison Experiment. Sans vouloir trop simplifier, le lien entre investissement externe et « ingénierie de l’addiction » est clairement fort. Il est regrettable que les pouvoirs publics réduisent aujourd’hui les subventions et filets de sécurité qui soutiennent la prise de risque et l’innovation, ce qui fait de l’investissement la voie la plus rapide pour créer une startup. Cela donne envie de faire des dons à l’open source
L’entreprise est en réalité le produit. Avec cet état d’esprit, il n’y a aucun intérêt pour ce que nous appelons le « produit » ; le seul calcul consiste à faire grossir le vrai produit (l’entreprise) pour le vendre au plus grand abattoir possible. Ce processus commence dès l’investissement. Pour obtenir une série A, il faut un « plan de sortie ». Le simple fait qu’un plan de sortie existe condamne déjà l’utilisateur à être ignoré. L’objectif est seulement de faire grossir l’entreprise et de lui donner belle allure, et pour l’engraisser au plus vite, on ne lui sert que de la malbouffe, c’est-à-dire des éléments de mauvaise qualité. La pérennité à long terme n’entre pas en ligne de compte. J’aimerais que l’industrie tech revienne à l’idée de proposer de vraies choses utiles pour les utilisateurs. Pas forcément des profits délirants, mais au moins la possibilité de bien en vivre
Cette idée d’un « devoir légal de défendre les intérêts des actionnaires » ressemble à une rumeur d’internet. Dans le monde réel, il n’existe pas d’obligation explicite de ce type. S’il y a une offre de rachat à 1 million de dollars et une autre à 2 millions, et que quelqu’un choisit la première en échange d’un pot-de-vin, là oui, il y a un problème ; en dehors de cela, on voit mal des cas où ce serait réellement applicable. Ce n’est ni logique ni vraiment appuyé par des exemples concrets. Il suffit d’argumenter qu’une application trop addictive peut au contraire nuire aux actionnaires via un retour de bâton social ou une intervention réglementaire. Donc privilégier à tout prix le profit à court terme n’est ni une obligation légale ni une obligation morale. Le conseil d’administration ou les dirigeants peuvent certes chercher à plaire aux investisseurs, mais pas à cause d’un devoir légal. Un dirigeant qui les ignore peut craindre pour sa réputation ou pour la valeur de ses actions, mais il ne sera pas puni par la loi
Les dirigeants disposent d’une très grande marge d’interprétation de leur devoir fiduciaire envers les actionnaires. Il faut corriger l’idée fausse selon laquelle l’obsession du profit de court terme serait une nécessité. C’est en réalité antisocial et clairement destructeur
Le phénomène du venture capital est une réduction du système dans son ensemble. Le but final reste le profit, et tout le reste (par exemple la responsabilité sociale) lui est subordonné. Si le profit entre en conflit avec des valeurs externes comme la responsabilité sociale, c’est toujours le profit qui l’emporte. C’est une structure dominée par une logique de mercenaires. Dans un « Magickal Faerieland » utopique, la régulation essaie d’aligner les deux en récompensant la « bonne voie » ou en pénalisant la « mauvaise voie », mais dans le monde réel, l’argent domine tout et la capture réglementaire existe bel et bien. Facebook et d’autres géants peuvent utiliser les neurosciences et la psychologie pour fabriquer des plateformes façon machine à sous qui rendent les utilisateurs dépendants, et des entreprises comme ExxonMobil peuvent provoquer destructions environnementales et catastrophes humanitaires sans que rien ne leur arrive
Le problème est plus large. La morale et le contrat social s’effondrent peu à peu. Mozilla en est un exemple : attirer des acheteurs avec des produits axés sur la vie privée, puis retirer la vie privée de la mission et commencer le véritable « abattage ». Craigslist a montré qu’il était possible de faire les choses correctement à grande échelle. Mais les personnes ayant cet état d’esprit et cette morale sont devenues extrêmement rares. Je prends la parabole de Sodome et Gomorrhe comme un avertissement sur la destruction de notre société
Les anciens sites communautaires de type « semi-expert » existent toujours très bien. Ils couvrent un sujet donné, ses catégories, et une discussion générale qui irrigue tout le site. J’aime cultiver à petite échelle en semi-rural et je vais souvent sur permies.com. Chaque jour, des bénévoles publient de nouvelles questions ou des sujets populaires selon la saison ou les tendances. Le site ne cherche pas à gagner des centaines de millions ni à fabriquer des milliardaires. Il se finance avec ses propres contenus — livres, cartes, vidéos, etc. — et de petites pubs mignonnes, qu’il parodie même lui-même. Cela rappelle que small is beautiful, tandis que l’internet actuel est devenu un monde où des reptiles maléfiques convoitent votre temps, vos données, votre vie privée et vos amis. L’esprit « Don’t be evil » a disparu depuis longtemps. J’ai choisi de revenir 30 ans en arrière, et j’en suis satisfait
Cela me rappelle une tentative presque épuisante de créer un wiki, plutôt qu’un modèle extractif à la manière de la plupart des sites de golf. Sans financement, en bootstrap, même les frais d’exploitation étaient difficiles à couvrir. Dans toute communauté, les effets de réseau restent essentiels. Une fois qu’une app est installée sur les téléphones des gens, sa valeur se communique facilement, mais pour l’y faire entrer au début, il faut déjà beaucoup de moyens et de réseau. C’est ce qui rend la tentation du capital-risque si forte, et ce qui explique aussi la difficulté à lancer des projets fondés sur le réseau comme mastodon, lemmy ou pixelfed. Dans la plupart des cas, l’essentiel n’est pas le produit mais le réseau lui-même. Mon plan est de continuer lentement mais régulièrement. Même échouer m’est égal. Le simple fait d’offrir un lieu où des passionnés d’architecture de parcours de golf peuvent parler librement a déjà du sens https://golfcourse.wiki
Je recommande Addiction by Design. C’est à mon avis le meilleur livre sur les mécanismes de conception addictive mis en œuvre dans l’industrie du jeu d’argent. Il y a beaucoup de parallèles avec l’environnement smartphone / internet d’aujourd’hui. Merci à l’utilisateur HN qui l’a recommandé. C’est l’un des livres les plus marquants que j’aie lus ces dernières années
La véritable solution est mentionnée en filigrane dans ce texte, sans être formulée explicitement : la régulation publique
D’après le billet d’origine, de la même manière qu’on réglemente les fabricants de tabac parce que leurs produits sont addictifs et nocifs, on pourrait réduire les dark patterns nuisibles via la transparence algorithmique ou davantage de contrôle donné aux utilisateurs. Des lois comme le Digital Services Act de l’UE imposent déjà une transparence algorithmique aux grandes plateformes
Cela me semble juste. Les réseaux sociaux pourraient aussi être des biens d’utilité publique, comme l’électricité ou les FAI
Je me demande pourquoi on ne pourrait pas faire développer le MVP d’un réseau social par un développeur biélorusse pour 10 000 dollars, puis le faire payer 2 dollars par mois. Je ne comprends pas pourquoi l’auteur se plaint du fait que lever de l’argent serait moralement si destructeur. Pourquoi ne pas simplement l’exploiter depuis sa chambre et demander à ChatGPT une landing page React ?
À la question « pourquoi ne pas le faire payer 2 dollars par mois ? », la réponse dans les commentaires est que tout le monde dit qu’il paierait volontiers, mais qu’en réalité personne ne sort sa carte. Même si on ajoute les fonctionnalités demandées par les utilisateurs, leurs attentes continuent simplement de se déplacer. Un réseau social n’a aucune valeur sans les « gens », et personne ne rejoint une plateforme vide. Même des services gratuits échouent souvent à attirer des utilisateurs au départ. La plupart des alternatives à Twitter ont échoué. Même celles qui ont survécu ont chacune connu des départs d’utilisateurs à cause de leurs propres problèmes
Cela peut marcher dans une niche, surtout professionnelle, mais c’est difficile pour le grand public. Tout le monde est déjà sur Facebook, et comme c’est gratuit, papa et maman n’ont aucune raison de venir ici. C’est plus cher et il n’y a pas leurs amis, donc ce n’est pas attirant. Au Royaume-Uni, en 2002, il y avait l’exemple de friendsreunited, un site qui facturait 5 livres par an et qui avait bien marché. Cela me rend nostalgique de cette époque et de cette ambiance
Sans utilisateurs, un réseau social est ennuyeux
Il existe déjà plusieurs stacks open source matures pour les réseaux sociaux. Le problème ne relève pas de la technique, mais de quelque chose au-delà
La vraie question est : comment faire venir tout le monde ?
Scénario hypothétique : si ces applications appartenaient à des organisations à but non lucratif, seraient-elles moins addictives ? L’argent du VC ne ferait qu’accélérer l’état final (l’addictivité), mais même une entreprise privée classique finirait par y arriver
À l’inverse, certains réseaux sociaux ont aussi des dynamiques non addictives (par exemple HN, sur lequel ce commentaire est écrit), et cela pourrait dans une certaine mesure constituer une « norme ». Les services ultra-stimulants et destructeurs, façon méthamphétamine, font parler d’eux, mais en pratique, pour des milliards de personnes, la vie numérique est surtout faite de communautés en ligne banales et peu stimulantes, d’e-mails et d’informations de voisinage, un peu comme on boit du thé tous les jours. Cela peut sembler trop sage, mais en réalité, les communautés « thé » occupent la majeure partie du quotidien numérique
Je m’intéresse aux modèles de propriété de type « entreprise détenue par les travailleurs » ou aux formes de propriété en démocratie représentative. J’aimerais qu’une startup qui réussit essaie cette idée en premier
Mastodon en est littéralement un exemple concret
D’après mon expérience, un téléphone e-ink a été très efficace. J’utilise un Bigme Hibreak Pro ; l’interface est un peu rustique, mais les fonctionnalités sont suffisantes. Utiliser les réseaux sociaux sur ce téléphone n’a vraiment rien d’amusant. On peut quand même s’en servir quand c’est nécessaire. Je lis bien davantage qu’avant
Sur iPhone, on peut obtenir le même effet en passant les réglages d’accessibilité en niveaux de gris
Je me demande si Android Auto fonctionne. Bravo pour ce changement
L’appareil photo et les appels vidéo sont deux gros points faibles. J’ai aussi entendu parler de problèmes avec le NFC
Je me demande si l’autonomie est excellente, si les jeux disparaissent, et si les SMS continuent de fonctionner normalement
Il est mentionné que Facebook a introduit sur Instagram des algorithmes d’engagement et de rétention, puis que Twitter a suivi cette voie, mais il est dommage que le texte ne rappelle pas que Facebook a en réalité popularisé cela dès 2011 avec le fil d’actualité https://en.wikipedia.org/wiki/Feed_(Facebook)#History
La phrase « parce que les fondateurs n’ont pas de mauvaises intentions » sonne presque comme une réplique typique de fondateurs mal intentionnés, plaisanterie mise à part