L’addiction est en train d’être conçue
(substack.com/masonyarbrough)- Les nouvelles plateformes sociales se lancent en promettant de corriger les problèmes existants, mais dès qu’elles subissent la pression du capital-risque et de la croissance, elles se retrouvent enfermées dans une logique qui optimise l’engagement plutôt que la connexion
- Circliq voulait créer des liens réels par des rencontres hors ligne et des communautés, mais a fini par constater que la logique de l’expansion et de l’investissement exigeait au bout du compte les mêmes incitations que les réseaux sociaux existants
- BeReal, Instagram et Twitter ont commencé par l’authenticité, le partage de photos et les mises à jour de statut, mais ont ensuite évolué vers une logique visant à accroître les utilisateurs actifs quotidiens et les réactions émotionnelles
- Le digital detox personnel ou les limites de temps d’écran ne suffisent pas à eux seuls face aux tests A/B, à la psychologie comportementale et à la conception fondée sur le machine learning utilisés par TikTok, Instagram et X
- La solution ne réside pas dans une application de plus, mais dans le changement du modèle publicitaire et de croissance par le capital-risque, ainsi que dans une transformation des règles elles-mêmes via l’abonnement, les coopératives, le financement de type bien public et la transparence algorithmique
La trajectoire que répètent les nouvelles plateformes sociales
- Les nouvelles plateformes sociales apparaissent en promettant de résoudre les problèmes des plateformes existantes, mais elles finissent généralement par suivre la même trajectoire
- Elles commencent avec des intentions sincères
- Elles reçoivent des fonds de capital-risque
- Elles subissent une pression de croissance
- Elles augmentent l’engagement par la manipulation algorithmique
- Au final, leur objectif initial est dénaturé
- BeReal promettait l’authenticité, Clubhouse l’intimité, mais aucun de ces deux services n’a pu échapper aux mêmes pressions structurelles
- Le cœur du problème n’est pas un défaut qu’une nouvelle application pourrait corriger à elle seule, mais une structure économique qui met un prix sur l’attention et les relations des utilisateurs
Pourquoi Circliq s’est arrêté
- Circliq était une plateforme sociale qui visait le monde réel plutôt qu’un feed sans fin, les connexions hors ligne plutôt que la manipulation algorithmique, et de vraies relations plutôt que l’addiction
- Quand les investisseurs ont commencé à demander comment étendre le service, augmenter le nombre d’événements et capter au maximum l’attention des utilisateurs, le produit s’est retrouvé prisonnier des mêmes questions que les réseaux sociaux traditionnels
- Si Circliq avait levé des capitaux, il y avait de fortes chances qu’il tombe lui aussi dans le même schéma
- Il lui aurait fallu davantage d’utilisateurs et davantage d’événements
- Les métriques de croissance seraient devenues l’objectif central
- Il aurait pu finir non pas comme solution au problème, mais comme une partie du problème
Les étapes du basculement de la « connexion » vers l’« extraction »
- La dégradation des plateformes sociales ne vient pas du fait que les fondateurs seraient malveillants ou les utilisateurs faibles, mais du fait que la structure d’incitations détermine presque à l’avance le résultat
- Le déroulement qui se répète est le suivant
- Intentions sincères : connecter les gens, partager des moments authentiques, créer des communautés
- Impératif de croissance : pour obtenir des investissements, il faut des utilisateurs, puis pour obtenir d’autres investissements, il faut une croissance exponentielle
- Optimisation de l’engagement : la croissance exige de l’engagement, et l’engagement suppose de garder les utilisateurs plus longtemps sur la plateforme
- Manipulation algorithmique : les contenus qui déclenchent de fortes réactions émotionnelles, comme la colère, la jalousie, la peur ou l’indignation, sont davantage mis en avant
- Désalignement total : la mission initiale, connecter les gens, se transforme en manipulation émotionnelle et en défilement isolé au service du revenu
- BeReal promettait l’authenticité avec le partage simultané de photos sans filtre, mais après l’arrivée du capital-risque et le passage à l’échelle, les utilisateurs actifs quotidiens et les indicateurs trimestriels ont pris le pas sur l’« authenticité »
- Instagram a commencé comme une application simple de partage de photos entre amis, mais après son rachat par Facebook pour 1 milliard de dollars, le feed chronologique a été remplacé par un algorithme d’optimisation de l’engagement
- Twitter est parti de mises à jour de statut en 140 caractères, avant de devenir une plateforme qui amplifie les contenus provoquant de fortes réactions émotionnelles et diffuse des prises de parole virales
Pourquoi la seule volonté individuelle ne suffit pas
- Le digital detox, les limites de temps d’écran, la volonté individuelle ou les applications de blocage d’apps reviennent surtout à tenter de résoudre au niveau personnel un problème systémique
- Les grandes plateformes sociales utilisent des équipes de psychologues comportementaux, des milliers de tests A/B et le machine learning pour repérer les vulnérabilités psychologiques
- Les récompenses intermittentes et variables sont plus addictives que les récompenses continues, comme les machines à sous, et cette logique est exploitée dans la conception des plateformes
- TikTok, Instagram et X ressemblent moins à des outils neutres qu’à des machines à sous conçues pour retenir les utilisateurs
- tirage pour actualiser
- onglet des likes
- scroll infini
- récompenses aléatoires
- notifications minutées pour stimuler le cortisol
- La dépression et l’anxiété de la Gen Z ont fortement augmenté après l’explosion de l’usage des smartphones et des applications sociales autour de 2012
- Les êtres humains ne sont pas faits pour consommer en temps réel toutes les catastrophes, se comparer à des centaines d’avatars mis en scène, et vivre connectés 24 heures sur 24
Des solutions structurelles qui peuvent fonctionner
- Les seules solutions individuelles ne suffisent pas ; il faut donc des solutions systémiques qui changent le financement et les règles des plateformes sociales
- Quatre pistes de solution sont avancées
- D’autres modes de financement : au lieu d’une machine de croissance fondée sur le capital-risque et la publicité, financer ces services comme des utilities ou des biens publics
- Les modèles par abonnement, les coopératives et le financement public peuvent donner la priorité au bien-être des utilisateurs plutôt qu’aux métriques d’engagement
- Wikipedia est un exemple de modèle coopératif fondé sur les dons
- Ces modèles existent, mais ils ne montent pas à l’échelle au rythme exigé par le capital-risque
- Des algorithmes régulés : de la même manière qu’on régule les fabricants de tabac en raison de l’addiction et des dommages causés, on peut réduire les conceptions addictives par la transparence algorithmique ou un meilleur contrôle des utilisateurs
- Le Digital Services Act de l’UE impose une transparence algorithmique aux grandes plateformes
- Une séparation structurelle : on peut séparer la plateforme qui gagne de l’argent grâce à la publicité de celle qui conçoit les interactions sociales
- Des métriques alternatives : évaluer non pas les utilisateurs actifs quotidiens et le temps passé sur la plateforme, mais le bien-être des utilisateurs, la qualité des relations et les liens dans le monde réel
- D’autres modes de financement : au lieu d’une machine de croissance fondée sur le capital-risque et la publicité, financer ces services comme des utilities ou des biens publics
- Le problème plus profond est d’avoir confié les relations humaines à des systèmes conçus pour générer du profit
- La vraie connexion naît dans des conversations qui ne deviennent pas des données, des relations qui ne passent pas à l’échelle et des moments impossibles à optimiser en termes d’engagement
- L’objectif n’est peut-être pas de meilleurs réseaux sociaux, mais un système dans lequel les réseaux sociaux deviennent moins nécessaires
- Les plateformes sociales actuelles ont aussi joué un rôle positif en connectant des personnes d’un continent à l’autre, en organisant des mouvements et en amplifiant des voix nécessaires
- Mais à partir du moment où elles ont optimisé l’engagement plutôt que la connexion, le temps passé plutôt que le bien-être des utilisateurs, et l’extraction plutôt que les vraies relations, leur trajectoire s’est déviée
- Tant que le modèle économique qui monétise l’addiction et rend les vraies connexions plus difficiles ne changera pas, les tentatives de réparer les réseaux sociaux redeviendront elles aussi une partie du problème
1 commentaires
Commentaires sur Hacker News
Après quelques années passées dans le secteur du capital-risque, je suis de plus en plus convaincu que l’investissement externe est la principale raison pour laquelle les entreprises perdent leur sens moral
L’obligation légale supposée de représenter les actionnaires ronge la moralité, et quand les personnes qui dirigent l’entreprise se sentent liées aux actionnaires au point de ne plus pouvoir juger par elles-mêmes, elles finissent par utiliser la recherche sur l’addiction non pas comme un avertissement, mais comme un manuel
Bien sûr, le fait d’écrire cela sur un forum historiquement lié à YC donne une certaine nuance au propos, mais il existe un lien assez fort entre l’investissement externe et le design addictif
Il est aussi regrettable que, sous l’administration actuelle, la réduction des subventions et des filets de sécurité rende plus difficile d’encourager la prise de risque, et fasse de la levée de fonds la voie la plus rapide pour lancer ou développer une entreprise. Il vaudrait mieux faire des dons à l’open source
Dans cette logique, on cesse de s’intéresser à ce que nous appelons « notre produit » et on ne le voit plus que comme de la nourriture destinée à engraisser le véritable produit qu’est l’entreprise. Le but est de l’engraisser au maximum avant de la vendre au plus grand abattoir
Cela commence presque immédiatement, et il est difficile d’obtenir ne serait-ce qu’un tour de série A sans plan d’exit
J’ai l’impression que l’existence même d’un plan d’exit nuit aux utilisateurs. Personne ne se soucie d’eux ; tout l’effort consiste à engraisser l’entreprise pour qu’elle ait belle allure. Du coup, on ne pense pas du tout à la durabilité à long terme et on lui fait avaler de la junk food pour la faire grossir le plus vite possible
J’aimerais que l’industrie tech se reconcentre sur la livraison de choses réellement bénéfiques aux utilisateurs finaux. On peut encore en vivre correctement, mais peut-être pas avec les niveaux de rendement délirants qu’on voit aujourd’hui
Il faut combattre l’idée selon laquelle se concentrer exclusivement sur les profits à court terme serait une exigence légale, morale ou éthique. En réalité, c’est antisocial et manifestement destructeur
Si une entreprise reçoit en même temps des offres de rachat à 1 million et 2 millions de dollars, et que le conseil d’administration choisit celle à 1 million après avoir été soudoyé, là il peut y avoir un problème. En dehors de ça, cela apparaît très rarement
Il suffit de trouver ne serait-ce qu’un seul précédent où des actionnaires ont réussi à imposer leur volonté au conseil ou à la direction sur la base de ce devoir. Même logiquement, cela tient mal debout. Sauf dans les cas de rachat, presque n’importe quelle action de l’entreprise peut être justifiée comme servant l’intérêt des actionnaires
Par exemple, on peut dire que rendre une app trop addictive nuit aux actionnaires en provoquant un retour de bâton social et des régulations publiques, et ce devoir n’impose d’ailleurs aucun horizon temporel précis
Le conseil et la direction peuvent chercher à plaire aux investisseurs, mais ce n’est pas à cause d’une obligation légale. Un dirigeant qui ignore l’intérêt des actionnaires peut s’inquiéter pour sa réputation de fondateur compétent, du risque d’être renvoyé ou de la baisse de valeur de sa propre participation, mais il ne s’expose pas à un risque juridique
L’exemple le plus sournois est Mozilla : ils ont attiré les gens avec des produits centrés sur la vie privée, puis ont littéralement supprimé l’accent mis sur la vie privée de leur déclaration de mission avant de commencer le « massacre »
Craigslist prouve que c’est possible même à grande échelle. Le problème, c’est qu’il y a désormais trop peu de personnes qui possèdent à la fois les moyens et la moralité pour agir ainsi. La parabole de Sodome et Gomorrhe avertit que si l’on laisse ce genre de chose arriver, la société finit par s’effondrer sur elle-même
Je suis d’accord pour dire que l’investissement externe peut fortement accélérer ce genre de dérive, parce qu’il permet aux fondateurs d’externaliser leur responsabilité
Mais ce n’est pas la cause principale. Les entreprises prédatrices existaient bien avant l’invention du capital-risque. Au fond, toutes les entreprises existent pour gagner de l’argent, elles sont donc intrinsèquement immorales, et c’est pourquoi il faut un État capable de réguler le marché afin que les entreprises ne nuisent pas trop à la société
Ces fondateurs n’ont pas été corrompus par de méchants investisseurs en capital-risque ; c’est simplement que leur sens moral n’était pas si fort dès le départ
[1] https://www.vox.com/2018/6/13/17449118/stanford-prison-exper...
Le problème est plus fondamental. Si le modèle de revenus est lié à l’usage, il est inévitable qu’on cherche à maximiser l’usage plutôt que l’intérêt de l’utilisateur. Si la fonction de récompense est connectée à l’utilisation du produit, cela ne peut pas être autrement
En comparant avec l’automobile, le modèle de revenus d’un constructeur ne dépend pas du nombre de kilomètres que je parcours, seulement du fait que je le juge assez utile pour l’acheter. Les salles de sport fonctionnent parfois à l’inverse : elles gagnent davantage si je les utilise moins, du moment que je ne résilie pas
Microsoft Office ou Mario Kart n’ont pas besoin de me rendre accro ; il suffit de me faire acheter le logiciel. Même Photoshop, avec son modèle par abonnement, n’a pas de raison de poursuivre une stratégie d’addiction. Il suffit d’être assez utile pour que je continue à payer, et de ce point de vue c’est peut-être plus proche d’une salle de sport
Les produits qui ont besoin d’addiction sont ceux qu’on utilise gratuitement alors qu’ils ont un coût de fourniture. À bien des égards, nous portons aussi une part de responsabilité en ayant attendu que les réseaux sociaux et de nombreux services soient gratuits et financés par la publicité
On pourrait créer un réseau social sans dark patterns et faire payer un abonnement mensuel, mais on peut douter du nombre de personnes prêtes à payer. À mon avis, ce serait proche de zéro et l’échec est probable. Cela dit, moi je paierais sans doute, et ce serait probablement assez solitaire
Personnellement, je pense que la solution est simple mais assez coercitive, donc difficile à mettre en œuvre à cause des résistances politiques : interdire toute publicité ciblée
La publicité pourrait continuer à tourner sur les plateformes numériques, mais le résultat des heuristiques qui choisissent les annonces devrait être indépendant des données dérivées de l’utilisateur, comme les données de session, l’adresse IP, le fuseau horaire, le pays, l’historique de visionnage, etc.
Parmi les décisions prises avec mes cofondateurs dès le premier jour, celle dont je suis le plus reconnaissant est d’avoir 1) un modèle de revenus qui ne dépend pas de l’usage, et 2) de ne pas faire de l’usage un objectif
Le marché que nous visons est un peu particulier, puisque nous nous adressons à des parents qui veulent offrir à leurs enfants des alternatives sans écran aux smartphones et aux réseaux sociaux. Malgré cela, cette expérience me donne l’espoir que d’autres modèles de revenus peuvent aussi ouvrir la voie à des produits sociaux non addictifs et florissants
À ce niveau de prix, même beaucoup de personnes vivant dans des pays pauvres peuvent payer. Si c’est bien conçu et que cela donne aux utilisateurs un réel pouvoir d’action, les gens paieront pour ce genre de chose comme ils paient pour d’autres choses
[1] https://news.ycombinator.com/item?id=38117385
Moi aussi, je serais prêt à payer. Je cherche activement des communautés humaines en ligne décentes qui ne vendent pas mes données à des fermes d’IA et n’essaient pas sans cesse de capter mon attention
Malheureusement, les réseaux sociaux ont dévoré beaucoup d’endroits que je considérais autrefois comme chez moi
Ils ont 20 employés, avec même des modérateurs humains. Il existe aussi Metafilter, sur un modèle payant[2]
[1] https://www.washingtonpost.com/technology/2024/08/10/front-p...
[2] https://www.metafilter.com/
Est-ce qu’on ne complique pas trop les choses ?
Les vieux sites spécialisés sont toujours vivants, avec un thème, des catégories et des discussions à l’échelle du site entier
Comme je cultive un peu de nourriture dans une zone semi-rurale, j’aime bien consulter permies.com. Chaque jour, des bénévoles publient de nouvelles questions adaptées à la saison ou aux centres d’intérêt du moment, ou remettent en avant des sujets pertinents
Mais ils n’essaient pas de gagner un milliard de dollars, ni même un million. C’est pour ça que c’est bien
Ils se financent en vendant des livres, des cartes et des vidéos de formation, et il y a aussi de petites « pubs » non intrusives qui se parodient elles-mêmes
Je pense que small is beautiful. L’internet actuel est dominé par de sinistres reptiles qui cherchent à nous arracher notre temps, nos données, notre vie privée et nos amis. Le « Don’t be evil » est mort et enterré
Il suffit de remonter l’horloge de 30 ans. C’est ce que j’ai fait, et j’en suis heureux
C’est du temps passé loin du flux sans fin de nouveaux déchets sur internet, avec en plus des relations humaines en face à face qui ajoutent encore à ce sentiment de réel. Grâce à ces deux activités, je me suis aussi fait beaucoup d’amis aux personnalités, aux origines et aux expériences de vie très diverses
Il ne s’agit pas forcément de revenir 30 ans en arrière, mais plutôt de trouver parmi la multitude d’activités qu’on peut apprécier sans écran
Dans les deux cas, on ne peut pas vraiment les pratiquer si l’esprit est ailleurs. Il faut « être dans le présent ». Le tennis est techniquement difficile si on veut bien jouer, et en roller en ligne, il suffit de détourner brièvement les yeux et l’attention de ce qui vous entoure pour risquer de vous blesser
Cette présence à l’instant, ou cette attention unifiée, efface une grande partie du bruit accumulé dans la tête. Et mes intentions ne se retrouvent pas manipulées au point de me faire dévier de la direction que je voulais initialement prendre
Je recommande Addiction by Design. C’est un excellent livre sur les mécanismes de conception addictive dans l’industrie du jeu d’argent, et cela ressemble énormément à ce qu’on voit aujourd’hui dans le monde des smartphones et d’internet
Merci à cet utilisateur oublié de HN qui me l’avait recommandé à l’époque. C’est l’un des meilleurs livres et l’un des plus justes que j’aie lus ces dernières années
Cela me rappelle une tentative presque épuisante de créer un wiki du golf qui ne soit pas aussi prédateur que la plupart des sites de golf
Le faire en bootstrap sans investissement est difficile, mais nécessaire, et il faut l’exploiter à très faible coût. Ce qui est frustrant, c’est que dans tous les réseaux, tout repose sur l’effet de volant
Une fois qu’un produit est installé sur le téléphone des gens, sa valeur devient facile à voir, mais pour mettre l’app sur ce téléphone, il faut beaucoup d’argent afin de créer assez de valeur pour que les gens viennent
C’est pour ça que le financement par capital-risque est si nocif, et que des projets comme mastodon, lemmy et pixelfed ont du mal à démarrer. Le cœur du problème, c’est presque toujours le réseau lui-même plus que le produit
Même si cela prend 10 ans, je vais essayer de continuer lentement et régulièrement. Et honnêtement, ce n’est pas grave si j’échoue. Car je sais que les personnes intéressées par l’architecture des parcours de golf veulent un endroit pour parler des parcours qu’elles aiment
https://golfcourse.wiki
J’ai parlé avec un ami qui travaille comme moniteur dans un petit camp d’été, et il m’a dit que sur environ 35 enfants, 4 sont partis parce qu’ils ne pouvaient pas rester séparés de leurs appareils
La puissance du renforcement intermittent, qui agit comme une rampe d’accès vers l’addiction, est terrifiante
Existe-t-il un moyen de nous immuniser, nous et les générations futures, contre cela ?
L’auteur propose comme solution un soutien visant à changer les règles du jeu elles-mêmes. Les « cures de dopamine » à la mode ou des plages hebdomadaires sans écran peuvent être des outils. On pourrait aussi renforcer l’éducation au renforcement intermittent, ou même imaginer un programme façon D.A.R.E appliqué aux apps. C’est dit à moitié pour rire, mais pas complètement
Dans les produits technologiques, un excentrique atypique peut faire tourner un forum très vivant sous son bureau avec un vieil ordinateur, deux jeunes « cofondateurs » pleins d’audace peuvent créer une entreprise à partir de rien, et même HN a jadis[0] pu secouer toute la culture tech avec un seul processus sur un seul serveur. Alors, pourquoi le choix de ne pas croître ne serait-il pas possible ?
À l’époque des grands modèles de langage, il faut certes plus de capital qu’avant pour construire un produit fiable. Mais les fournisseurs pratiquent des prix agressifs, et même s’ils essaient de les augmenter plus tard, la moitié des modèles de base meilleurs que les meilleurs de l’an dernier sont open source
Si vous jouez avec beaucoup d’argent et cherchez beaucoup d’argent, alors beaucoup d’argent rôde autour de vous pour vous attirer dans ce jeu. Mais si vous voulez simplement construire quelque chose de petit, de bien, et à taille humaine, y a-t-il vraiment eu une meilleure époque qu’aujourd’hui ?
Le chemin vers les dizaines de milliards de dollars exige peut-être un comportement de mercenaire pour extraire de l’argent, mais cela ne veut pas dire que la pression de croissance est une loi naturelle inévitable
Je n’arrive pas à me défaire de l’impression que les gens du Small Web ont mis le doigt sur quelque chose
[0] https://news.ycombinator.com/item?id=5229522
La solution que ce texte suggère sans oser la formuler clairement, c’est la régulation publique
« Algorithmes régulés : on régule les fabricants de tabac parce que leurs produits sont addictifs et nocifs. Exiger la transparence des algorithmes ou donner plus de contrôle aux utilisateurs pourrait réduire les schémas de conception addictifs tout en préservant les avantages. Le Digital Services Act de l’UE impose déjà la transparence algorithmique aux grandes plateformes. »
Au lieu d’apprendre aux gens à penser de manière critique et à résister aux pièges dopaminergiques conçus intentionnellement, on va laisser des bureaucrates de carrière qui cherchent « IA » avec Wordpad ou Internet Explorer rédiger les lois, xD
Les psychologues salariés dépeints comme des méchants ne sont pas la cause de ce problème, et ce ne sont pas non plus une force irrésistible qui contrôle tout ce que nous faisons
Bien avant l’apparition de la notion de réseau social au sens actuel, Internet était déjà « addictif ». Dès le milieu des années 1990, je restais assis devant mon ordinateur du coucher au lever du soleil, et je connaissais des centaines de personnes qui faisaient la même chose
Les premiers espaces en ligne comme les message boards, IRC, AIM, ICQ et les MMORPG étaient déjà « addictifs » avant même les structures modernes du capital
J’étais accro à la lecture des newsgroups avec le programme trn de Larry Wall
Avec trn, il était très facile d’afficher un nouvel écran plein de texte, mais difficile de revenir à l’endroit où l’on était trois écrans plus tôt. Si on était resté dans le même message, il suffisait de remonter de trois écrans, mais sinon c’était compliqué, et cela décourageait le retour en arrière
Du coup, il y avait moins de raisons de ne pas continuer à chercher la prochaine récompense dopaminergique, c’est-à-dire le prochain fragment de texte qui vous apprendrait quelque chose
L’essentiel, c’est que ni trn ni les newsgroups n’ont reçu de financement en capital-risque d’aucune sorte. Aucune startup non financée par du VC, ni aucune entreprise, n’était impliquée non plus
Quand j’ai commencé à consulter les newsgroups en 1991, ce logiciel était entièrement conçu, implémenté et exploité par des bénévoles. Ces bénévoles travaillaient généralement dans des entreprises technologiques, des universités ou des laboratoires de recherche publics, mais c’était surtout parce qu’à l’époque l’accès à Internet passait principalement par le travail, et la participation aux newsgroups n’entrait pas dans l’évaluation professionnelle de leur employeur
Donc le capital-risque n’explique pas tout. Même la recherche du profit n’explique pas tout. Ce problème peut apparaître aussi dans des programmes distribués sous licence open source pour des raisons de loisir ou de communauté