Déséconomies d'échelle : fraude, spam, support et modération
- Les grandes plateformes ont une proportion de fraude, de spam et de comportements illicites plus élevée que les petites plateformes.
- Par exemple, je n’ai jamais reçu de message spam sur Signal, mais j’en reçois régulièrement sur WhatsApp.
- Quand on compare les lieux où l’on lit du contenu technique, les forums moins connus ou des sites comme lobste.rs ont un taux de contenu de mauvaise qualité inférieur à celui des grandes plateformes.
- Des plateformes sociales de taille moyenne à grande comme Reddit, YouTube, Facebook et les résultats de recherche Google affichent un ratio plus élevé de contenus négatifs.
- Plus une plateforme grossit, moins il est probable d’obtenir un support adapté, et moins il est possible de récupérer un compte après une suspension ou un bannissement erroné.
Problèmes des grandes plateformes
- Remise en cause de l’idée que les grandes plateformes feraient mieux la modération ainsi que le filtrage du spam/la détection de fraude.
- Des ingénieurs et penseurs de Google soutiennent que seules les grandes plateformes peuvent réaliser une modération efficace, un filtrage anti-spam et une détection de fraude, mais en pratique, les petits moteurs de recherche résistent mieux aux abus liés au SEO.
- Bien que la gestion de sa propre messagerie soit souvent perçue comme impossible à cause du volume de spam, de nombreuses personnes gèrent leurs emails avec des résultats comparables ou meilleurs que Gmail.
Problème de modération des grandes plateformes
- Mark Zuckerberg affirme que le démembrement des grandes entreprises technologiques aggraverait les problèmes de modération.
- Le raisonnement de Zuckerberg est que les grandes plateformes peuvent mieux modérer grâce à des ressources plus importantes, mais en réalité ces ressources sont souvent utilisées ailleurs.
- Par exemple, Meta a investi 50 milliards de dollars dans le développement du métavers, sans investir dans les plateformes et les technologies de modération.
Problème de support
- Le support utilisateur des grandes plateformes est généralement insatisfaisant.
- Les canaux de support standards sont inefficaces, et les utilisateurs se retrouvent souvent face à des lettres de refus standardisées ou à des cauchemars kafkaïens.
- Même avec un support payant, l’expérience rapportée ne diffère guère de celle du support gratuit.
- À mesure que les grandes entreprises grandissent, elles tendent à proposer un support de plus en plus centré sur la réduction des coûts et la maximisation des profits, plutôt que sur l’amélioration de son efficacité.
L’avis de GN⁺
- Malgré des ressources plus importantes, la qualité de l’expérience utilisateur des grandes plateformes est souvent inférieure à celle des plus petites, car elles n’utilisent pas ces ressources pour améliorer l’expérience utilisateur mais pour maximiser leurs revenus.
- La qualité du support utilisateur a tendance à varier en sens inverse de la taille de la plateforme, en raison de la complexité croissante et de systèmes de support inefficaces.
- Cet article met en lumière les limites des grandes plateformes et fournit des éléments importants à prendre en compte lorsque les utilisateurs envisagent des alternatives plus petites.
1 commentaires
Commentaires sur Hacker News
Je pense que l’article sous-estime l’ampleur de ce problème. Il l’évoque brièvement, mais, dans l’ensemble, j’en suis venu à penser que le simple fait qu’une entreprise devienne extrêmement gigantesque est mauvais, et que ce n’est pas seulement un problème de modération de contenu.
Une grande entreprise n’a plus besoin de se soucier des consommateurs individuels, et dans les faits elle ne s’en soucie plus. Elle passe alors plus de temps à défendre sa position sur le marché qu’à « bien faire ce qu’elle faisait », et tente parfois de s’étendre à des marchés sans aucun rapport, comme un conglomérat.
Les « économies d’échelle » ne sont bonnes que si l’on parle de la capacité d’une entreprise individuelle à gagner de l’argent ; du point de vue des bénéfices pour l’économie dans son ensemble, la société et l’humanité, je pense que presque toutes les économies d’échelle sont néfastes.
Les économies d’échelle sont naturelles, comme l’herbe ou les mauvaises herbes qui prolifèrent, mais cela ne les rend pas bonnes ; pour la plupart des usages pratiques, il faut les contenir activement. Il est naturel qu’une entreprise grandisse, mais je pense que les grandes entreprises devraient être régulièrement démantelées, ne serait-ce que parce qu’elles sont devenues grandes.
Le risque moral comprend non seulement les torts directs causés à autrui, comme un support malveillant ou défaillant, mais aussi les dommages indirects via des externalités, comme la pollution ou le déclin des économies locales. Cette intuition me paraît manifestement juste.
Le risque moral rompt les boucles de correction sociale qui existaient dans de petits groupes comme la famille ou le village, mais il permet aussi de créer et d’accumuler une richesse immense. En philosophie, on appelle cela le problème des mains sales.
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Les économies d’échelle dans les biens de première nécessité nous ont permis de ne pas tous pratiquer une agriculture de subsistance, et de porter des vêtements confectionnés.
Les deux points de vue ont leur part de vérité. Je ne voudrais pas que la production de clous se fasse à la main, mais j’aimerais aussi que, quand j’appelle le support client, une personne ayant un vrai pouvoir de décision me réponde.
Le problème de la fraude sur Internet, c’est que presque personne ne tient réellement les escrocs pour responsables. Aujourd’hui, on se contente essentiellement de les « expulser », puis ils recommencent ailleurs, jusqu’à finir presque toujours par réussir.
C’est pourquoi l’industrie de la fraude est globalement rentable et continue de croître.
Quand je travaillais chez Blizzard, il existait beaucoup de dispositifs pour détecter les transactions frauduleuses par carte bancaire et les annuler avant la facturation effective, mais il n’y avait aucune procédure pour signaler les fraudeurs afin de les empêcher de recommencer le lendemain.
Je suppose que toutes les entreprises utilisent une stratégie similaire. Aucune n’a de moyen réaliste de tenir les fraudeurs pour responsables et de les empêcher de réessayer.
La fraude devient donc un problème de plus en plus important, ingérable et hors de contrôle. C’est un problème politique épineux : les gouvernements devraient créer des organisations dédiées à la réduction de la taille de l’industrie de la fraude, arrêter les escrocs et les tenir pour responsables.
La difficulté supplémentaire, c’est que cela traverse les juridictions, ce qui impose une coopération entre gouvernements de plusieurs pays. Cela peut sembler impossible aujourd’hui, mais d’ici là, je pense que la fraude ne fera qu’empirer.
On ne va pas appeler le FBI pour un achat de 20 dollars.
On peut faire l’analogie avec la guerre contre la drogue. Les principales cibles ont toujours été les petits dealers et les consommateurs, parce qu’ils sont faciles à arrêter et qu’il est facile de dire qu’on « fait quelque chose ». Mais l’impact sur le business de la vente de drogue et sur l’offre dans la rue est relativement faible, tandis que s’attaquer aux causes profondes est bien plus difficile.
Pour Blizzard, signaler les fraudes n’apporte pas de récompense à court terme, et il est difficile de savoir si cela aide à long terme. Mais, au bout du compte, il est important de faire ce qui est juste.
« Avancez vite et cassez des choses » peut être une excellente stratégie, mais elle ne doit pas être utilisée seule. Sinon, elle ne laisse derrière elle que des traces de destruction jamais nettoyées. Comme il est difficile de quantifier les objectifs, toute fonction objectif risque de dérailler, et des humains doivent l’observer pour corriger la trajectoire autant que possible.
Il faut à la fois des gens qui poussent vite et des gens qui ralentissent pour réparer ; l’harmonie se trouve dans cette tension. Quel que soit le camp que l’on choisit, il faut reconnaître que l’autre a aussi de la valeur.
Par exemple, on pourrait imaginer qu’une entreprise paie $X pour un signalement, reçoive $X5 si ce signalement aboutit à une amende, et doive payer $X10 supplémentaires s’il s’avère totalement fantaisiste. Si le signalement semblait valable mais n’aboutit pas à une amende, il n’y aurait pas de récompense.
Je crains que de mauvaises incitations ne conduisent à des signalements excessifs ou à d’autres effets indésirables.
Si l’on se mettait soudain à poursuivre la fraude, cela créerait des désagréments pour des acteurs très riches.
La véritable « économie d’échelle » de ces plateformes ne consiste pas à mieux assurer le support, la modération ou la prévention de la fraude, mais, en pratique, à ne rien faire du tout et à s’en remettre à leur domination du marché
Si vous exploitez le service de taxis d’Andy dans une petite ville et qu’un problème de support client survient, vous devez le traiter correctement vous-même, sinon vous faites faillite. Si vous êtes Uber, vous l’ignorez tout simplement
Cela n’a rien à voir avec l’efficacité ; c’est une question de pouvoir de monopole permettant de mal traiter les clients sans en subir les conséquences. Ajoutez à cela une surface d’attaque plus large, et plus une plateforme est grande, plus elle se dégrade en matière de spam, de fraude et de support
Les plaintes contre Uber sont nombreuses, mais l’expérience du taxi avant Uber était bien pire. Le petit service de taxis exemplaire d’Andy dans une petite ville n’existait pas, ou relevait de l’exception impossible à trouver de façon fiable en voyage
Même dans les grandes villes, la plupart des taxis se hélaient dans la rue ou se commandaient via une centrale, si bien que chaque chauffeur avait peu de raisons de se soucier de sa propre réputation. On ne choisissait pas un taxi en particulier, les transactions répétées étaient rares, et le service client comptait donc peu
Elle n’a pas besoin de s’en soucier, et une action collective a peu de chances d’être prise par un avocat parce que le groupe serait trop petit
En 2014, lorsque Jeff Atwood, alias codinghorror, est passé de Stack Overflow à la création de Discourse, il a donné une conférence à ce sujet, et je me souviens d’une phrase où il expliquait brièvement pourquoi le système de niveaux de confiance de Discourse avait été conçu ainsi
« La seule chose qui passe à l’échelle avec la communauté, c’est la communauté »
L’idée, c’est qu’il faut faire grandir les utilisateurs pour qu’ils deviennent des modérateurs. Obtenir des modérateurs autrement n’est pas soutenable
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Utilisateur : « IA, quel est mon état de lecture en ce moment ? » IA : « EveningSurfMood2, avec StuffFromFriends mis en avant ; dans EclecticTopicsLarge, il y a HighQ Discussion v3 de Dang, Clueful Author Making Coherent Argument Filter d’Alice12, et UnusuallyInsightful51 de hugging »
Pendant la lecture, l’IA : « Mastatron demande une évaluation. Cette publication sous-estime-t-elle les opportunités d’un hybride de calcul humain-IA à grande échelle ? » Utilisateur : « Ah, oui »
L’auteur semble confondre les avantages d’un effet de sélection avec de la compétence
Les personnes qui ont travaillé sur la prévention de la fraude sur des plateformes savent qu’il existe une sorte de marché de la fraude. Selon les gains obtenus en apprenant puis en exploitant une vulnérabilité, l’effort nécessaire et le nombre de répétitions possibles, toute plateforme finit par atteindre un niveau de fraude correspondant à un prix d’équilibre du marché
Si les petites plateformes ont beaucoup moins de fraude, c’est généralement parce que la valeur de l’attaque y est beaucoup plus faible, et cette faible valeur vient précisément du fait qu’elles sont petites
Les grandes plateformes ont en réalité des capacités de prévention de la fraude et du spam nettement supérieures, mais leur périmètre opérationnel en fait des cibles tellement attractives qu’elles restent très attaquées
C’est une situation où les fraudeurs du monde entier s’en prennent à Amazon, Google et Facebook. Le combat est très déséquilibré, et si l’on considère l’ensemble, je trouve que les plateformes tiennent étonnamment bien
Mais si cet argument est juste et que leurs systèmes sont vraiment bons, alors, en valeur absolue, il devrait être plus difficile de spammer ou d’arnaquer sur Reddit ou Facebook que sur HN ; or, dans les faits, ce n’est absolument pas le cas
Cette réponse est intuitivement convaincante. Si les grandes entreprises étaient vraiment plus compétentes en matière de prévention des abus et de la fraude, les fraudes qui passent au fil du temps devraient être plus subtiles et moins évidentes
Si leur modèle économique est « la taille à tout prix » et que cela dégrade l’expérience client, leur niveau de compétence importe assez peu
C’est indissociable d’un modèle économique qui consiste à vendre l’accès au plus grand vivier d’utilisateurs possible
Je ne suis pas d’accord avec l’idée que les grandes plateformes soient beaucoup plus compétentes en matière de prévention de la fraude et du spam. Elles sont volontairement incompétentes. Elles sont incapables de mettre en place la vraie capacité consistant à fournir suffisamment de support humain pour traiter le volume d’erreurs produit par les algorithmes automatiques
Ce n’est pas une question de coût, mais parce que cela réduirait la valeur fournie à leurs vrais clients : les annonceurs ou les acheteurs d’accès
Je suis globalement d’accord, mais je pense que certains exemples tombent à côté
Reddit n’est pas un mauvais exemple à cause de cet effet ; c’est au contraire un bon exemple. Reddit n’est pas une immense plateforme unique, mais un assemblage de milliers de subreddits modérés de façon indépendante. C’est parce que les petits subreddits restent à petite échelle que Reddit tient debout
Gérer son propre serveur e-mail n’est pas non plus un contre-exemple : c’est vraiment un très mauvais cas. Parce qu’il ne s’agit pas, fondamentalement, de modérer une petite communauté, mais le monde entier, simplement depuis son propre point de vue. N’importe qui peut envoyer un e-mail à n’importe qui
On se retrouve donc avec le pire des deux mondes. Pas le budget qui vient de la grande échelle, mais tous les problèmes à grande échelle
Ce n’est pas moi qui galère à modérer le monde entier, c’est le monde entier qui me modère
Les petites organisations ne savent pas bien éviter de ressembler à du spam, et utilisent aussi des antipatterns courants en entreprise, comme les agaçantes signatures d’e-mail
C’est pourquoi il est beaucoup plus difficile pour Gmail d’être aussi précis que mon filtre antispam. Mon filtre n’a besoin d’apprendre les préférences que de quelques centaines de personnes, tandis que Gmail est inévitablement exposé au risque de surapprentissage
Pris dans son ensemble, cet article mène à la conclusion qu’il faut davantage de concurrence sans leader géant clairement dominant. S’il existe potentiellement plusieurs entreprises de taille moyenne ou inférieure, et que le pouvoir ne se concentre pas d’un seul côté, cela crée des incitations à offrir une meilleure expérience ; pour les acteurs malveillants aussi, c’est plus difficile, car il y a plusieurs cibles
Dans un esprit de régulation et de concurrence de marché, je pense qu’il faudrait inciter à créer des entreprises logicielles de taille intermédiaire valant collectivement plus de 100 milliards de dollars, plutôt que quelques géants valorisés en milliers de milliards
Le matériel est un peu différent du point de vue des économies d’échelle, donc je ne voudrais pas l’inclure dans le même raisonnement, mais il y a peut-être aussi quelque chose à creuser de ce côté-là
Rockefeller détenait environ 90 % de parts de marché avant le début du procès antitrust, mais au moment du jugement sa part avait déjà baissé. Cela montre que même lorsqu’un acteur détient 90 %, le marché peut finir par réduire cette domination
En même temps, Rockefeller a aussi apporté à la société des innovations décisives. Au départ, le fait que le capital se concentre sur lui était positif, dans la mesure où il a servi à faire avancer la société ; et le fait que ce capital en soit ensuite sorti de lui-même était également positif, parce qu’il était nécessaire ailleurs
La centralisation actuelle autour d’entreprises gigantesques est influencée par de nombreux facteurs, dont les économies d’échelle, mais le droit de la propriété intellectuelle joue aussi un rôle important. En réalité, je pense que la propriété intellectuelle n’est pas nécessaire
Je soupçonne que la plupart des régulations sont écrites par les entreprises régulées et servent à empêcher la concurrence. Je pense aussi que la centralisation s’est vraiment accélérée pendant la Première et la Seconde Guerre mondiale, parce qu’il était plus pratique pour les gouvernements d’ordonner à quelques personnes seulement de fabriquer des chars plutôt que des voitures, et que c’était aussi un objectif stratégique du gouvernement américain
Les logiciels et les services en ligne ont été particulièrement problématiques, parce qu’il existe trop de façons de contourner la régulation. La conformité malveillante d’Apple vis-à-vis de l’UE en est un exemple flagrant ; le cas de Facebook, qui a convaincu les autorités que le chat et les réseaux sociaux étaient des marchés différents afin d’obtenir l’autorisation de racheter WhatsApp, est plus subtil
Idéalement, il faudrait non seulement empêcher les abus de monopole, mais aussi empêcher les monopoles eux-mêmes : https://pietersz.co.uk/2009/11/fix-capitalism
C’est facile à corriger. Il suffit de rendre Amazon responsable au titre de la garantie pour toutes les ventes réalisées sur sa plateforme
Amazon affirme ne pas être le vendeur, et que le vendeur est la partie anonyme qui a publié l’annonce sur sa plateforme. Il y a eu un procès à ce sujet en Pennsylvanie, et quand il est devenu probable qu’Amazon subisse une lourde défaite, l’entreprise a transigé pour éviter un précédent jurisprudentiel
Côté publicité, quiconque diffuse une annonce pour le compte d’un tiers devrait pouvoir fournir, sur demande, le nom et l’adresse réels de l’annonceur ; à défaut, il devrait être responsable du contenu de l’annonce. Les entreprises n’ont pas le droit d’être anonymes. L’UE et la Californie ont déjà de telles lois
Si la fraude pose problème, ce n’est pas parce qu’elle est difficile à combattre, mais parce que les grandes plateformes bénéficient d’une immunité même lorsqu’elles la facilitent
Comme les annonceurs doivent recevoir de l’argent, il est assez surprenant que ce ne soit pas déjà le cas. Cela dit, si la publicité devient plus difficile, les petites entreprises pourraient en pâtir, mais tromper les clients est aussi un problème
Les grandes plateformes ne sourcilleront pas devant le coût de la vérification, et les escrocs n’auront qu’à recommencer si leur plan s’effondre
Pour les entreprises légitimes, ce ne sera qu’un casse-tête de plus. Dans des cas particuliers, les utilisateurs pourront se retrouver coincés dans des limbes bureaucratiques sans fin. Même avec un support humain, celui-ci ne fera que répéter des formules vides comme « Nous ne pouvons pas vérifier votre identité avec les documents que vous avez fournis. Il s’agit d’une exigence de conformité au titre de la loi de 2026 sur la sécurité des plateformes en ligne »
Pendant ce temps, les escrocs continueront à créer des comptes ayant passé le KYC. La plateforme ne se préoccupera que de se conformer à la nouvelle réglementation, et cette procédure n’aura plus rien à voir avec la sécurité. Amazon continuera à toucher une commission sur chaque vente, et les grandes plateformes se réjouiront de voir les exigences de conformité servir de barrière à l’entrée pour leurs concurrents
Au bout du compte, le jour viendra aussi où toutes les données personnelles auront fuité. La compromission sera visible par tous, et ce sera encore un casse-tête que les escrocs, eux, n’ont pas
Si je recevais un dollar chaque fois que je lis « on peut régler ça facilement avec plus d’État », je pourrais monter un fonds de VC. Quand on traite avec des humains et des incitations, ce n’est jamais aussi simple. La société humaine n’est pas une base de code que l’on peut patcher pour éliminer les bugs
Il y a beaucoup de choses à décortiquer dans cet article, mais le cœur du sujet est le mythe de la grandeur et l’idée que ce qui est petit est beau
Il n’est pas surprenant que la Big Tech réussisse en construisant son propre mythe puissant. Les grandes organisations comme les États-nations créent toutes des mythes de capacités uniques, d’infaillibilité et d’exceptionnalisme
En même temps, il va sans dire que la taille apporte inefficacité, corruption, lourdeur et insensibilité. Sans les mesures protectionnistes qui maintiennent ces grands monopoles, ils auraient été pulvérisés dans de vraies conditions de concurrence
Il est facile d’imaginer comment les économies d’échelle bénéficient aux utilisateurs, mais cela ne signifie pas qu’il faille supposer que, dans tous les domaines, elles l’emportent sur les déséconomies d’échelle
Il faut regarder à la fois ce qui s’améliore et ce qui se dégrade quand une entreprise grandit, au lieu de supposer que parce que certains aspects s’améliorent, tout va s’améliorer — ou l’inverse
Il est difficile de comprendre qu’Amazon vende des cartes SD ou des supports de stockage flash manifestement faux. Ils sont très faciles à identifier, et les faux supports de stockage font perdre des données aux utilisateurs, donc cela devrait être pris au sérieux
https://a.co/d/auXcxrZ vend 1 To à 29 dollars tout en étant mis en avant comme « overall pick »
Parce qu’il existe une chaîne de traçabilité claire, du fabricant jusqu’au rayon du magasin
Des sites comme Amazon mélangent les articles « identiques » de plusieurs vendeurs dans un grand stock commun
Je ne vois pas comment ils pourraient endiguer ce flux
Les utilisateurs non techniques autour de moi insistent tous pour avoir 1 To, quoi qu’il arrive. L’un d’eux a acheté un iPad Pro simplement pour disposer de 1 To d’espace. Il avait utilisé son précédent iPad pendant huit ans et avait rempli environ 64 Go ; il voulait être sûr de ne plus jamais manquer de place