- Les scores de crédit, recommandations LinkedIn, notes Uber et autres applications du quotidien fonctionnent déjà comme des systèmes de crédit social
- Il existe en Occident une forte méconnaissance du système de crédit social chinois, qui est en réalité limité et décentralisé
- Les sociétés occidentales construisent divers systèmes de notation des comportements, tandis que l’infrastructure permettant de les relier continue de se développer
- Avec le partage de données et la collaboration entre entreprises et pouvoirs publics, ainsi que des coûts de changement élevés, il devient en pratique difficile d’y échapper
- Si à l’avenir les règles et les scores deviennent plus transparents, les utilisateurs pourront aussi comprendre les règles du jeu et faire leurs choix
Le système de « crédit social » existe déjà
- Les scores de crédit, recommandations sur LinkedIn, notes des passagers Uber, métriques d’engagement sur Instagram, avis Amazon, statut d’hôte Airbnb sont tous des systèmes de crédit social qui suivent et notent le comportement des utilisateurs afin de déterminer en conséquence les droits d’accès, les opportunités et la position sociale
Élargissement de la notion de crédit social
- À l’origine, le crédit social (social credit) était un concept économique visant à répartir les bénéfices de l’industrie pour accroître le pouvoir d’achat des consommateurs
- Aujourd’hui, il désigne tout système qui suit les comportements, les note, puis utilise cette note pour déterminer l’accès aux services et le statut social
La réalité dans laquelle nous vivons déjà
- Chaque fois qu’un algorithme évalue la fiabilité, le sens des responsabilités ou la valeur sociale, nous participons en fait à un système de crédit social
- Cette évaluation s’effectue de manière invisible, sur d’innombrables plateformes, et s’applique déjà à l’ensemble de la vie réelle
- La différence avec la Chine, c’est que le gouvernement chinois l’explique ouvertement, tandis que l’Occident le dissimule sous l’étiquette de « l’expérience utilisateur »
Le crédit social en Chine : entre fantasmes et réalité
- En Occident, le système chinois de crédit social est souvent imaginé comme une surveillance totalitaire, mais en réalité, en 2024, il n’existe pas de système national unifié
- Après la suppression de nombreux systèmes privés de notation et la fin de pilotes locaux, le dispositif actuel reste principalement limité à la supervision financière et des entreprises
- La notation des comportements individuels demeure cantonnée à des villes pilotes ou à des expérimentations limitées, avec une portée et un impact très réduits
- Dans les faits, ce qui est suivi concerne surtout le non-respect des décisions de justice (dettes, amendes impayées, etc.)
La réalité occidentale : notation distribuée et infrastructure de liaison
- Des profils comportementaux propres à chaque plateforme existent sur les scores de crédit, Uber, Instagram, LinkedIn, Amazon, etc., et ils déterminent l’accès aux services, les opportunités et les connexions sociales
- Certains prêteurs alternatifs utilisent même les profils sur les réseaux sociaux dans leur évaluation du crédit
- Les applications de paiement et services financiers analysent aussi les habitudes de paiement et le comportement transactionnel des utilisateurs afin de construire des profils de risque plus complets
- LinkedIn évalue la visibilité fondée sur des algorithmes ainsi que la capacité de connexion au réseau, tandis qu’Amazon et Instagram renforcent eux aussi l’usage des données comportementales
- Ces systèmes ne sont pas encore totalement intégrés, mais l’infrastructure qui permettra de les relier se met progressivement en place
Transparence et règles
- En Chine, même de façon décentralisée, les critères d’évaluation sont souvent rendus publics
- Dans les entreprises occidentales, en revanche, les critères de jugement des algorithmes restent totalement dissimulés dans une boîte noire
Entreprises vs État : différence essentielle et réalité
- Le coût élevé du changement de plateforme (par exemple l’écosystème Google ou le réseau LinkedIn)
- Les informations comportementales et de crédit de chaque plateforme sont de plus en plus partagées, interconnectées et exploitées en coopération, ce qui accroît leur influence
- Les pouvoirs publics eux-mêmes exploitent aussi les données des entreprises via les procédures légales ou l’achat de données
Pourquoi les systèmes de crédit social s’étendent
- À l’échelle internationale, les systèmes de crédit social permettent de résoudre des problèmes de prévention de la fraude, de facilitation de la coopération et d’orientation des comportements à grande échelle
- Les sociétés occidentales évoluent déjà vers une notation comportementale plus globale et plus intégrée
- L’Europe renforce les liens entre identité numérique et notation
- Certaines villes américaines expérimentent des incitations comportementales
- Les grandes plateformes étendent le partage des données de réputation, et les services financiers adoptent aussi l’analyse des réseaux sociaux
Le futur qui nous attend et nos choix
- Si les systèmes publient de plus en plus les scores comportementaux de manière transparente et rendent leurs règles visibles, les utilisateurs pourront identifier les comportements qui influencent leur score
- Si les recommandations fondées sur des algorithmes sont en réalité une évaluation de crédit social cachée, alors un système qui rend publics ses critères d’évaluation pourrait être préférable
- Comprendre les règles permet aux utilisateurs de décider s’ils veulent participer activement au jeu
Conclusion
- À l’avenir, il est possible que les systèmes de crédit social à la chinoise influencent progressivement les plateformes occidentales, avec une évolution vers une publication plus explicite des règles et de la structure des scores comportementaux
- Le moment est venu de comprendre comment fonctionne le système et de reconnaître que nous sommes, nous aussi, des joueurs de ce jeu
1 commentaires
Avis Hacker News
Souligne que, dans les médias et le discours américains, la vie sous les régimes autoritaires est décrite de manière très déformée. En réalité, dans beaucoup de pays, sauf situations particulières concernant les minorités, les militants politiques, les criminels, etc., le quotidien n’est pas si différent de celui de l’Occident. Mais la plupart des gens ne veulent pas l’entendre, parce qu’ils préfèrent croire qu’ils n’accepteraient jamais une telle vie. Même dans les pays occidentaux, une dérive autoritaire est en cours, mais les gens ont tendance à la nier parce qu’ils ne la ressentent pas directement. Bien sûr, la vie n’est pas totalement identique, mais l’influence de l’autoritarisme s’infiltre de façon plus insidieuse qu’on ne le pense
Raconte avoir vécu dans plusieurs pays, y compris des zones de guerre, sous différents systèmes politiques. Pourtant, dans les faits, le quotidien était presque partout similaire. Faire les courses, aller au travail, voir des amis, boire un verre, sortir manger, assister à un mariage : les habitudes de vie restent en réalité semblables dans de nombreux endroits. Explique que la manière dont l’Occident décrit les pays non membres de l’OCDE ou non démocratiques nourrit un sentiment de supériorité mal placé, alors que l’on y retrouve les mêmes problèmes : concentration des richesses, pauvreté, minorités persécutées, participation politique de façade, police dangereuse, corruption. Cela ne veut pas dire que tous les pays sont identiques ; les différences culturelles et géographiques ressortent davantage que les différences politiques
Explique que lorsqu’on vit pendant un temps comme migrant ou comme étranger débutant, la réalité locale se voit peu. Mais à mesure qu’on apprend la langue et qu’on regarde plus en profondeur, on découvre des problèmes comme des relations familiales peu fiables, des hiérarchies faites de pots-de-vin et d’incompétence, l’absence de protection juridique, ou une société de classes sans espoir. Et si une guerre éclate, même dans ce contexte déjà fragile, la majorité ethnique se met à persécuter et expulser les minorités
Dit que, même si à court terme cela peut sembler similaire, il y avait bien une raison pour laquelle tant de migrants éduqués de la classe moyenne supérieure voulaient à l’origine immigrer aux États-Unis. L’innovation, la puissance économique et la puissance militaire américaines seraient elles aussi touchées si la corruption devenait omniprésente ; il faut donc atténuer la corruption, ou plus largement le problème de la confiance sociale
Même si la vie peut se ressembler pour ceux qui ne sont ni minoritaires, ni militants politiques, ni concernés par des problèmes juridiques, c’est précisément pour cela qu’il préfère les gouvernements libéraux occidentaux. Il considère que cet idéal est une valeur qui permet de critiquer les gouvernements autoritaires et qu’il faut défendre en Occident
En racontant son expérience en Chine, dit que, pour un citoyen ordinaire, la vie quotidienne semblait globalement correcte. Il y avait bien des problèmes d’équilibre vie pro/vie perso, comme ailleurs en Asie, mais ce n’était pas un environnement de contrôle étatique extrême comme l’ancienne Russie décrite dans certains récits russes ou comme la RDA. Même sous un régime fasciste, si l’on ne fait pas partie d’une minorité « impopulaire » et qu’on reste indifférent, le quotidien peut sembler paisible — du moins jusqu’au début de la guerre
Raconte les problèmes liés au système de crédit qu’il a rencontrés après avoir quitté le Canada pour la Californie. Malgré un salaire élevé, il avait du mal à trouver un logement faute de score de crédit, et il a dû s’en sortir en payant un an de loyer d’avance. Le transfert d’une grosse somme d’argent du Canada vers les États-Unis n’a pas non plus été simple. Lors de l’achat d’une voiture, le concessionnaire a refusé la transaction au motif que son SSN récemment obtenu n’apparaissait pas encore dans le système, ce qui empêchait de vérifier son identité. En revanche, son ancienneté comme client Amex a été reconnue aux États-Unis, ce qui lui a permis d’obtenir facilement une carte de crédit haut de gamme. Il estime que nous vivons déjà dans un système de social credit géré par des entreprises, et que cela pourrait même être préférable pour les consommateurs
Considère qu’à l’origine, un score de crédit est censé mesurer la solvabilité, mais qu’en pratique il sert souvent à bloquer arbitrairement l’accès
Explique avoir vécu quasiment la même chose lorsqu’il a immigré au Canada il y a 15 ans. Bien qu’il travaille dans la tech, n’ait aucune dette et dispose d’économies suffisantes, il n’a pas pu obtenir de carte de crédit pendant longtemps faute d’historique, et il ne pouvait pas louer sans garant. Après avoir vécu des situations similaires dans plusieurs pays, il a compris que beaucoup de communautés discriminent en réalité les nouveaux arrivants. L’égalitarisme est un idéal, mais dans les faits, le favoritisme relationnel et les préjugés imprègnent profondément les institutions
Les scores de crédit sont entièrement gérés par des entreprises. Il dit ne toujours pas vraiment comprendre quel est leur modèle économique
A l’impression qu’Amex gère ce genre de problème avec une certaine souplesse. Il a pu obtenir facilement une carte personnelle sans score de crédit, probablement parce qu’il utilisait déjà une carte Amex fournie par son entreprise
Partage un ancien commentaire HN selon lequel « il existe aussi un social credit dans la vraie vie ». Par exemple, si on est impoli avec un barman, on se fait une mauvaise réputation dans ce bar ; si l’on fait du bénévolat, on se construit une réputation dans cette organisation. Même sans algorithme, les gens se souviennent
Si on le souhaite, on peut toujours déménager dans une autre ville et repartir de zéro. Le problème d’un système centralisé de social credit, c’est que la réputation vous suit toute la vie. Même si un mauvais enregistrement résulte d’une erreur, il n’existe aucun moyen d’obtenir réparation. Entre personnes, on peut régler les choses directement ; un système, non
La réputation dans le monde hors ligne — une forme de social credit — est en général diffuse, locale, et évolue ou disparaît avec le temps. En revanche, le social credit numérique vous suit toute la vie sous la forme d’un score automatisé et impose des conséquences absolues
Pense que certains imaginent à tort qu’un barman se souvient parfaitement de chaque client ; en réalité, au cours d’un service, il voit souvent pire et n’y prête généralement pas attention. Dans les associations à but non lucratif aussi, les responsables changent avec le temps, et plus personne ne se souvient des anciens bénévoles. Le fait de surestimer l’importance d’un événement donné relève de « l’effet projecteur »
La différence avec la réputation hors ligne, c’est que toutes les relations sont liées à un lieu physique et à des interactions sur place. Il faut qu’il y ait une valeur réelle dans l’échange. Même si l’on se forge une mauvaise réputation quelque part, elle ne vous suit pas ailleurs
La réputation a toujours été, à l’origine, une forme de social credit ; la différence moderne tient à l’échelle et à la transparence
Explique la différence entre les systèmes d’archives de la Chine et ceux d’autres pays à l’aide de quelques exemples
Souligne qu’il existe une différence fondamentale lorsqu’un pouvoir central unique contrôle le social credit et que la loi ne protège pas les individus contre ce pouvoir. En dehors de cela, les humains se sont toujours évalués de multiples façons
Dès qu’un « score » de social credit est détenu par un pouvoir central unique, on passe d’un simple retour social à un pouvoir structurel
Souligne qu’il faut comprendre précisément la situation récente en Chine. En 2024, il n’existe toujours pas de système national de score de crédit personnel, et l’essentiel relève encore d’outils de supervision financière et des entreprises. Aux États-Unis, trois agences privées de crédit ont mis en place un système de score entièrement intégré à la finance, mais si un score de crédit public était instauré, il serait au moins possible d’avoir davantage de transparence et de contre-pouvoirs. Il critique la réalité actuelle dans laquelle Equifax, Experian et d’autres peuvent provoquer des fuites de données sans presque aucune responsabilité
Bien sûr, chacun évalue toujours les autres, mais si une entreprise m’évalue et revend cela comme un « service », la différence est énorme
Prend l’exemple d’Amazon pour expliquer que mon ratio achats/retours n’est pas partagé avec d’autres entreprises
À l’affirmation selon laquelle « la seule différence entre le social credit chinois et le téléphone, c’est que la Chine dit honnêtement ce qu’elle fait », répond qu’on peut choisir entre plusieurs téléphones, voire ne pas en utiliser, alors qu’il est totalement impossible d’échapper au système d’un État. Même si le coût de sortie entre systèmes privés est élevé, il reste bien inférieur au coût de sortie entre pays. Il reconnaît que la coopération croissante entre systèmes privés peut aussi devenir problématique, mais estime que cela reste fondamentalement différent d’un contrôle total exercé par l’État. Le vrai danger apparaît lorsque le gouvernement achète des données privées pour restreindre des droits fondamentaux, comme dans l’exemple du gel des comptes liés aux dons lors des manifestations au Canada ; mais le problème ne se réduit pas simplement à l’achat de données. Enfin, il note qu’il existe aussi un débat sur ce que recouvre exactement la définition même du social credit
Au sujet des histoires du type « si vous achetez trop d’alcool en Chine, votre score baisse », partage son expérience de premier voyage en Chine : il était mineur, mais a pu acheter de l’alcool sans aucune restriction. Il dit que cela lui a semblé bien plus laxiste qu’aux États-Unis. Il estime aussi qu’au lieu de suivre par la loi le volume d’alcool acheté, il serait plus efficace de sanctionner les conséquences, par exemple les troubles provoqués par l’ivresse en public
Fort de son expérience avec son épouse chinoise et sa belle-famille, explique que la consommation d’alcool des mineurs est davantage considérée en Chine comme une affaire familiale. Si un jeune de 16 ans est ivre, la famille et les amis autour de lui se préoccupent davantage de la réputation, et la police n’intervient qu’en dernier recours. Il a même l’impression qu’il y a beaucoup moins de désordre lié à l’alcool dans l’espace public en Chine qu’en Occident
Si quelqu’un achète beaucoup d’alcool pour préparer une fête ou profiter d’une promotion, il serait absurde que son score baisse automatiquement. Acheter n’équivaut pas à consommer immédiatement
Insiste sur le fait qu’il existe déjà en Occident des systèmes similaires à celui de la Chine, mais avec encore moins de régulation. Le social credit n’est pas un concept nouveau, ni nécessairement un contrôle de type orwellien. Si ces systèmes sont détournés par les gouvernements ou les entreprises, c’est parce que nous ne les encadrons pas, ne les régulons pas, ou n’exigeons pas de transparence. Accepter la réalité selon laquelle ces systèmes existent déjà est, selon lui, la première étape pour trouver un terrain d’entente social sur la nécessité de réguler la collecte et la conservation des données, ainsi que l’acquisition par l’État de données privées. En l’état actuel, cela ne profite qu’au capital, nuit à la démocratie et aux droits civiques, et exige donc un changement
Du point de vue selon lequel les systèmes de crédit ou de réputation sont le résultat naturel de l’évolution du marché, cite le cas de la Suède pour expliquer que les « vérifications de crédit » y sont depuis longtemps extrêmement courantes. Il mentionne aussi un phénomène récent : des entreprises ont développé des scores de crédit pour les consommateurs, que ceux-ci ne peuvent consulter qu’en payant un abonnement. Ce processus correspond, selon lui, à une logique d’entreprise visant simplement à gérer les risques et les coûts, et à vérifier la valeur des consommateurs pour rendre les transactions plus efficaces
Explique pourquoi il s’efforce d’agir dans les communautés sans insultes ni conflits. À l’époque d’UseNet, il publiait souvent des messages de trolling et agressifs, mais cela a été une expérience très négative. Désormais, il agit selon ses propres critères d’intégrité personnelle et de contribution productive à la société. Il cherche à se comporter ainsi pour des raisons qui comptent pour lui-même, davantage qu’en fonction de l’évaluation ou de la réputation que les autres lui attribuent