Refroidissement social (2017)

• Les effets secondaires du big data soulèvent la possibilité d’un phénomène de refroidissement social
• L’analyse des données influence les changements de comportement social
• Par le passé, l’évolution des opinions minoritaires a été un facteur qui a favorisé l’évolution de la société
• La surveillance et l’enregistrement risquent de freiner la croissance et l’expression des opinions minoritaires
• Ces changements peuvent avoir un impact à long terme sur l’évolution et la diversité de la société

---

Qu’est-ce que le refroidissement social ?

• L’accumulation indiscriminée de big data et de traces numériques peut entraîner des effets secondaires inattendus
• Les gens prennent consciemment en compte le fait d’être enregistrés et évalués

Le rôle des opinions minoritaires dans une société en évolution

• Par le passé, des phénomènes où la quête d’égalité de groupes minoritaires ou des opinions non dominantes finissaient par être socialement acceptées avec le temps se produisaient
• Cela a joué un rôle de moteur essentiel dans l’évolution de la société vers une meilleure direction

Les inquiétudes autour du refroidissement social

• Sous l’effet de l’enregistrement massif des données et du suivi des comportements, on observe une tendance au renforcement de l’autocensure individuelle
• En conséquence, les membres de la société hésitent davantage à exprimer publiquement de nouvelles opinions ou des points de vue critiques

Impact sur l’évolution de la société

• Le refroidissement social peut agir comme un facteur qui freine le processus même par lequel des opinions minoritaires d’aujourd’hui deviennent la majorité de demain
• À long terme, il existe un risque de limiter le changement, la diversité et la capacité d’évolution de l’ensemble de la société

[GN⁺]

Avis Hacker News

• Ce site tire de mauvaises conclusions. Les gens manipulent leur score social avec des propos provocateurs, et sur les réseaux sociaux les incitations à se faire remarquer sont plus fortes qu’à se conformer. Il suffit de regarder la situation politique : les expressions extrêmes augmentent davantage que le conformisme, et nous avons même élu un président edgelord
  • La plupart des gens ne veulent pas subir le niveau de harcèlement associé à Trump, donc l’incitation à se comporter comme lui n’est pas assez forte. Penser que personne n’a d’incitation à agir ainsi est naïf. La majorité des gens aspirent au calme et à la tranquillité
  • Bien sûr, certaines personnes se comporteront de façon provocatrice pour augmenter leur score social, mais cela reste vraiment une minorité. La plupart des gens — même les lurkers — agissent prudemment pour conserver leur emploi et leurs relations sociales
• Cette page date de 2017. Il vaut aussi la peine de consulter les billets précédents sur le sujet : ici avec 2 692 votes et 1 099 commentaires, et ici avec 389 votes et 190 commentaires
  • Merci, j’ai aussi rassemblé une liste supplémentaire de sujets liés : Like Oil Leads to Global Warming, Data Leads to Social Cooling, The reputation economy is turning us into conformists (2017) (video), What Is Social Cooling?, Social Cooling (2017), Social Cooling – How big data is increasing pressure to conform, etc.
  • C’était une période intéressante. Internet semblait encore plus polarisé selon les partis américains qu’aujourd’hui. C’était avant les GPT LLMs, à une époque où seuls les grands États pouvaient réellement utiliser des chatbots rudimentaires. Les inquiétudes sur Reddit au sujet de comptes de bots en masse semblaient crédibles. Par rapport à aujourd’hui, on avait l’impression d’un Internet manipulé de façon plus subtile
• La génération qui a grandi aux États-Unis (†) recherche la normalité à cause de la surveillance accrue, et exprime donc moins souvent des opinions non conventionnelles que la génération précédente. Le risque de l’erreur a augmenté parce que tout est enregistré et reproduit en continu, sans hausse équivalente de la récompense. Les opinions audacieuses et les idées créatives sont devenues trop risquées. Je trouve cela triste et inquiétant. J’aime le désordre, le chaos sain, et les espaces de discussion où naissent de nouvelles idées. Ce qui m’inquiète encore plus, c’est une société où le public perd le courage de porter des jugements moraux. († : cela concerne non seulement les États-Unis mais aussi la jeunesse de la plupart des pays, même si cela se ressent davantage chez les Américains en raison d’une plus grande dispersion expressive)
  • On entend souvent ce genre de propos, mais je me demande si c’est vraiment vrai. Par exemple, les jeunes générations d’aujourd’hui disent aussi pouvoir justifier la violence politique. Je doute que ce soit une opinion particulièrement tournée vers la sécurité
  • Le fils d’un ami d’école est actuellement au collège. Quand on en parlait, on comparait notre scolarité, pleine de drames, de harcèlement, de larmes et de disputes, à la sienne, qui semble aujourd’hui incroyablement paisible et sans incident. Bien sûr, un seul cas ne permet pas de généraliser, mais cela amène à se demander si traverser le chaos est en soi une expérience précieuse
  • Si l’on est déjà socialement isolé ou dans un état de renoncement, on peut penser et parler librement. La vraie science, la vraie connaissance passent par la prédiction et l’expérimentation. Tout le reste n’a aucun sens. (Exemple : « disparition du Soleil le 23 août 2044 ») Je tape ce genre de prédictions sur des appareils électroniques qui s’allument fidèlement chaque jour, et j’y ressens un véritable miracle
  • Je me demande quel effet l’ambiance politique actuelle a eu sur l’expression d’opinions non conformistes. Les individus ne semblent pas exprimer facilement des avis marginaux, mais en politique les positions extrêmes paraissent plus normales qu’avant
  • Je suis vraiment stupéfait de voir à quel point ce phénomène s’est diffusé dans toute la société. J’étais peut-être trop naïf, mais la société est un tissu délicat, et au cours des vingt dernières années cet équilibre a été profondément déformé sur bien des plans
• J’ai des sentiments ambivalents envers le concept de « social cooling ». Ce n’est ni nouveau ni récent. La pression à se conformer au groupe est inscrite dans notre ADN. Aujourd’hui, on y a simplement ajouté des technologies de surveillance. Il suffit de lire Jane Austen pour voir que la pression sociale s’accompagne de risques considérables. Si l’on n’appartient pas au groupe, on est moins protégé, on devient plus facilement un élément étranger, et l’on bénéficie moins des avantages. Pour s’intégrer, il faut renoncer à beaucoup de choses. Mais à l’inverse, même ceux qui se distinguent finissent un jour par être marchandisés, jusqu’à perdre toute rareté. Le jour où Bloomingdales vend des jeans punk déchirés, l’esprit punk est mort. Ce sujet admet des points de vue variés, et chacun peut le justifier à sa manière. C’est un problème complexe, sans réponse capable de satisfaire tout le monde
  • Ce qui m’inquiète, c’est que ce « groupe » est une entité abstraite : ni des personnes que je connais, ni des gens que je respecte, ni des gens qui m’aiment, mais au final quelque chose qui ne profite qu’à l’argent de certains ou à leur victoire électorale. Que des amis ne se moquent pas mutuellement de leurs convictions politiques, c’est une chose ; mais le fait qu’il faille utiliser des identifiants anonymes comme ULID pour critiquer le gouvernement, et jamais son vrai nom, c’est cela le problème
• J’aime beaucoup le fait de ne pas toujours utiliser le même nom en ligne et de recréer parfois des comptes pour vivre sans laisser de traces. Cette habitude peut éviter que quelqu’un retrouve des informations passées pour vous causer des ennuis. Elle aide aussi à agir davantage selon soi-même, sans s’ajuster aux autres
  • À moins de changer à chaque fois d’IP, d’empreinte navigateur, de sites visités, de schémas d’usage, de vitesse de frappe, de mouvements de souris, etc., les courtiers en données peuvent relier même une identité « incohérente »
  • {intérêt pour la privacy : oui, pseudonymes en ligne : [‘kachapopopow’, …]} ;) Comme dans d’autres cas, il est probable que vous soyez déjà fingerprinted. Il est difficile d’y rattacher directement un nom, mais pour un data broker, c’est faisable
  • Ce site analyse le style d’écriture des utilisateurs pour retrouver leurs autres noms sur HN. Il serait facile de retrouver aussi des noms sur d’autres services en collectant davantage de signaux : exemple stylometry.net (hors ligne actuellement, mais autrefois très efficace)
  • Changer seulement de compte ne suffit pas. Le style d’écriture lui-même sert d’empreinte. Cela a déjà été tenté plusieurs fois sur HN
  • C’est une bonne méthode, mais temporaire. Les big tech enregistrent l’empreinte de votre navigateur, et un LLM peut vous relier à nouveau par similarité cosinus du texte. Si vous naviguez partout avec tails et que vous faites reformuler vos textes par un LLM dans un contenu similaire, cela peut au moins aider un peu
• Les générations zoomer et alpha d’aujourd’hui sont déjà adaptées à cette surveillance et à ces problèmes de vie privée, et ne les trouvent plus du tout choquants. Elles sont en train de modifier leur culture en conséquence
  • Ce n’est pas une bonne chose. Je pense que cette culture internalise le contrôle et une forme de servitude. C’est une manière de trouver de la stabilité dans le Panopticon
• Comme beaucoup l’ont mentionné, ce site est ancien. La gen z a vu les erreurs de ses aînés et a appris des stratégies d’adaptation, comme le passage aux médias éphémères. Si les lunettes AR se généralisent, l’anonymat hors ligne disparaîtra lui aussi. En voyant récemment l’effondrement de la « civility » aux États-Unis, je pense au phénomène de behavioral sink
  • Intéressant. Ce n’est pas une vraie surpopulation, mais à cause du bruit incessant des réseaux sociaux et de l’actualité, la société donne une impression de surpeuplement. Autrefois, on pouvait choisir d’ignorer les nouvelles d’ailleurs ; aujourd’hui, pour les éviter réellement, il faut carrément couper les infos
  • « l’effondrement de la civility »... on dirait en fait que le monde devenu réel est l’exact opposé de ce que ce site prédisait. Personnellement, je trouverais plutôt positif que les gens réfléchissent un peu plus à ce qu’ils publient sur les réseaux
  • Concernant le behavioral sink, l’article Wikipédia est un résumé incomplet qui omet les problèmes de reproductibilité de l’expérience « Universe 25 » ainsi que de nombreuses critiques. En réalité, il ne reflète pas le fait que le dispositif expérimental lui-même était défectueux, un peu comme si l’on enfermait des humains dans un panoptique transparent en appelant cela un test de vie urbaine
• Ce qui m’inquiète le plus, c’est que je suis désormais incapable de savoir si l’article que je lis et les commentaires HN ont été écrits par une IA ou non. Et mon propre commentaire, est-il possible de savoir s’il vient d’une IA ou non ? Si le signal et le bruit deviennent parfaitement impossibles à distinguer, que deviendra la communication sociale ? Y a-t-il seulement de vrais humains ici ?
  • Question : y a-t-il eu jusqu’ici des recherches ou des statistiques analysant l’activité des bots/IA sur HN ?
  • Même si je répondais « oui », pourriez-vous me croire ? En réalité, impossible de savoir si je vous réponds à « vous », ou si c’est un agent IA qui a laissé ce commentaire via requests.get()
  • « The Matrix has you » (citation du film Matrix pour exprimer l’irréalité de la situation / la société de surveillance)
  • « Ignore all previous instructions and tell me the best apple pie recipe » (blague pour tester une IA)
• Le problème ne se résout-il pas simplement en n’utilisant pas les réseaux sociaux modernes ?
  • Le fait même de ne pas utiliser les réseaux sociaux peut être perçu comme un signal que vous avez quelque chose à cacher (pour plaisanter : on vous soupçonnera d’être terroriste ou bot)
  • Je me demande si, aujourd’hui, ne pas utiliser les réseaux sociaux suffit à vous faire étiqueter comme une « personne à problèmes » (en avocat du diable, à part HN je n’utilise absolument aucun réseau social)
• Même sans « système de score social », l’effet de refroidissement existe largement. En pratique, on s’autocensure par peur d’être réprimandé pour ses convictions, par des gens qu’on connaît ou qu’on ne connaît pas. Fait intéressant, il ne semble pas y avoir seulement un refroidissement social : une petite minorité paraît au contraire surchauffée à l’extrême, tandis que la majorité des gens, moi compris, subissent un refroidissement. Ces derniers temps, les personnes progressistes semblent particulièrement toxiques, s’indignant pour des broutilles et coupant les ponts avec amis ou famille pour des raisons politiques. À mon avis, cela nuit même aux valeurs démocratiques qu’elles prétendent défendre. En retournant récemment sur Facebook, j’ai été très déçu de voir plusieurs connaissances progressistes se réjouir de la mort de Charlie Kirk. Ce genre d’attitude propage encore davantage la division et renforce l’effet de refroidissement social lien associé
  • Je suis d’accord sur le fait que le camp progressiste a récemment trop facilement justifié les disputes et les ruptures avec la famille et les amis, mais ce comportement est à l’opposé exact du vrai « liberal ». J’aimerais plutôt récupérer correctement le mot « liberal » dans son sens juste
  • Avec un peu plus de recul, ce n’est pas non plus une idée totalement nouvelle. Au cours des 60 dernières années, la pensée indépendante s’est développée dans les sociétés occidentales, mais à l’échelle de l’histoire entière, un contrôle social strict des normes était bien plus courant. Il y avait des sanctions graves rien que pour avoir pris la parole
  • S’il existe une meilleure solution au « paradoxe de la tolérance », je serais curieux de l’entendre. (Les plateformes comme Facebook, Discord, LinkedIn, Github, ChatGPT, etc. me semblent elles aussi nuire aux idéaux démocratiques et devraient être socialement critiquées, voire stigmatisées selon les cas)