- Comme l’illustre la controverse sur l’héliocentrisme de Galilée, le pouvoir social et les systèmes de croyance ne changent pas sous l’effet de simples « faits »
- L’Église, le pouvoir et l’idéologie expliquent et justifient la réalité à travers des récits et des connexions structurelles reliant Bible, cosmologie, art et normes sociales
- La structure des croyances (graphe) se compose de nœuds centraux et de connexions (arêtes), si bien qu’ébranler une seule partie peut faire vaciller toute une vision du monde
- Le cœur des controverses n’est pas le fait lui-même, mais le fonctionnement psychologique et social par lequel chacun attaque ou défend des nœuds et des liens dans son propre cadre structurel (graphe)
- Plus la résilience structurelle, la cohésion interne et la résonance émotionnelle sont fortes, plus la croyance se maintient ; les faits n’acquièrent de l’influence que lorsqu’ils s’intègrent à un cadre structurel
Ce n’est pas le fait, mais la structure qui détermine les croyances
- Lorsque Galileo Galilei a avancé l’héliocentrisme, l’Église a résisté non par simple ignorance ou superstition, mais pour défendre un système de croyances qui maintenait l’ordre social
- parce que la vision géocentrique de l’univers fonctionnait comme une structure centrale de la foi et de l’ordre social
- Ce système de croyances reliait organiquement récits, symboles et doctrine afin de légitimer l’autorité et l’ordre
- Les passages bibliques soutenaient une cosmologie géocentrique, liée à une structure hiérarchique sociale et morale dans laquelle l’être humain occupait le centre de l’univers
- Cette structure se reflétait fortement non seulement dans les débats, mais aussi dans toute une vision du monde, le calendrier liturgique, l’architecture des cathédrales, l’art et les normes du quotidien
- Contester un concept, ce n’est pas toucher à une seule idée, mais à tout un réseau et à l’autorité qui l’accompagne.
- Dès qu’on touche au nœud central (le géocentrisme), l’ensemble de la structure devient précaire
Exemple de structure de croyance (graphe)
- Aujourd’hui encore, les structures de croyance peuvent être décrites comme des « graphes » faits de concepts (nœuds) et de connexions (arêtes)
- Par exemple, les structures de « capitalisme axé sur la croissance » et de « durabilité écologique » possèdent chacune leur propre logique et leur propre réseau de connexions
- Growth-First Capitalism
- innovation→profit→rendement pour les actionnaires→pouvoir d’achat→concurrence→innovation...
- un système où chaque lien se renforce mutuellement, avec une forte cohérence interne et une grande résilience
- Ecological Sustainability
- crise climatique→changement de politique→énergies renouvelables→réduction des émissions→résilience des communautés
- une structure vertueuse fondée sur les connexions, qui met l’accent sur le lien entre bien-être humain et santé de la planète, l’action collective et la résilience
- Les connexions entre nœuds (arêtes) dans ce graphe sont continuellement renforcées par des forces psychologiques
- En situation de dissonance cognitive, le cerveau humain recourt au raisonnement motivé et à la rationalisation a posteriori pour préserver sa vision du monde existante
- C’est pourquoi les structures de croyance sont extrêmement solides et résistantes au changement
Attaque structurelle — ébranler nœuds et arêtes
- La véritable « guerre » entre systèmes de croyance concurrents n’est pas une bataille de revendications logiques, mais une tentative de modifier la structure de l’autre
- Il s’agit d’influencer cette structure en faisant tomber ses nœuds centraux, en affaiblissant les connexions entre concepts, ou en absorbant ses éléments les plus attractifs
- Il se produit ainsi, au-delà du simple échange d’opinions, un processus de transformation de la structure même des croyances
- Attaque de nœud (Node Attack) : une attaque ciblée contre un nœud central peut affaiblir l’ensemble du système de croyance
- Exemple : si le nœud « menace du changement climatique » est attaqué, la motivation en faveur de changements de politique s’affaiblit, ce qui déstabilise l’ensemble du système.
- Si l’attaque réussit, les principales boucles de rétroaction du système s’effondrent et la structure elle-même risque la désintégration
- Attaque d’arête (Edge Attack) : attaquer les connexions (arêtes) entre idées rend indirectement la logique du système de croyance plus fragile et moins persuasive
- Exemple : si l’on critique l’idée selon laquelle les « profits des actionnaires » conduisent réellement à une hausse du pouvoir d’achat, l’argument capitaliste d’une prospérité généralisée s’affaiblit
- Si les attaques d’arêtes se prolongent, la légitimité sociale du système s’effondre et il est plus facilement absorbé par des structures alternatives
- En outre, les systèmes de croyance mobilisent diverses stratégies : absorber les forces de structures concurrentes, évoluer à travers des niches, ou acquérir de la résilience par auto-correction
Psychologie humaine et structure des croyances
- Les systèmes de croyance (mèmes, idéologies, etc.) ne prennent réellement effet qu’à l’intérieur de la structure cérébrale des individus
- La structure des croyances est maintenue et protégée par l’architecture cognitive humaine ; elle est parfois si profondément imbriquée dans « l’identité personnelle » qu’une remise en cause est ressentie comme une attaque personnelle
- Elle est stabilisée non par la seule logique, mais par des mécanismes psychologiques automatisés du cerveau, comme la dissonance cognitive et le raisonnement motivé
- Le cerveau filtre inconsciemment les informations menaçantes et, face à des preuves contradictoires, tente de rationaliser pour résoudre la dissonance cognitive
- C’est l’une des raisons pour lesquelles les structures de croyance résistent si fortement aux attaques extérieures
Concurrence structurelle et cas concrets
- Les débats sociaux actuels ne portent pas sur de simples faits, mais sur le choc entre des modèles de croyance incompatibles
- Chaque camp dispose de sa propre structure de connexions, de ses idées centrales et du système logique qui les soutient, et n’accepte pas facilement la logique adverse
- Plus le réseau de croyances d’un groupe est solide et ses connexions fortes, plus sa résistance aux attaques extérieures et son influence augmentent
- À l’inverse, si le groupe se divise en interne ou si ses connexions s’affaiblissent, son influence chute rapidement
- C’est pourquoi, lorsque des forces hostiles provoquent une division interne, cela affecte aussi l’équilibre global du pouvoir
Comportement inauthentique coordonné (coordinated inauthentic behavior)
- Opérations sur les réseaux sociaux où plusieurs faux comptes coopèrent pour manipuler l’opinion publique
- Il ne s’agit pas seulement de diffuser de la désinformation, mais d’une stratégie visant à affaiblir systématiquement les connexions centrales d’un graphe de croyances
- Par exemple
- l’IRA russe a attisé les conflits raciaux aux États-Unis en amplifiant simultanément des voix opposées afin de secouer la structure des connexions sociales
- BLM/anti-BLM, pro- et anti-vaccins, débats climatiques : autant de mécanismes de division qui affaiblissent les liens centraux et rendent l’ensemble de la structure instable
- Ce type d’attaque réseau à grande échelle met davantage l’accent sur l’affaiblissement des connexions structurelles que sur une désinformation orientée dans une seule direction
- Comme l’a montré le cas Cambridge Analytica, les techniques de microciblage et les messages personnalisés peuvent viser avec précision les nœuds et arêtes vulnérables au sein d’une structure de croyance
- Plus récemment, l’essor des LLM (grands modèles de langage) a provoqué une augmentation explosive de l’ampleur et de l’agilité de ces manipulations structurelles
Comment protéger nos structures de croyance
- Le fact-checking, la réfutation et la vérité seule ont leurs limites. Pour qu’un système de croyance gagne en résilience, il faut renforcer la « structure », la « cohésion interne » et la « capacité d’empathie émotionnelle »
- La vérité ne survit et ne se diffuse durablement que si elle s’inscrit dans un cadre structurel dans lequel les gens peuvent habiter
- Pour contrer la manipulation et la division, il faut des récits robustes, une cohérence structurelle et une résilience accrues de son propre système de croyance, des ponts entre modèles, et des récits capables de résonner émotionnellement
- Comprendre les mécanismes de la croyance permet à chacun de devenir non plus une cible passive, mais un concepteur actif de structures. Il devient possible de concevoir de nouveaux systèmes de croyance, solides, adaptatifs et plus ouverts
Conclusion
- Nous ne sommes pas de simples consommateurs d’information : nous pouvons devenir les architectes de nos propres structures de croyance
- À partir d’une compréhension structurelle, concevoir des systèmes de croyance résilients et connectés constitue la véritable réponse à l’ère des guerres culturelles et de la manipulation de l’opinion
2 commentaires
C’est intéressant. Ce genre d’articles sur les modèles mentaux ou les mèmes est toujours fascinant.
Avis Hacker News
J’aime bien ce billet de blog. J’ai deux réflexions. D’abord, même en présence de faits contradictoires, ce n’est souvent pas un signal qu’il faut changer de croyance. À moins qu’une croyance ne soit assez faible pour vaciller à cause d’un seul fait, il est très rare qu’un événement isolé ait un effet décisif. Par exemple, même si l’on apprenait que quelques scientifiques ont manipulé des données dans des articles sur le changement climatique, cela ne constituerait pas en soi une raison de changer d’avis sur le changement climatique, étant donné l’énorme masse de preuves existantes. En fin de compte, on n’accumule assez d’éléments pour réviser une croyance qu’en examinant suffisamment d’informations variées des deux côtés. Ensuite, les « faits » auxquels nous sommes exposés aujourd’hui ne représentent pas réellement l’ensemble du contexte. À l’époque des médias dominés par les grands groupes, les journalistes essayaient au moins de transmettre de façon équilibrée les faits importants. Aujourd’hui, les algorithmes sélectionnent les informations dans le sens de ce qui génère plus de clics et d’engagement. Quant aux producteurs de contenus qui fournissent ces « faits », ils ont eux aussi, le plus souvent, de fortes motivations ou de forts biais. Ni les algorithmes ni les producteurs ne font vraiment d’efforts pour fournir une information équilibrée
Cela me rappelle un concept que j’avais lu autrefois sur un célèbre blog rationaliste : le « rational epistemic skepticism ». Ce n’est peut-être pas l’expression exacte dont je me souviens, mais l’idée est proche. Quand quelqu’un est très habile intellectuellement, ou a énormément étudié un sujet précis, les gens ordinaires ont souvent l’impression d’être écrasés par cette capacité intellectuelle. Mais tout le monde sent plus ou moins que les gens intelligents n’ont pas toujours raison. Comme ils ont des opinions variées, ils ne peuvent pas tous avoir raison. Les gens ordinaires développent donc une attitude défensive pour éviter que leurs croyances ne soient trop facilement secouées, autrement dit une disposition à ne pas se laisser convaincre trop vite. Cette posture défensive est même rationnelle. Quand quelqu’un présente un argument apparemment parfait, est-ce parce qu’il est réellement vrai, ou parce qu’il contient une tromperie ? Le second cas est plus fréquent
La forme la plus aboutie du mensonge ne consiste pas à diffuser de fausses informations, mais à sélectionner des faits de manière avantageuse pour soi. De cette façon, on peut en venir à mentir involontairement à soi-même ou aux autres. D’innombrables articles de presse en sont des exemples
Pour compléter le deuxième point, les algorithmes actuels sont structurés de manière si facile à manipuler que des États qui veulent imposer un récit, en particulier la Russie et la Chine, peuvent en abuser à volonté. Au cours des 8 dernières années, la manière dont la Russie intervient dans les élections a beaucoup changé. Avant, des armées de trolls se faisaient passer pour des Américains (ou des Polonais, des Tchèques, etc.) afin de diffuser de la propagande russe. Cette méthode était relativement facile à détecter et à bloquer, donc elle n’a pas eu une longue durée de vie. Plus récemment, ils sont passés, comme dans les stratégies chinoises, à une « armée de gobelins » : au lieu de diffuser directement des messages, elle perturbe les algorithmes des réseaux sociaux au moyen de réactions automatisées (scroll, upvotes, clics sur les commentaires, réponses avec des LLM, etc.). En pratique, il s’agit seulement d’amplifier la diffusion quand de vrais utilisateurs américains relaient des messages favorables à la Russie ou nuisibles aux États-Unis. Cette stratégie est efficace pour deux raisons : elle récompense par de la dopamine les auteurs de messages bizarres ou haineux, ce qui les pousse à devenir encore plus provocateurs, et elle décourage les utilisateurs opposés, qui perçoivent ces messages comme « populaires ». Référence : Russian internet outage and the online goblin army
Le célèbre essai de C. S. Peirce, "The Fixation of Belief", explique par différents processus comment nous formons nos croyances et comment elles peuvent être déstabilisées. On peut le lire ici. Ce billet de blog me semble lui aussi assez proche de ce que Peirce appelait la "a priori method". On décide d’abord d’un framework, généralement pour des raisons esthétiques ou affectives, puis on interprète l’expérience à travers ce framework. Les conclusions qui en sortent deviennent alors des croyances très confortables pour ceux qui adhèrent à ce framework. Selon Peirce, toute enquête commence par la surprise. Parfois de manière intentionnelle, mais le plus souvent de manière involontaire. Le problème de l’approche a priori, c’est qu’elle finit par ressembler à une « évolution du goût ». Or le goût change toujours avec la mode, et les philosophes recommencent sans cesse les mêmes débats. Comme l’a dit Francis Bacon, il faut finalement passer à une véritable pensée inductive
J’ai le sentiment que la controverse entre Galilée et l’Église était bien plus nuancée que ce qu’on raconte généralement. Ce n’était pas une question de lecture littérale de la Bible, comme le passage de Josué où le soleil s’arrête. Dans son livre "Against Method", Paul Feyerabend soutient au contraire que l’Église catholique de l’époque était plus rationnelle au regard de la méthodologie scientifique classique, c’est-à-dire l’évaluation des preuves pour les deux modèles. L’important, c’est que l’hypothèse de Galilée était jugée raisonnablement inférieure au modèle existant. J’ai trouvé cela assez fascinant
La controverse entre Galilée et l’Église est souvent simplifiée à l’excès, alors qu’en réalité le contexte est très complexe. Bien avant Galilée, des penseurs comme Thomas d’Aquin avaient déjà accepté, sur la base d’Aristote, que la Terre était ronde. À l’époque de Galilée, l’Église catholique n’était pas ignorante de la science moderne ; elle participait au contraire activement à la philosophie naturelle et à l’astronomie. Le vrai conflit portait sur des modèles concurrents et sur le niveau de preuve requis pour qu’un modèle soit accepté. Si l’auteur de ce texte s’est lancé sans connaître ce contexte, la crédibilité de l’ensemble du billet devient douteuse
En tant qu’ancien historien, je peux dire que l’épisode Galilée-Église est effectivement très complexe. Au fil des générations, diverses personnes ont réinterprété l’affaire en la déformant pour servir leur propre rhétorique. Feyerabend lui aussi s’en sert au service de sa philosophie très originale de la science, mais son objectivité est discutable. Si cela vous intéresse, la biographie de Galilée par John Heilbron offre une perspective équilibrée
J’ai récemment vu une conférence sur le sujet et j’ai trouvé cela très intéressant. Le modèle géocentrique utilisé en Europe à l’époque avait été affiné à un degré extrême et était en pratique extraordinairement précis. Même en passant à l’héliocentrisme, il n’y avait pendant un temps presque aucun gain substantiel. En revanche, les travaux de Galilée contenaient de nombreuses erreurs et des problèmes mathématiques encore non résolus. En somme, c’était une période où il fallait assumer une énorme dette technique et un coût de transition important pour très peu d’avantages directs
Je me demande comment Feyerabend explique le fait que Galilée ait été assigné à résidence. S’il s’agissait simplement d’une discussion rationnelle entre modèles concurrents, il est difficile de comprendre pourquoi il a fallu une répression aussi extrême
Pour les podcasts sur Galilée, je recommande la série de Viktor Blasjo, Opinionated History of Mathematics : Opinionated History of Mathematics
J’ai trouvé que ce texte abordait de façon vraiment intéressante un sujet qu’il m’est difficile d’analyser de manière rigoureuse. Cela m’a rappelé l’histoire de la fille du fondateur de Stormfront, le premier forum suprémaciste blanc : en entrant à l’université, elle a partagé à plusieurs reprises des dîners avec des étudiants juifs, ce qui a progressivement remis en cause ses convictions, jusqu’à l’amener à abandonner complètement sa vision raciste. Le fait que quelqu’un ayant été endoctriné par sa famille pendant près de 20 ans puisse changer est porteur d’espoir : cela signifie que n’importe qui peut réviser ses croyances. En même temps, c’est frustrant, parce qu’en pratique cette méthode est inefficace et difficile à appliquer à grande échelle. C’est encore plus difficile avec des personnes qui restent exposées à leurs sources d’information habituelles
Je pense aussi qu’il est important qu’elle ait accepté, dès le départ, de s’asseoir avec eux et de parler
À l’avenir, les chatbots d’IA pourraient peut-être faire partie d’un rituel de lavage de ces croyances
Je pense que ce n’est qu’une forme d’autosatisfaction. Il est en fait très courant que des enfants abandonnent rapidement les croyances de leur famille une fois arrivés à l’université. Surtout dans le cas d’un système de croyances impopulaire comme le suprémacisme blanc, y renoncer est presque naturel si l’on veut se faire de nouveaux amis à la fac. Ensuite, comme beaucoup de ses pairs, cette étudiante a probablement encore certaines convictions que d’autres jugeraient controversées. Au fond, elle a simplement quitté son environnement familial
Moi aussi, c’est au début de l’université que j’ai pour la première fois construit ma propre vision du monde. Avant cela, j’avais diverses idées sur Dieu ou sur la société, mais à l’université je suis devenu athée. Fait amusant, au même moment, mon frère jumeau est devenu un chrétien fervent. Il s’est bien intégré socialement et a terminé ses études, tandis que moi j’ai abandonné en cours de route. Plus tard, à la fin de ma vingtaine puis dans la trentaine, j’ai fini par acquérir la conviction que notre gouvernement n’est pas digne de confiance. Je crois toujours que le 11-Septembre était un travail interne. J’étais à New York à l’époque, mais je n’ai pas fait le lien entre l’accident et mes expériences ordinaires du quotidien, par exemple le travail sur les documents de bail des Twin Towers, et je suis simplement passé à autre chose. Cela m’a amené à accorder plus d’importance qu’avant à la manière dont les structures de croyance sont liées à la société ou au groupe auquel on appartient. Plus on se sent exclu de la société, plus il devient facile de soupçonner les autorités établies. Dans la compétition entre groupes, on en vient facilement à considérer l’autre camp comme mauvais et dans l’erreur ; cette simplification introduit des distorsions inutiles dans les structures de croyance et renforce des convictions dangereuses. Au fond, les causes fondamentales des divisions de groupe sont des éléments structurels comme la géographie, l’économie ou l’ethnicité. Je me demande si un système de croyances plus sophistiqué et plus exact pourrait réduire les fractures sociales. Ou bien si ce sont les structures sociales et les réseaux qui déterminent l’essentiel de l’identité. Je me demande parfois si l’être humain n’est pas, par nature, une sorte de « fourmilière de mammifères », condamnée à se battre férocement dès que les ressources se raréfient. Si chacun cherche à monopoliser des ressources importantes, non seulement une concurrence loyale devient impossible, mais on peut aussi en venir à penser qu’il n’y a pas de raison que notre camp soit le seul à jouer proprement quand l’autre ne respecte pas les règles, n’est pas honnête et rejette toute nuance dans la discussion. Au final, il reste au moins l’espoir ténu qu’une plus grande abondance de ressources permette d’améliorer d’autant les relations civilisées
Un mot pour l’auteur : j’aimais bien les idées du blog, mais deux choses m’ont dérangé à la lecture. D’abord, les citations en bloc étaient confuses et me semblaient inutiles, surtout lorsqu’elles répétaient immédiatement la phrase précédente. Ensuite, les graphiques animés au défilement étaient désagréables sur téléphone. Je préférerais de plus petites images statiques, ou bien un fond de couleur distinct
Merci beaucoup pour ce retour, je l’apprécie vraiment. J’essaierai de tout prendre en compte avant le prochain billet
Pour ajouter un point : le texte à l’intérieur des boîtes blanches du graphique était illisible. Le choix des couleurs m’a semblé malheureux
J’aime certaines idées clés de ce texte, mais la distinction node/edge me paraît trop floue. Par exemple, le nœud "Climate Change Threat" est une « affirmation », mais "Efficiency" en est-elle une ? Peut-on contester l’existence même de l’efficacité ? Si l’on conteste plutôt l’« utilité » de l’efficacité, n’est-ce pas alors une attaque contre une arête ? Les exemples de nœuds donnés dans le texte ne me semblent pas du même ordre et paraissent trop hétérogènes. Du coup, j’ai du mal à les intégrer et cela réduit ma motivation à lire
Je recommande vraiment "The Righteous Mind" de Jonathan Haidt. Ce livre a profondément transformé ma façon de penser la morale et la politique d’un point de vue social et psychologique. Parmi ses idées : les êtres humains sont instinctivement grégaires et veulent être reconnus. Nous portons d’abord des jugements émotionnels immédiats, puis nous trouvons ensuite des raisons pour rationaliser ce choix. Si la droite est plus cohésive que la gauche, c’est parce qu’elle possède, selon Haidt, des valeurs partagées fortes et des définitions cohérentes des 5 « récepteurs gustatifs moraux » : la sollicitude, l’équité, la loyauté, l’autorité et la sacralité. La gauche, en revanche, tend à troquer cela contre le maintien de la diversité
Moi aussi, j’ai trouvé le livre de Haidt vraiment fascinant, mais en réalité j’ai eu l’impression que chaque partie était presque un livre différent. J’aimerais lire ses autres ouvrages. À propos de la discussion gauche/droite, j’ai récemment entendu une idée intéressante : aux États-Unis, la gauche fonctionnerait par coalition, la droite par consensus. Selon les recherches de Haidt, la gauche se concentre sur un ou deux des cinq récepteurs moraux, tandis que la droite accorde de l’importance aux cinq de manière plus équilibrée. Je ne sais pas très bien comment ces deux caractéristiques s’articulent, mais je me demande si elles ne se renforcent pas mutuellement. Et je me demande si cela pourrait s’appliquer de façon similaire à l’ensemble des systèmes politiques
L’affirmation selon laquelle la droite serait politiquement plus cohésive que la gauche me semble nécessiter des preuves claires. C’est peut-être simplement une perception biaisée limitée à des cas récents. Même aux États-Unis, la droite est aussi une coalition de parties prenantes très diverses. Par exemple, aujourd’hui encore, certains soutiens de Trump expriment leur mécontentement à propos du non-classement public de l’affaire Epstein, tandis que d’autres groupes, intéressés par des baisses d’impôts, essaient de faire taire ces protestations. Il existe aussi beaucoup de conflits internes à droite, pas seulement de la cohésion
À partir du moment où j’ai réalisé qu’il pouvait exister une infinité de nœuds entre les nœuds et les arêtes, au sens où ce texte les définit, la théorie a commencé à devenir difficile à suivre dans mon esprit. Je comprends la structure générale de l’effondrement des idées, mais en pratique il me semble difficile d’identifier combien de nœuds centraux existent réellement entre les idées, ce qui rend l’application concrète peu évidente. Et puis, comme retracer à rebours le processus d’effondrement d’un seul élément paraît toujours beaucoup plus simple, il me semble difficile d’échapper au survivorship bias
En réalité, beaucoup de gens n’ont pas en permanence une conscience claire de l’ensemble de la structure de leurs croyances. Sur 99 % des sujets importants, c’est bien plus flou que dans ce schéma. Malgré tout, je trouve ce point de vue original. Le facteur plus important n’est pas la structure des croyances, mais la question de savoir à qui l’on fait vraiment confiance. Seules les personnes en qui j’ai confiance me semblent habilitées à combler les zones vides de mes croyances. Comme la confiance prend beaucoup de temps à se construire, présenter simplement des faits contradictoires ne suffit pas à faire changer les convictions. La raison importante n’est pas la structure du réseau, le graphe de croyance, mais le fait que « je ne vous fais pas confiance ». J’ai récemment écrit quelque chose de proche sur ce sujet : No one reads page 28
Je pense qu’il faut prendre ses distances avec l’idée, formulée dans "arguments are soldiers", selon laquelle les « faits » servent avant tout d’outil pour convaincre l’adversaire dans un débat. Chercher à comprendre ce qui se passe dans le monde est en soi une activité curieuse et précieuse, indépendamment de mon tempérament ou de mon idéologie. Même si un article présente des éléments intéressants qui contredisent mes opinions, cet article a de la valeur en lui-même. Même si les faits ne changent pas facilement l’avis des autres, nous devrions soutenir ceux qui collectent et rapportent les faits.