- Les techniques de persuasion basées sur l’IA progressent, ce qui réduit brutalement le coût pour les élites d’ajuster précisément les préférences de politique publique du public.
- La recherche analyse, sous la forme d’un modèle dynamique, la façon dont les élites reconfigurent la distribution des opinions populaires en tenant compte des contraintes de la règle majoritaire et des coûts de persuasion.
- Dans un système à élite unique, une amélioration des techniques de persuasion tend à faire converger la société vers un état de polarisation extrême.
- À l’inverse, lorsque deux élites opposées se relaient au pouvoir, la persuasion peut entraîner la société vers un état de « quasi-verrouillage » (semi-lock) qui atténue aussi la polarisation.
- En définitive, si l’IA réduit les coûts de persuasion, la polarisation cesse d’être un phénomène spontané pour devenir un outil de stratégie de gouvernance, avec des implications majeures pour la stabilité démocratique.
Mutation des techniques de persuasion dans la démocratie
- En démocratie, obtenir le soutien populaire est indispensable pour mettre en œuvre une politique, et les élites doivent donc façonner ou modifier les croyances du public.
- Par le passé, elles dépendaient d’instruments lents et peu efficaces tels que l’éducation scolaire, les médias publics, la propagande ou les réseaux clientélistes.
- En raison de leurs coûts élevés et de leur faible précision, ces méthodes rendaient difficile une manipulation d’opinion à grande échelle.
- La généralisation de l’IA change fondamentalement ces contraintes.
- Les modèles génératifs et les systèmes d’agents peuvent produire en masse des contenus de persuasion personnalisés en temps réel.
- Avec des coûts de persuasion plus bas, la distribution des préférences populaires devient elle-même une variable de choix des élites.
Modèle à élite unique : ‘effet de traction de la polarisation’
- Une élite unique ajuste le soutien populaire à chaque période pour appliquer des politiques sous la règle de la majorité.
- Quand il existe un coût de persuasion, il est avantageux pour l’élite de maintenir la société dans un état légèrement divisé afin de se prémunir contre l’incertitude future.
- Quand l’opinion publique est proche de 50:50, le coût de faire basculer le soutien si la direction politique change au moment suivant est minimisé.
- En conséquence, l’élite a tendance à éloigner l’opinion de l’accord, c’est-à-dire à la déplacer vers des positions extrêmes.
- Plus les techniques de persuasion progressent, plus la vitesse de convergence vers la polarisation s’accélère.
- Les résultats mathématiques montrent que l’élite déplace l’opinion vers la valeur médiane (1/2), avec un ajustement consistant uniquement à s’écarter de l’accord.
Modèle concurrentiel à deux élites : effet de “semi-lock”
- Quand deux élites aux préférences politiques opposées se relaient au pouvoir, l’effet de la persuasion change.
- Les deux parties cherchent à maintenir l’opinion près du seuil de la majorité, mais une polarisation extrême fait courir le risque de la voir facilement réversible par l’adversaire.
- Chacune cherche donc à déplacer l’opinion vers une zone intermédiaire de quasi-verrouillage que l’autre ne peut pas retourner facilement.
- En conséquence, la capacité de persuasion peut, selon le contexte, renforcer ou atténuer la polarisation.
- Plus la compétition s’intensifie, plus la cohésion sociale peut augmenter.
Différences avec les travaux antérieurs
- La littérature existante analyse la polarisation comme le résultat de facteurs exogènes comme le revenu, l’identité ou la structure médiatique.
- Cette recherche modélise la polarisation comme un outil de politique stratégiquement choisi par les élites.
- Elle relie aussi la manière dont le progrès des techniques de persuasion basées sur l’IA recompose à long terme l’équilibre politique et la distribution de l’opinion.
- Les travaux connexes incluent des expériences de persuasion basées sur des LLM (Salvi et al., Schoenegger et al., Tappin, etc.) ainsi que les impacts politico-économiques de l’IA (Korinek, 2024).
Implications pour la stabilité démocratique
- Quand les coûts de persuasion diminuent, la polarisation fonctionne comme un outil de gouvernance stratégique plutôt que comme un phénomène naturel.
- Cela peut accroître l’instabilité politique et le risque de manipulation de l’information.
- En transformant la structure et les coûts de la persuasion politique, le progrès de l’IA pose un nouveau défi à la durabilité des institutions démocratiques.
1 commentaires
Avis Hacker News
En lisant l’essai de Converse, on peut se demander si le grand public a réellement des opinions
Par exemple, sur la question des droits de douane, les sondages donnent environ 38 % d’avis favorables, mais si l’on regarde les intérêts sectoriels, ce chiffre semble devoir être bien plus bas
Le commerce de détail, les services et le bâtiment ne tirent aucun bénéfice des droits de douane, et même l’industrie manufacturière est dans une position ambiguë à cause de sa dépendance aux matières premières importées
Au final, les seuls partisans vraiment convaincus sont les industries de l’acier et de l’aluminium, qui ne représentent qu’environ 2 % du PIB
Fait intéressant, ce livre a été publié en 1964 et traite de la période juste avant l’explosion du mécontentement social liée à la guerre du Vietnam, à la contre-culture, etc.
Elles y voient le résultat d’une analyse coûts-bénéfices visant à réduire la dépendance envers l’étranger et à créer davantage d’emplois
Les gens surestiment leurs propres connaissances et pensent que leur opinion devrait être traitée à égalité dans la décision politique
Dans les sociétés occidentales, une culture où l’on ne remet pas en cause les opinions d’autrui et où l’on ne demande pas de comptes aggrave encore ce phénomène
L’article ne propose pas vraiment une réflexion spécifique à l’IA
Le point central est la structure des coûts de la persuasion, et l’IA n’est mentionnée que comme un outil permettant de produire de la propagande à moindre coût
La même logique s’applique aussi bien au ciblage publicitaire sur Facebook qu’aux usines à trolls russes
Comme l’IA s’exprime avec assurance, elle dégage une forme d’autorité
Le vrai problème, c’est l’influence des ultra-riches qui contrôlent ce type de message
J’ai rassemblé mes réflexions à ce sujet dans ce billet de blog
Les trolls russes peuvent produire 10 fois plus de contenu grâce à l’automatisation, alors qu’un mouvement d’opposition spontané ne peut pas croître au même rythme
Cela crée aussi beaucoup de bonnes choses, mais le problème est que les mauvaises deviennent elles aussi moins chères à réaliser
La manipulation de l’opinion par les élites existe depuis l’époque des journaux et de la radio
Il en allait de même pour les manuels scolaires et les programmes éducatifs
On peut même soutenir que les LLM sont peut-être plus résistants à la propagande, juste derrière l’encyclopédie
Comme il existe une concurrence commerciale, si un modèle donné est biaisé, les utilisateurs s’en apercevront vite et partiront
La notion même de « reportage objectif » provient en réalité d’une stratégie commerciale visant à gagner la confiance
Devenir un « libre penseur », c’est souvent devenir « quelqu’un de bizarre »
La foule peut se tromper, mais penser différemment en solitaire a un coût social élevé
Par exemple, je trouve plus confortable d’utiliser seulement un matelas sans cadre de lit, mais la plupart des gens trouvent ça étrange
Au bout du compte, on naît seul et on meurt seul, et la reconnaissance d’autrui est éphémère
Sans aération, de la moisissure peut apparaître, et c’est peu pratique pour les personnes âgées ou fragiles
Un produit conçu pour être posé au sol, comme un futon, est plus adapté
Les grands modèles d’IA font déjà l’objet de fine-tuning sur des sujets sensibles
Ils sont ajustés dans le sens défini par le consensus entre les équipes juridiques, marketing et gouvernance des entreprises, puis des millions de personnes utilisent directement ce résultat
J’ai réussi à utiliser l’IA pour récupérer 200 dollars auprès d’une banque
En s’appuyant sur les documents PDF de la banque, l’IA a rédigé une demande officielle à ma place
Quand les banques commenceront elles aussi à traiter ce type de requête avec de l’IA, on entrera dans une époque où une IA devra persuader une autre IA
Il nous faudra un nouveau benchmark LLM : AI-persuasion™
La manipulation de l’influence basée sur le machine learning existe déjà depuis dix ans
Le data mining et le ciblage publicitaire sont des technologies mûres
Ce qui inquiète, ce n’est pas la persuasion improvisée, mais l’influence structurelle qui façonne les croyances dès l’enfance
La « génération iPad » en est un exemple assez effrayant
Les gens acceptent souvent comme vraie la première information qu’ils entendent, puis réagissent émotionnellement quand elle est ensuite réfutée
Les « faits » inculqués dans l’enfance sont difficiles à modifier par la suite, et des systèmes automatisés peuvent faire cela à grande échelle
C’est dangereux parce que le coût de la manipulation tend presque vers zéro
Nous n’avons aucun garde-fou contre une société de surveillance privée
Ce qu’il faudrait réellement résoudre, ce sont les problèmes du quotidien comme l’éducation, le logement, l’alimentation et le coût de la vie
Pendant l’essentiel de l’histoire humaine, la structure a été de type féodal, avec une petite élite qui monopolise richesse et pouvoir
Les inégalités actuelles sont le résultat voulu du système, et elles vont encore s’aggraver
Le taux d’alphabétisation, l’accès à l’éducation et l’état nutritionnel sont très supérieurs à ce qu’ils étaient en 1925
En revanche, le coût du logement et de la vie courante s’est de nouveau dégradé au cours des 20 dernières années
Grâce aux réseaux sociaux et à l’IA, le coût de la « Big Lie » a fortement chuté
Il devient donc facile pour un gouvernement de diffuser des messages du type : les prix sont en baisse
La véritable « Big Lie » devient possible par l’infiltration d’un petit nombre d’initiés, et la CIA a déjà montré l’efficacité de cette méthode
Il y a déjà près d’un siècle, 1984 de George Orwell annonçait ce type de situation
On y voit décrit le cauchemar d’un contrôle de l’information où les archives sont modifiées en temps réel et le passé effacé
Voir le texte original