- Selon la loi de Campbell, plus un indicateur est utilisé de manière excessive dans la prise de décision sociale, plus la corruption et les distorsions s’aggravent
- Exemple emblématique : dans la sélection des agents publics, plus le système est transparent, plus les critères deviennent faciles à manipuler, et les postes reviennent moins aux plus compétents qu’à ceux qui savent le mieux “jouer avec le système”
- Les indicateurs quantitatifs comme les KPI ont eux aussi des limites face aux tâches complexes, ce qui conduit finalement à poser la nécessité d’innover dans le processus même de décision finale
- L’introduction d’une part d’aléatoire peut institutionnellement renforcer les véritables compétences et la diversité, plutôt que le capital politique ou les réseaux
- Des exemples historiques et contemporains variés montrent effectivement que la sélection aléatoire est efficace pour prévenir la corruption institutionnelle et préserver le dynamisme
Introduction : indicateurs, corruption et limites de la méritocratie
- Selon la loi de Campbell (et des variantes de la loi de Goodhart), plus un indicateur donné est utilisé dans la prise de décision sociale, plus cet indicateur se dégrade et finit par détourner l’objectif initial
- Les critères de sélection des détenteurs du pouvoir en sont un exemple typique : quand ils sont opaques, ils sont plus difficiles à manipuler, mais dans la gouvernance publique, il est presque impossible de maintenir durablement cette opacité
- Plus les critères deviennent transparents, plus la “course à l’optimisation des critères” s’intensifie, ce qui permet aux meilleurs joueurs du système d’accéder aux postes, tout en rendant plus difficile l’identification des candidats réellement qualifiés
Le problème de la gamification des critères de sélection
- Dans les pays de démocratie représentative, un cas typique est que des qualités réellement utiles à la performance (curiosité intellectuelle, connaissances juridiques et économiques, capacité à intégrer le feedback, créativité, moralité, etc.) comptent souvent moins que la capacité à gagner des élections
- L’apparence, l’éloquence, le réseau, la richesse ou le charisme influencent davantage la sélection des candidats que leurs compétences en matière de politiques publiques
- La monarchie héréditaire, elle aussi, repose sur des critères clairs, ce qui la rend vulnérable aux luttes de pouvoir et aux manipulations internes, sans échapper au problème de fond
Les effets pervers des relations et des manœuvres politiques, puis l’apparition des KPI
- Comme l’a dit Max Planck, « la science progresse un enterrement à la fois » : dans la sélection des dirigeants, les relations personnelles pèsent souvent davantage que les compétences
- En réponse, de grandes entreprises ont largement adopté des indicateurs quantifiés comme les KPI (indicateurs clés de performance)
- Les KPI restent manipulables, mais ils fonctionnent de manière plus cohérente sur une base de résultats que des éléments subjectifs comme le “sens politique”
Les limites des indicateurs quantitatifs et la complexité
- Des indicateurs comme les KPI conviennent à des tâches étroites et simples, mais montrent leurs limites dans les situations qui exigent des compétences complexes ou multidimensionnelles
- De plus, il faut toujours qu’un humain décide quels indicateurs utiliser, comment les mesurer et comment les intégrer à la décision, ce qui empêche toute substitution entièrement mécanique
- En fin de compte, de bons indicateurs ne suffisent pas : il faut transformer le mécanisme même de prise de décision
Introduire l’aléatoire : avantages et propositions
- La sélection aléatoire supprime les petits avantages issus de la manipulation stratégique, ce qui peut réduire l’influence du capital politique ou des réseaux dans les organisations
- Si la sélection est aléatoire, aucun effort ne peut réellement augmenter ses chances d’être choisi, ce qui rend les comportements manipulateurs inutiles
- Il en résulte une meilleure chance de voir émerger naturellement les véritables compétences et la diversité, tandis que la destruction des réseaux de collusion existants réduit le risque de corruption
- Applications concrètes proposées :
- confier les sélections et recrutements importants à un comité de supervision tiré au sort afin de limiter les biais et les clans
- tirer directement des candidats au sort au sein d’un vivier qualifié, et confier aussi à un comité aléatoire la gestion des critères de qualification afin de bloquer les risques de manipulation
- affaiblir les connivences internes en intégrant dans les conseils d’administration ou diverses commissions des membres tirés au sort parmi les salariés, dirigeants ou actionnaires
- recourir à l’échantillonnage stratifié pour refléter la diversité des profils
- mettre en place des comités d’audit ou de supervision constitués aléatoirement, dont l’imprévisibilité freine la corruption
Les inquiétudes liées au système aléatoire et les correctifs possibles
- Les inquiétudes typiques à l’égard d’un système aléatoire (incompétence, dilution des responsabilités, difficulté d’application à grande échelle, etc.) peuvent en réalité être largement surmontées
- Des travaux montrent que la décision collective, dans de bonnes conditions, peut être plus performante que celle d’experts pris individuellement
- La formation, la taille du groupe et les compétences de coopération permettent de réduire le risque d’incompétence
- La redevabilité peut être assurée par la transparence des décisions, les revues a posteriori et des procédures de révocation
- Une sélection aléatoire hiérarchisée et à plusieurs niveaux permet de préserver l’efficacité du système même dans de grandes organisations
Exemples de réussites historiques et contemporaines
- Parmi les exemples les plus connus, la sélection aléatoire des jurys populaires inspire confiance en matière d’équité
- Dans la République de Venise ou dans l’Athènes antique, la sélection aléatoire des hautes fonctions et des commissions a aussi permis de freiner durablement la corruption et de préserver le dynamisme institutionnel
- Aujourd’hui encore, des assemblées citoyennes ou certains comtés de l’État américain de Géorgie ont introduit des mécanismes aléatoires pour certains mandats électifs spécialisés, en conservant à la fois la responsabilité démocratique et un haut niveau de compétence
L’avantage fondamental des institutions fondées sur l’aléatoire
- Prévenir la stagnation intellectuelle et renforcer la diversité : l’aléatoire fait entrer en continu dans l’organisation de nouvelles façons de penser et des parcours variés
- Introduire une entropie anticorruption : à chaque tirage au sort, les structures de collusion existantes sont défaites, ce qui réduit le risque de corruption à long terme et améliore la résilience de l’organisation
- En définitive, un système aléatoire n’est pas un substitut à la méritocratie, mais un pare-feu pour une « véritable méritocratie »
- il préserve les opportunités et l’excellence tout en réformant les incitations déformées des méthodes existantes
1 commentaires
Avis Hacker News
On fait confiance au système du jury pour rendre des verdicts justes, mais il faut noter qu’en pratique, dans une société multiraciale, les biais peuvent facilement intervenir. Lee Kuan Yew, premier Premier ministre de Singapour, s’y est aussi opposé après l’avoir vécu directement, comme on peut le voir en détail dans ce lien. Une étude britannique conclut également que ce type de biais est courant : les jurés noirs et issus des minorités ethniques (BME) déclarent coupables des accusés blancs dans 73 % des cas, mais seulement 24 % des accusés BME. Les jurés blancs condamnent eux aussi davantage les accusés blancs, à 39 %, contre 32 % pour les accusés BME, ce qui reste biaisé, mais dans une moindre mesure. Malgré les limites de ce système, je préfère un modèle mixte, comme en France, où juges et jurés décident ensemble. Aucun système n’est parfait, mais il ne faut pas se faire d’illusions sur le degré d’équité et de clairvoyance de 12 personnes choisies au hasard. Voir l’étude originale et le lien de présentation du système du jury
Ces statistiques peuvent s’expliquer non seulement par le biais des jurés, mais aussi par une surpoursuite des Noirs et des minorités ethniques. Dans ce contexte, on peut aussi comprendre un biais des Blancs en faveur des Blancs
BME signifie black and minority ethnic, c’est-à-dire noirs et minorités ethniques
Ces statistiques seules ne suffisent pas à prouver l’existence d’un biais des jurés. Il faudrait contrôler les taux de poursuite et les taux réels de culpabilité pour juger plus précisément
Je me demande alors quelle serait l’alternative. J’imagine qu’il ne resterait plus qu’à laisser le juge décider seul
Ces statistiques reposent sur l’hypothèse que la probabilité d’être coupable est la même pour les Blancs et les BME dans un contexte de procès. En réalité, il peut exister des différences cachées, et il faut aussi en tenir compte
Il existe aussi un exemple intéressant de sélection aléatoire dans la Bible. Dans Actes 1:21-26, l’apôtre appelé à remplacer Judas a été choisi par tirage au sort. Deux candidats remplissant plusieurs critères ont été retenus, puis, après une prière, le sort a désigné Matthias. C’est une idée amusante à imaginer si ce mode de sélection s’appliquait à l’élection du pape ou au choix des pasteurs protestants
On peut aussi interpréter ce passage comme un exemple où Pierre a procédé à cette élection de manière un peu précipitée. Matthias ne réapparaît plus ensuite dans la Bible, et selon une tradition, Paul serait en réalité le véritable douzième apôtre. C’est donc aussi un point de vue selon lequel la sélection aléatoire n’est pas forcément une méthode de désignation des dirigeants recommandée par la Bible
Ma partenaire a grandi dans un milieu mennonite conservateur, et j’ai entendu dire qu’aujourd’hui encore, certains choisissent réellement les pasteurs de cette manière. En gros, ils retiennent environ trois personnes comme candidates, puis tirent au sort
Avec des critères comme « avoir accompagné Jésus », cela ressemble à une méthode assez juste, à laquelle s’ajoute une part de hasard divin
Le processus d’élection du doge de Venise était similaire. D’après la présentation du processus de sélection du doge, on tirait au sort 9 personnes parmi 30, puis 12 parmi 40, puis 9 parmi 25, et ainsi de suite, jusqu’à ce que 41 personnes élisent finalement le doge. Cette complexité servait à minimiser l’influence d’une famille particulière
Hobbes mentionne lui aussi, dans le chapitre 36 du Léviathan notamment, des exemples de sélection aléatoire non seulement avec Matthias, mais aussi dans l’Ancien Testament
Le terme technique pour désigner ce type de sélection aléatoire est sortition. C’est aussi une position politique minoritaire que je soutiens. J’aimerais que le Parlement soit remplacé par une assemblée citoyenne tirée au sort
En Irlande, il existe une assemblée citoyenne constituée par sortition. À chaque grand sujet de société, des citoyens ordinaires prennent du temps pour y participer. Ils écoutent les témoignages d’experts et de responsables politiques, débattent, puis formulent des recommandations, qui débouchent souvent sur un référendum. Le plus grand avantage est de pouvoir traiter des questions sociales controversées en dehors du champ politique traditionnel. En pratique, l’assemblée citoyenne sur l’avortement a permis d’aboutir à un consensus sain et a conduit à une modification de la Constitution légalisant l’avortement. Par ailleurs, le système politique irlandais comporte plusieurs garde-fous d’équité concernant le financement politique, la propriété des médias, le découpage électoral et la représentation proportionnelle. Par rapport aux années 1980-1990, les indicateurs de corruption se sont nettement améliorés, et le taux d’enseignement supérieur est très élevé. Tout cela a contribué à faire évoluer l’Irlande positivement
L’idée qu’un groupe de citoyens tirés au sort fasse les lois peut être inquiétante, parce qu’on sait que le droit demande beaucoup de nuances et de compromis. Mais si l’on sélectionnait d’abord plusieurs milliers de personnes avant de choisir ensuite les représentants effectifs par sortition, je pourrais peut-être soutenir cela
J’ai déjà vu quelqu’un sur HN proposer que même les juges de la Cour suprême soient remplacés à chaque fois par un groupe aléatoire de juges fédéraux pour examiner une affaire. Cela réduirait probablement les possibilités de corruption ou de manœuvres politiques
J’en parle depuis longtemps avec des amis intéressés par la politique. Même sans aller jusqu’à un groupe totalement aléatoire, une approche hybride pourrait corriger de graves problèmes réels. Aux États-Unis, le ratio entre population et représentants à la Chambre est devenu trop élevé, ce qui réduit l’influence de chaque électeur et affaiblit le lien avec ses représentants. Le poids des partis fait aussi disparaître les voix centristes et indépendantes. Si l’on triplait le nombre de représentants par circonscription et qu’on en choisissait un au hasard, on pourrait augmenter le centre dans les mêmes proportions et atténuer les tendances extrêmes
J’affirme que la sortition est la vraie démocratie. Autrement dit, s’y opposer revient techniquement à s’opposer à la démocratie. Cela dit, en pratique, le problème ne tient pas seulement au mode de sélection : la boucle de rétroaction est trop lente pour refléter correctement la volonté collective. Moi aussi, je pense que la sortition est une meilleure méthode pour désigner des représentants, mais il est peu probable qu’elle soit adoptée largement. On pourrait malgré tout commencer par utiliser plus souvent les sondages d’échantillonnage ou le tirage au sort, ce que tout le monde pourrait peut-être accepter
Le charisme d’un dirigeant joue un rôle important pour réunir des collaborateurs réellement capables d’exécuter et pour les motiver. Lorsqu’on a travaillé auprès d’un président ou comme assistant parlementaire, on constate que le leadership n’est vraiment efficace que lorsqu’il y a des membres du personnel qui adhèrent sincèrement au message du dirigeant et s’investissent activement dans ses objectifs. Au final, j’ai constaté en pratique que le charisme n’est pas seulement un outil électoral, mais aussi une condition pour bien exercer une fonction de direction
Si l’on regarde comment cela s’appliquerait en pratique, l’idée n’est pas de choisir le dirigeant lui-même au hasard, mais de sélectionner aléatoirement ceux qui élisent chaque fonction, comme un comité. Et considérer le charisme comme indispensable relève aussi d’un biais. Le rôle d’un dirigeant est de gérer l’objectif de l’équipe et de coordonner les ressources, tandis que l’objectif lui-même est décidé par l’équipe
En particulier, un rôle comme celui de président ou de Premier ministre est le visage de toute la nation. Il ne s’agit pas seulement de défendre les intérêts de son parti, mais de représenter l’ensemble du pays, et parfois aussi de convaincre l’opinion publique. L’un des défauts d’un système fondé sur des circonscriptions, comme aux États-Unis, est qu’il devient difficile d’avoir une représentation diversifiée, et comme tout le monde doit avant tout survivre électoralement, le système a tendance à se centrer excessivement sur le charisme
Ce billet révèle aussi un peu le biais intellectuel typique de Hacker News
Je trouve intéressant que l’article n’utilise pas un terme comme sortition. Les exemples historiques semblent aussi parfois inexacts ou privés de leur contexte essentiel. Par exemple, l’élection du doge de Venise n’était pas vraiment aléatoire : elle ne concernait que des familles nobles, et les systèmes de succession monarchique différaient aussi de l’image qu’on en a généralement. Dans l’Europe médiévale, les prétendants concurrents étaient le plus souvent envoyés dans l’Église, si bien que les assassinats et les guerres étaient relativement rares. En réalité, certains estiment que le passage du gavelkind, où tous les fils héritaient d’une part, à la primogeniture, où l’aîné passait en premier, a au contraire réduit les conflits internes. D’un autre côté, j’ai souvent vu les KPI quasiment ignorés dans les organisations, et au final les relations personnelles et les résultats (« deck ») comptent davantage
Il est possible que ce soit formulé ainsi pour rester lisible par le grand public, qui ne comprend pas forcément les termes techniques. L’idée serait qu’au lieu d’utiliser des termes spécialisés comme sortition, ranked choice voting ou LVT, il est plus parlant pour un public plus large de les expliquer par des exemples concrets comme l’élection aléatoire, le multipartisme ou la spéculation sur les terrains vacants
Je me demande si la question est de savoir si le mot sortition est peu employé. Il existe pourtant un article Wikipédia sur la sortition bien documenté, ainsi que de nombreuses ressources académiques
La loi de Campbell est une variante de la loi de Goodhart : plus un indicateur est utilisé pour la prise de décision sociale, plus cet indicateur lui-même, ainsi que le processus social qu’il était censé mesurer, se trouvent déformés. Un ami se plaignait que LeetCode était devenu un système absurde où tout le monde se contente d’enchaîner mécaniquement des problèmes, et je lui ai répondu que c’était précisément ça, réviser pour un examen
J’ai fait toute ma scolarité dans les écoles publiques de New York, du primaire au lycée, et dans certains lycées, la sélection aléatoire par loterie a eu des effets positifs. En pratique, ce sont surtout des élèves et des familles qui choisissent d’eux-mêmes de candidater, si bien qu’on se retrouve avec des élèves partageant des valeurs similaires. Mais en réalité, ce caractère aléatoire peut n’être qu’une mise en scène de l’équité. Les dossiers de candidature ne sont pas toujours faciles à obtenir, certaines vérifications ne sont faites qu’à la dernière minute, et on demande divers documents originaux de manière incohérente. D’après mon expérience et celle de mes enfants, cela donne une apparence de hasard sans réelle équité
Dans le sport, la politique, les startup et bien d’autres domaines, la réussite comporte une grande part de chance. S’il y a N personnes ayant un niveau comparable au mien, si j’ai été choisi, c’est que la chance m’a souri. Par exemple, avoir eu la chance de grandir dans la Bay Area et d’y construire un réseau dans les startup, avoir poursuivi ma carrière sans accident, avoir rencontré quelqu’un par hasard lors d’une réunion politique locale, ou même être allé dans un autre restaurant, ne pas attraper de rhume et arriver au sommet de ma forme pour un match important : tout cela joue. Au fond, il n’est pas étonnant qu’un peu de hasard dans un groupe de personnes qualifiées puisse produire de bons résultats
Je recommande Good To Great de Jim Collins. Le livre montre que les dirigeants les plus admirés sont souvent ceux qui se mettent le plus en valeur extérieurement, alors que leurs performances réelles sont faibles. À l’inverse, les statistiques montrent que des personnalités humbles, qui évitent l’autopromotion, sont des dirigeants plus efficaces. Ma conclusion, c’est qu’il ne faut pas se fier aux critères énoncés par des personnes sans expérience. Quand le temps et l’énergie se concentrent uniquement sur l’image extérieure, l’essentiel du fonctionnement de l’organisation se perd. En logiciel aussi, on voit souvent apparaître ce problème où des personnes peu expérimentées définissent artificiellement les critères du succès