J’ai l’impression d’être désormais un rationaliste

• Après avoir assisté à LessOnline à Berkeley, Scott Aaronson estime pouvoir désormais assumer une identité de rationaliste (Rationalist) qu’il avait longtemps tenue à distance
• Ce qui lui est resté le plus fortement de l’événement, ce sont les petites conversations qui se sont poursuivies partout à Lighthaven, plus encore que les sessions officielles, au point que les participants ont même été encouragés à sécher des sessions pour avoir des échanges approfondis
• Sa plus grande réserve venait autrefois de l’obsession autour de l’idée que l’IA pourrait bientôt devenir surhumaine et extrêmement puissante, mais après les récents changements empiriques de l’IA, il a retiré sa position opposée et consacre désormais aussi du temps à la recherche sur l’AI alignment
• Il existait aussi une distance culturelle, une ambiance parfois proche d’une secte et la peur du ridicule extérieur, mais à LessOnline il a vu de ses propres yeux des participants mariés, avec enfants, des débats publics et un leadership renouvelé par une nouvelle génération
• Plutôt que de se fier aux critiques extérieures, il choisit de faire davantage confiance à ce qu’il a observé lui-même, et accepte la communauté rationaliste comme l’une de ses communautés intellectuelles, sans renoncer à ses identités ni à ses convictions existantes

---

Les personnes et les lieux vus à LessOnline

• Scott Aaronson a assisté à LessOnline et y a retrouvé des personnes qu’il connaît de longue date, comme Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin et Carl Feynman
• Il y a aussi rencontré en personne Joe Carlsmith, Jacob Falkovich et Daniel Reeves, qu’il ne connaissait jusque-là qu’en ligne
• L’événement s’est tenu à Lighthaven, près de Telegraph Avenue à Berkeley, un lieu décrit comme un ensemble enchevêtré de couloirs, salles de réunion, logements, jardin et lianes
• Cette année à LessOnline, Aaronson a animé deux événements
  • une conversation avec Nate Soares sur l’Orthogonality Thesis
  • une AMA sur l’informatique quantique et l’informatique théorique

Un espace de conversation plus important que les sessions

• Ce qui l’a le plus marqué, plus que les sessions officielles, ce sont les centaines de conversations parallèles qui se sont déroulées du matin au soir dans tout le lieu
• Lors de la session d’ouverture, les participants ont été encouragés à sauter autant de sessions que possible pour privilégier des conversations intenses en petits groupes
  • la raison invoquée était que cette formule était meilleure, et aussi que les salles étaient trop petites
• Il explique qu’il pouvait falloir des heures pour se déplacer d’un bâtiment à l’autre, et que des personnes l’interpellaient environ tous les 1,5 mètre après avoir lu son badge
• Lors d’une conversation avec Scott Alexander, Aaronson a dit qu’il se sentait désormais prêt à devenir rationaliste, ce à quoi Alexander a répondu qu’il y était déjà entré il y a 10 ans — puis s’est repris pour dire 20 ans

Frictions intellectuelles avec les rationalistes

• Après s’être présenté comme rationaliste, la première chose qu’il a faite a été de se lancer dans un débat intense avec Scott Alexander, Joe Carlsmith et d’autres autour de son essai vieux de 12 ans, Ghost in the Quantum Turing Machine
• Son argument est que l’irréversibilité et le caractère temporaire de la vie biologique contrastent avec la copiabilité et la possibilité de rembobinage des programmes sur ordinateur numérique
• Selon lui, cette différence peut être liée aux détails microscopiques contenus dans l’état initial de l’univers, au théorème de non-clonage de la mécanique quantique, ainsi qu’à l’amplification chaotique au sein de l’activité cérébrale
• Il estime que ces éléments peuvent être des indices pointant vers une couche plus profonde du monde lorsqu’on aborde des questions comme le libre arbitre et la conscience
• Ce débat était aussi une tentative de mettre au jour le principal point de friction entre le consensus rationaliste et ses propres convictions

Pourquoi il ne s’était pas dit rationaliste jusqu’ici

• Aaronson précise d’emblée que ses identités préexistantes n’ont pas changé
  • informaticien
  • membre du monde académique
  • électeur votant systématiquement démocrate
  • sioniste libéral
  • juif
• La première raison tenait au fait qu’il trouvait étrange, il y a environ 15 ans, la fixation des rationalistes sur l’idée que l’IA allait bientôt devenir surhumaine et transformer les conditions fondamentales de la vie sur Terre
• Les développements empiriques ultérieurs ont cependant ébranlé sa position opposée
  • selon lui, si les rationalistes se sont fortement trompés sur l’IA, c’est surtout en sous-estimant la vitesse à laquelle la révolution allait se produire
  • ils ont surestimé le nombre de nouvelles idées nécessaires, alors qu’en pratique l’augmentation du compute et des données d’entraînement a été le facteur principal
  • aujourd’hui, Aaronson consacre lui aussi une partie de son temps à la recherche sur l’AI alignment, et a même tenu des réunions de recherche sur le sujet à LessOnline avec des collègues

Distance culturelle et évolutions

• La deuxième raison relevait des différences de mode de vie et de culture
  • il avait l’impression que les rationalistes étaient surtout des personnes dans la vingtaine travaillant dans diverses organisations internes basées à Berkeley et San Francisco
  • il percevait aussi une culture liée aux maisons partagées, aux préférences sexuelles, aux identités de genre, aux fétiches et parfois aux psychédéliques
• Aaronson se décrit comme quelqu’un très éloigné de cette culture
  • hétérosexuel
  • en relation monogame
  • professeur titulaire d’âge moyen
  • marié à une conjointe exerçant le même métier
  • père de deux enfants scolarisés dans des établissements ordinaires
• Avec le temps, il estime qu’une part importante des rationalistes s’est mariée, a eu des enfants, ou les deux
• Il a aussi été marqué par les nombreux tout-petits qui couraient sur le campus de Lighthaven pendant LessOnline
• Selon lui, certains ont été convaincus par une idéologie explicitement nataliste ou par Selfish Reasons to Have More Kids de Bryan Caplan, tandis que d’autres ont simplement suivi une impulsion humaine de longue date
• Une session de LessOnline sur l’éducation des enfants abordait la question de les élever de façon indépendante et autonome, mais aussi socialisée, à l’aise avec la technologie sans pour autant devenir dépendants aux jeux sur iPad
  • le choix d’une école où ils pourraient apprendre les mathématiques plus vite
  • les moyens d’éviter une scolarité ennuyeuse
  • jusqu’à quel point sacrifier la vie des parents pour l’« enrichment » des enfants
  • dans quelle mesure faire confiance à l’idée, formulée par Judith Rich Harris, de rendements décroissants de l’effort parental

Inquiétude de dérive sectaire et réalité observée

• La troisième raison était que les rationalistes donnaient parfois une impression sectaire autour d’Eliezer Yudkowsky vu comme un gourou
• Il considère qu’Eliezer écrit en recourant à des métaphores et à des sortes de koans, et enseigne que le sort de la vie sur Terre est en jeu, avec pour ceux qui le comprennent la responsabilité de guider l’avenir
• Mais ce qu’il a vu à Lighthaven ressemblait plutôt à une communauté partageant certaines convictions, dans la lignée des Beatniks, du Bloomsbury Group ou de la première Royal Society
• Même quand Eliezer apparaissait, il faisait l’objet de débats comme n’importe qui d’autre
• Il estime aussi que le leadership est en grande partie passé à une nouvelle génération
  • Nate Soares et Zvi Mowshowitz cherchent de nouvelles façons de parler du risque lié à l’IA
  • Scott Alexander tient le blog devenu le centre intellectuel de la communauté au cours des dix dernières années
  • Kelsey Piper, Jacob Falkovich et Aella, entre autres, ont étendu le rationalisme de l’engagement politique grand public vers d’autres directions
• Il reconnaît toutefois qu’il est difficile de ne pas trouver un peu « cringe » le fait de danser sur une chanson pop générée par IA à propos du théorème de Bayes et de la définition de la vérité chez Tarski

L’expérience directe plutôt que le ridicule extérieur

• Son hésitation la plus profonde venait de la peur qu’en se déclarant rationaliste, il soit tourné en ridicule par ses collègues universitaires ou par des inconnus sur Internet
• Il raconte avoir longtemps cherché une manière d’expliquer l’attrait de cette communauté de façon si rationnelle que les moqueries s’éteindraient d’elles-mêmes
• Il y a cinq ans, il avait le sentiment que la communauté rationaliste pouvait s’effondrer sous les attaques d’un article de Cade Metz dans le New York Times, de RationalWiki, de SneerClub et d’autres
• La communauté qu’il a vue à LessOnline semblait au contraire prospérer plus que jamais
  • un campus physique réel
  • d’excellents auteurs sur des sujets variés
  • des personnes qui ont le sentiment d’être là où elles doivent être
  • une communauté qui compte même des enfants

Réponse aux critiques liées à la politique et au genre

• À ceux qui accusent les rationalistes d’être proches d’un monarchisme d’extrême droite à la Curtis Yarvin, Aaronson cite le portrait de Yarvin publié par The New Yorker
• La session politique la plus à droite qu’il dit avoir vue à LessOnline réunissait Kelsey Piper et d’anciens comme d’actuels assistants parlementaires
  • le sujet portait sur la capacité de Democrats modérés à proposer une pro-abundance agenda audible par le grand public pour battre MAGA
• À ceux qui accusent les rationalistes d’être des incels, il répond en donnant l’exemple d’une session où Jacob Falkovich abordait surtout les peurs liées aux rencontres amoureuses chez des participants nerds majoritairement masculins, tandis que des rationalistes femmes apportaient leur point de vue
• Parmi les sessions destinées aux personnes en couple, il y avait aussi une session sur les conflits relationnels animée par Gretta Duleba, partenaire d’Eliezer et ancienne conseillère conjugale

Un homme inchangé, une communauté nouvellement acceptée

• Aaronson affirme qu’il préfère croire ce qu’il a vu lui-même plutôt que les reproches des moqueurs envers les rationalistes
• Même si on lui dit qu’il a « mask off », il répond que sous le masque se trouve la même personne qu’avant
• Il se décrit comme quelqu’un qui aime la Busy Beaver function et BQP/qpoly, et comme un partisan résolu des Lumières
• Il estime avoir trouvé, dans sa famille, parmi ses collègues universitaires, dans la communauté rationaliste et parmi les lecteurs de son blog, des gens qui veulent ce qu’il a à offrir

[GN⁺]

Avis sur Hacker News

• Lire ce texte m’a amené à réfléchir plus profondément à ce qui me dérange dans l’ensemble de ce mouvement.
  Il existe une tension intrinsèque entre l’attitude qui consiste à regarder les choses de façon rationnelle et celle qui consiste à raisonner à partir des premiers principes, et le ton absolutiste de l’ensemble de la communauté me dérange particulièrement. On y voit très peu d’humilité du type « voilà ce que je pense, mais il y a peut-être un angle que j’ai manqué et je peux me tromper » ; ils donnent l’impression de gens qui auraient honte de ne pas avoir d’avis sur un sujet ou de dire « je ne sais pas ».
  Avant l’IA, c’était encore à peu près supportable, mais depuis, leur emballement convaincu que le monde va finir ne montre aucune humilité face au fait que nous ne comprenons peut-être pas encore pleinement les implications de l’IA. Peut-être que l’IA prendra une direction bien plus modérée et ennuyeuse que prévu.

  • Comme du côté de l’altruisme efficace, on a l’impression qu’ils se laissent entraîner dans des expériences de pensée logiques fictives et se retrouvent enfermés dans des conclusions délirantes au seul motif qu’ils y seraient arrivés par la logique pure.
    Ils oublient que si les conditions initiales sont très artificielles, la conclusion n’a guère plus qu’une valeur académique. On pourrait appeler ça « se mettre la tête dans le cul ». Le problème, c’est que ces gens dégagent un sentiment de supériorité absolue : puisqu’ils n’ont utilisé « que la logique », ils ne peuvent pas avoir tort. Beaucoup tombent là-dedans à l’adolescence ou dans la vingtaine, mais en général quelqu’un finit par leur mettre une claque derrière la tête en leur disant d’arrêter. Avec assez d’argent et Internet, on peut éviter ce genre de garde-fou et s’enfermer dans sa propre chambre.
  • Je me demande si ce n’est pas vraiment mettre tout ce groupe dans le même sac de façon beaucoup trop large.
    Ne sont-ce pas eux qui ont lancé la mode consistant à mettre des formules comme epistemic status: mostly speculation dans les billets de blog ? Ils écrivent aussi sur les dangers de l’excès de confiance, mesurent à quel point leurs prédictions se sont trompées, et tiennent même des pages du type « la liste des choses sur lesquelles je me suis trompé ».
  • Le fait que les singularitaristes s’essoufflent à s’inquiéter de l’alignement de l’IA m’a toujours semblé être un écran de fumée qui empêche de voir clairement des risques liés à l’IA plus ordinaires, qui ne relèvent ni de l’auto-amélioration ni du surhumain.
    Il existe des risques concrets comme les biais algorithmiques, le blanchiment de politiques publiques, les coûts énergétiques ou l’accélération de la concentration des richesses. Ce courant mène aussi à ce qu’on appelle le long-termisme, qui minimise les bénéfices de résoudre les problèmes réels d’aujourd’hui pour se concentrer uniquement sur la résolution de problèmes hypothétiques censés un jour rendre tout le reste insignifiant.
  • Si vous avez lu le blog de Scott Alexander, l’ancien Slate Star Codex ou l’actuel Astral Codex X, cette appréciation peut paraître un peu différente.
    Il est rempli de doute et d’auto-examen, et il tient même publiquement une liste de ses erreurs : https://www.astralcodexten.com/p/mistakes
    Pour moi, ce blog est le seul point de contact avec la « communauté rationaliste », mais ce que j’y ressens est presque l’inverse de l’arrogance.
  • Le mot « rationnel » m’a toujours semblé servir d’écran de fumée pour masquer leur capacité, à eux et à leurs pairs, à produire et respirer leur propre méthane.
    Je comprends que cela ait été agréable d’entendre des femmes de Stanford leur dire : « tu es un ultra-génie physicien quantique mathématicien qui a toujours raison ». Mais, par pitié, qu’ils gardent un minimum de dignité et réfléchissent aussi au bien qu’on peut faire dans l’Indiana rural, les ongles pleins de terre.

• La logique est un excellent outil, qui nous a menés des philosophes grecs aux portes informatiques.
  La difficulté du rationalisme pur réside dans la vérification des premiers principes à partir desquels la pensée démarre. Si les principes sont faux, ou si l’on manque une complexité intermédiaire, la logique peut mener quelqu’un complètement à côté.
  Aristotle est un exemple de premier principe manquant. L’un des plus grands logiciens de l’histoire est arrivé à de nombreuses conclusions erronées.
  Un exemple de complexité manquée est que la sélection naturelle est issue non d’un raisonnement à partir de premiers principes, mais d’une analyse empirique. En théorie, elle aurait aussi pu venir du premier, mais c’était trop complexe [1].
  Cela ne veut pas dire qu’il faut déprécier la logique, mais que les réponses doivent toujours s’accompagner d’une humilité provisoire. Cela dit, je reste un grand fan de Scott Aaronson.
  [0] https://www.wired.com/story/aristotle-was-wrong-very-wrong-b...
  [1] https://www.jstor.org/stable/2400494

  • Les rationalistes dont il est question ici sont plus proches des empiristes bayésiens que des rationalistes cartésiens qui rejetaient l’empirisme.
    La probabilité bayésienne apparaît comme la seule façon d’étendre la logique booléenne, dont Aristotle ne disposait pas, à des probabilités réelles continues. S’ils se qualifient eux-mêmes de « rationalistes », c’est apparemment en raison de l’idéal de l’« agent bayésien rationnel » en économie.
    Cela dit, ils ont aussi un slogan : « on ne peut pas simplement faire de l’inférence sur la distribution de probabilité conditionnelle jointe de l’univers ». Autrement dit, AIXI n’est pas calculable, et même AIXI ne peut raisonner que sur des distributions de probabilité calculables.
  • La logique est la discipline qui traite de ce qui est vrai et de ce qui est démontrable.
    Dans les conditions les plus idéales, les deux coïncident. La logique s’est divisée entre la théorie des modèles, qui traite de ce qui est vrai, et la théorie de la démonstration, qui traite de ce qui est démontrable. Une grande partie du rationalisme actuel ressemble à une théorie de la démonstration qui aurait perdu son ancre. Beaucoup de gens feraient bien de lire The Critique of Pure Reason de Kant.
    Dans les systèmes complexes, ce qui est vrai peut être indémontrable, et beaucoup de choses démontrables peuvent ne pas être vraies. Il est donc important d’aiguiser son discernement autant que son raisonnement, et de pratiquer non seulement le reasoning, mais aussi le reckoning. Je vois cela comme le fait d’entendre une « résonance de vérité », mais comme c’est infalsifiable, il faut rester sceptique même lorsqu’on fait confiance à ce sentiment. Ce n’est qu’un guide vers une exploration plus profonde, pas une destination finale.
    Beaucoup de gens se perdent à force de penser. La pensée est séduisante. Il faudrait dire plus souvent que la pensée n’est qu’un obstacle conscient sur la voie d’un achèvement inconscient.
  • Pour défendre un peu Aristotle, sa logique et sa métaphysique imparfaites ont tout de même fourni une base puissante pour explorer de nombreux aspects du monde que les précédents n’avaient pas explorés, ou pas de façon systématique.
    Sa communauté n’a pas évité l’étude empirique de la biologie. Eux aussi sont arrivés à de mauvaises conclusions sur plusieurs sujets, mais il faudrait plutôt reprocher aux générations suivantes de ne pas les avoir remises en cause.
  • On n’insistera jamais assez sur le mot « outil ».
    La logique est un outil, pas une « fenêtre magique donnant accès à la vérité absolue ». Un outil peut être bon pour certaines choses et mauvais pour d’autres.
  • J’aimerais que l’humilité provisoire devienne un premier mème précieux.
    Il faut créer un culte de la Provisional Humility. Il faut augmenter le pH.

• Je suis en train de lire Rationality: from AI to zombies de Yudkowsky.
  Comme c’est un recueil de billets de blog, il y a beaucoup de répétitions ; la première fois que j’ai essayé, j’ai abandonné vers le chapitre 50, mais maintenant que le sujet m’intéresse davantage, je le lis avec beaucoup plus de plaisir.
  Pour ceux qui ne se sont pas plongés dans ses textes, ou qui ont été rebutés par l’apparence de culte, il tient vraiment quelque chose. Il y a beaucoup d’idées pratiques assez utiles pour la pensée quotidienne, comme « Belief in Belief », « Emergence » ou « Generalizing from fiction ».
  Par exemple, j’ai souvent rencontré des débats purement sémantiques. Des situations où l’on semble ne pas être d’accord sur quelque chose, alors que les deux camps ne désignent en fait pas le même phénomène. La source du désaccord est l’usage du même mot pour des « objets » différents mais liés. Cela paraît évident, mais c’est typiquement le genre de chose qu’on réalise trop tard ; aujourd’hui, j’ai l’impression d’être bien mieux préparé à le remarquer en temps réel. Ça vaut la peine d’essayer.

  • L’aspect communautaire de la rationalité est au mieux douteux.
    Mais les outils de pensée décrits dans la littérature sont précieux, à condition d’y ajouter un point essentiel : dès qu’on pense « je suis rationaliste, donc j’ai plus raison que cette personne », on a échoué en tant que rationaliste.
    C’est une erreur vraiment facile à commettre. Pour utiliser efficacement ces outils, il faut devenir plus humble qu’avant ; sinon, on devient juste quelqu’un d’insupportable qu’on ne peut pas convaincre. Si vous dites plus souvent « en fait, j’ai raison » que « waouh, je pourrais me tromper », vous avez échoué en tant que rationaliste.
  • Il semble y avoir une forme d’arbitrage où des gens issus des STEM, dépourvus de bagage en philosophie, en littérature ou en histoire, sont très impressionnés quand on leur reconditionne discrètement les idées de base de ces domaines.
    Je ne dis pas que c’est le cas ici, mais ces sujets sont discutés depuis des millénaires ; il faudrait donc au moins s’en étonner avant de considérer que Yudkowsky a ouvert de nouveaux horizons.
  • Ce type de débat purement « sémantique » ressemble à ce que Wittgenstein appelait des jeux de langage.
  • Il vaut peut-être mieux consacrer son temps à lire son grand œuvre Harry Potter and the Methods of Rationality.
    https://hpmor.com/
  • Cela évoque le livre Nexus de Yuval, qui traite de l’histoire de la collecte d’informations

• Je n’ai jamais eu une mauvaise opinion de Scott Aaronson, et chaque fois que je tombais par hasard sur ses écrits ou ses travaux, j’étais souvent admiratif.
  Mais en lisant dans ce texte que ces gens se rassemblent dans leur propre « Galt's Gultch », je me suis dit : « Ah, maintenant il est devenu un rhinocéros. »
  https://en.wikipedia.org/wiki/Rhinoceros_(play)
  Pour faire une mauvaise blague : quelle est la différence entre un « rationalist » et un « rationalizer » ? Rien que les incitations.

  • J’ai toujours pensé que Scott Aaronson était, parmi les rationalistes célèbres, du côté le moins mauvais.
    C’est donc un peu drôle qu’il n’ait pas su lui-même qu’il était rationaliste avant que Scott Siskind ne le lui dise.
  • La phrase disant que la seule différence entre un « rationalist » et un « rationalizer », ce sont les incitations, n’est pas une mauvaise blague : c’est une phrase qu’il faudrait encadrer en grand et accrocher au mur.

• C’est un jugement au feeling, mais il me semble que les Rationalists reçoivent plus de vitriol qu’ils ne le méritent.
  En y réfléchissant, je vois trois raisons. Premièrement, c’est une communauté, donc il y a un groupe interne, et si l’on n’en fait pas partie, on est par définition dans le groupe externe. Les gens n’aiment pas être le groupe externe de quelqu’un d’autre.
  Deuxièmement, ils ont des opinions atypiques et les expriment publiquement. Les gens ont tendance à ne pas aimer ceux qui expriment des opinions différentes des leurs.
  Troisièmement, ce sont des nerds. Historiquement, les nerds ont été harcelés ou exclus pour certaines raisons, qu’ils partagent probablement eux aussi.

  • La communauté rationaliste n’est pas du tout exclusive. Il suffit de se déclarer rationaliste, d’écrire un blog avec une mention d’epistemic status, et de se dire rationaliste pour y entrer.
    Les critiques ne viennent pas du fait qu’un club cool refuse de laisser entrer des gens.
    Le problème est plutôt que, tout en parlant d’idées hétérodoxes et d’accueil de perspectives diverses, ils sont étonnamment alignés sur beaucoup de sujets. Vu de l’extérieur, on voit facilement un blogueur rationaliste semer l’idée d’un sujet donné, puis les autres la reprendre comme un fait.
    Il y a quelques années, un blogueur rationaliste a écrit un long billet affirmant que des traces de lithium dans l’eau provoquaient l’obésité, et a même reçu un financement d’Astral Codex Ten. Dès le départ, de vrais experts ont pointé des erreurs d’interprétation des études, des abus statistiques et l’ignorance de facteurs plus importants ; malgré cela, pendant des années, cela a été partagé au sein de la communauté rationaliste comme une sorte de preuve.
    Le problème n’est pas qu’ils aient des opinions différentes, mais le fait qu’ils traitent très souvent certains sujets par une évaluation de premiers principes maladroite, en ignorant l’expertise réelle et les preuves contradictoires.
  • Il y a ici un facteur plus important encore. Ils sont très visibles sur Internet, et leur mode d’existence est lui aussi principalement fondé sur Internet.
    Par conséquent, ceux qui les évaluent sont eux aussi surtout sur Internet, et le discours en ligne tend généralement vers une négativité assez banale. Ironiquement, ce commentaire lui-même en est un exemple modéré.
  • Pour ajouter un facteur de plus : un groupe de personnes perçues comme plus intelligentes que la moyenne, réuni autour des produits de la pensée humaine ou de la réflexion elle-même, se fera presque forcément attaquer sur le terrain du snobisme/de la jalousie, même sans seuil explicite d’intelligence ni gatekeeping.
    Pour le dire crûment, il n’est pas permis d’être un tant soit peu intelligent sans jouer les « oh, vous exagérez ». Cette intelligence doit servir un autre objectif, comme la médecine ou la comptabilité. Un fait amusant vu en cours de statistiques : le CPA moyen a un QI d’environ 5 points supérieur à celui du médecin moyen.
    Bien sûr, il y a toujours le risque de s’effondrer dans son propre nombril et de disparaître, donc c’est en partie justifié. En même temps, cette attitude maintient beaucoup de gens sous la coupe de managers idiots et d’imbéciles qui avancent sans le moindre doute.
  • HN juge la rationalité assez durement.
    Si l’on regarde ce fil[1] sur Mr. Beast, personnage controversé, on voit que tous les commentaires les mieux classés sont assez indulgents. Comparer cette conversation aux commentaires de cet article est assez drôle.
    Scott Aaronson — quelqu’un que HN devrait en théorie beaucoup aimer, qui connaît énormément de choses en mécanique quantique et qui est réputé très gentil et très intelligent — a simplement dit qu’il aimait la rationalité, et pourtant il est traité avec moins d’indulgence que Mr. Beast. Ce n’est pas étrange ?
    [1]: https://news.ycombinator.com/item?id=41549649
  • Dire « au feeling », ça ne veut pas simplement dire observation empirique ?

• Le livre probablement le plus utile parmi ceux qui traitent de sujets autour du Rationalism avec un R majuscule est peut-être "Neoreaction, A Basilisk: Essays on and Around the Alt-Right" [1] d’Elizabeth Sandifer
  Le sujet nominal est l’Alt-Right, mais en réalité il parle bien davantage de la communauté Rationalist avec un R majuscule et des figures qui ont nourri le mouvement néoréactionnaire aujourd’hui dominant dans la politique américaine. C’est probablement le meilleur livre pour comprendre comment on est arrivé de la position politique et intellectuelle de 2010 à aujourd’hui
  https://www.goodreads.com/book/show/41198053-neoreaction-a-b...

  • Si vous voulez un livre sur les rationalists, mais que vous n’avez pas envie d’un ouvrage à charge commandité par quelqu’un qui a été bloqué de pages Wikipédia pour grave violation du point de vue neutre, j’ai entendu dire que The AI Does Not Hate You de Chivers et Rationalist's Guide to the Galaxy étaient bons
    Cela dit, Chivers nous est plutôt favorable, donc si vous aimez l’un des deux camps, il est probable que vous n’aimiez pas l’autre
  • Ça ressemble moins à « probablement le livre le plus utile » qu’à « probablement le livre qui confirme le mieux mes biais »
  • Des formulations du type « a nourri le mouvement néoréactionnaire, aujourd’hui dominant dans la politique américaine » présentent une vision du monde très controversée visant à dénigrer un exogroupe
    Cela ne cadre pas non plus avec le principe selon lequel Hacker News ne doit pas être utilisé comme champ de bataille politique ou idéologique. De plus, cette attaque repose sur la culpabilité par association, que beaucoup jugeraient injuste par principe, et qui, même à un examen rapide, ne tient pas très bien
    Il faut aussi jeter au moins un bref coup d’œil à d’autres points de vue. "Reliable Sources: How Wikipedia Admin David Gerard Launders His Grudges Into the Public Record" https://www.tracingwoodgrains.com/p/reliable-sources-how-wik... propose une longue explication de la manière dont Sandifer, proche collaboratrice de Gerard, s’est impliquée dans le rationalism, ainsi que des biais des travaux qu’elle cite
  • Ironiquement, chaque fois que ce sujet est abordé, la discussion se transforme en attaque ad hominem contre le messager plutôt que de porter sur le sujet
    C’est précisément le type d’argumentation que les rationalists prétendent détester, mais il réapparaît constamment dès qu’une affirmation dérange leur communauté. Les commentaires qui écartent le contenu à cause de l’auteur, ou qui refusent d’admettre un argument parce qu’il ressemble à une « attaque », reviennent à reconnaître qu’ils sont incapables de juger les arguments selon leurs mérites propres
    Si l’on veut traiter le vrai sujet sans tomber dans l’ad hominem, il vaut mieux lire ce que Scott Alexander a écrit lui-même sur les raisons pour lesquelles il traite souvent de sujets néoréactionnaires : https://www.reddit.com/r/SneerClub/comments/lm36nk/comment/g...
    D’après certaines citations, écrire sur la Reaction ou le gender multiplierait par environ 5 les vues du blog et les nouveaux abonnés, et les abonnés augmentent la capacité à diffuser des idées importantes et à entrer en contact avec des personnes importantes, ce qui lui donnerait des raisons personnelles de le faire. Il dit aussi vouloir diffuser les bons aspects de la pensée reactionary
    Il se voit aussi comme quelqu’un d’assez intelligent et lucide, mais dit continuer à apprendre des Reactionaries des choses nouvelles et importantes sur la criminalité, l’histoire de la Seconde Guerre mondiale ou le HBD. Ici, HBD signifie « human biodiversity », le terme préféré de l’alt-right pour désigner une taxonomie humaine raciste, en particulier axée sur l’intelligence relative de différentes races. C’est aussi un thème qui revient étrangement dans le travail de Scott Alexander. Il a même écrit un billet de blog signalant de manière codée à ses abonnés que, tout en le niant publiquement, il le considérait en privé comme tout à fait exact

• L’ironie ici, c’est que la communauté Rationalist est composée de gens qui n’ont pas été assez observateurs pour remarquer que « s’identifier comme Rationalist » n’est généralement pas une décision rationnelle

  • D’après ce que j’ai vu, il y a un mélange de ces personnes-là, de gens qui évitent ce problème, et de personnes qui le font délibérément sans vraiment y croire

• J’aimerais vraiment voir un lien qui puisse me convaincre que la communauté rationalist n’est pas juste un amas de poudre aux yeux
  J’ai lu le premier tiers de HPMOR, mais je n’ai pas trouvé le texte très bon et, plus important encore, il ne m’a pas « ouvert les yeux » sur une pensée rationaliste de haut niveau. Ce que j’en ai retiré, c’est plutôt : « OK, l’histoire originale de HP était pleine de contradictions et de stupidités, et si les personnages étaient vraiment intelligents, ce serait une autre histoire »
  J’ai aussi lu pas mal d’essais d’EY et de textes de LessWrong, en cherchant l’idée censée me faire exploser le cerveau. « La carte n’est pas le territoire » est évident ; « mets à jour tes croyances en fonction des preuves », à part la religion, je ne vois pas qui s’y oppose ; « les gens ont des biais, il faut les surmonter » est banal ; et « décide en fonction des preuves et des résultats souhaités », merci du conseil
  Toute cette philosophie semble pouvoir tenir sur une demi-page de notes, et la plupart des gens hocheraient probablement la tête en disant « oui, c’est vrai »

  • Les livres de développement personnel sont utiles non pas parce qu’ils contiennent des idées qui bouleversent l’esprit, mais parce qu’ils rassemblent au même endroit des conseils cohérents et assez systématiques
    De la même manière, la stratégie rationalist de recherche de connaissances n’est pas bouleversante, elle est simplement rationnelle. Elle propose un ensemble de règles à suivre pour agir plus efficacement dans le monde qui nous entoure
    La partie du rationalisme qui dépasse la demi-page de notes consiste généralement en diverses conclusions en aval découlant de ces règles rationnelles d’épistémologie
  • Tu demandes qui s’oppose à « mets à jour tes croyances en fonction des preuves », mais des dizaines de commentaires dans ce fil en sont quasiment des exemples
    Par exemple, il y a des gens qui ont des opinions très tranchées sur ce que fait réellement Effective Altruism, alors que https://www.givewell.org/charities/top-charities se trouve avec une simple recherche Google. Pourtant, ils ne ressentent pas le besoin de vérifier avant de publier leur avis bien tranché
    Le commentaire le mieux classé dit que la communauté rationality essaie de « raisonner à partir des premiers principes », alors qu’en réalité c’est l’inverse. Un commentaire renvoie vers un texte de Scott Alexander et affirme que Scott a prédit quelque chose et s’est trompé ; dans le texte lié, Scott dit pourtant qu’il donne 30 % de probabilité à cet événement. Autrement dit, il estimait à 70 % la probabilité que cela n’arrive pas. Un autre commentaire défend ça comme un « commentaire totalement rationnel mais critique »
    HN est un endroit plus intelligent que la majeure partie d’Internet, avec des normes de discussion supérieures à la moyenne, mais même ici les gens ne semblent pas vraiment s’intéresser au fait d’avoir moins tort sur les sujets. Même quand il s’agit de choses relativement faciles à vérifier
    L’idée centrale est de créer une communauté où cette façon de faire fonctionne réellement. Un endroit où, globalement, les normes font que présenter des preuves est récompensé, et que les accusations sans fondement sont sanctionnées quand elles se révèlent fausses
    Il y a aussi l’idée d’exprimer ses croyances sous forme de probabilités, avec de vrais nombres. C’est pour ça qu’EY n’arrive pas à arrêter de parler du théorème de Bayes. En pratique, les gens le font

• C’était vraiment un énorme pavé. J’ai particulièrement aimé la menace existentielle nommée Cade Metz
  Mais au final, je pense que le grand prophète de Chicago a bien résumé l’ensemble quand il a dit :
  « Je pense que les -ismes ne sont pas bons. On ne devrait pas croire aux -ismes, on devrait croire en soi-même. Pour citer John Lennon : “Je ne crois pas aux Beatles. Je ne crois qu’en moi-même.” Bonne remarque. Après tout, c’était le morse. Moi aussi, je pourrais être le morse. Mais il faudrait quand même que je me fasse déposer par quelqu’un en voiture »

  • La façon dont les rationalists, quand ils rabaissent leurs critiques, mettent en avant le fait que « je l’ai rencontré en personne, il était sympa » est toujours fascinante
    C’est vraiment un mème étrange. Curtis Yarvin est allé à « Vibecamp », un rassemblement rationalist, et a été gentil avec quelques rationalists célèbres de Twitter ; maintenant ils le défendent avec ferveur sur Twitter. Tout l’argument se résume à « je l’ai rencontré, il était sympa »
    C’est étonnant de voir à quel point la partie rationaliste de leur philosophie passe par la fenêtre dès qu’une frontière entre l’endogroupe et l’exogroupe est tracée. Invoquer Cade Metz est un vieux signal : cela transforme efficacement la discussion en combat « es-tu des nôtres ou non », tout en ignorant complètement les points valables que Cade Metz a pu soulever
    Et quand ensuite on les voit dire qu’avec les néoréactionnaires, il faut dépasser le dégoût pour se concentrer sur les bonnes parties de leurs arguments, on se dit que tout ce mouvement n’est peut-être pas autant consacré à la recherche de la vérité qu’il le croit
  • Il y a aussi un -isme dans « on ne devrait pas croire aux -ismes, on devrait croire en soi-même »
    Selon l’angle, il y en a plusieurs : solipsisme, narcissisme, etc.
  • L’idéologie est la plus puissante quand les gens pensent qu’elle n’existe pas
  • Je m’inquiète sincèrement de savoir si les rationalists ne sont pas en fait des anarchistes fascistes sans voiture

• À une époque, je m’intéressais à une femme qui était très plongée dans le milieu effective altruism/rationalism
  Je suis allé à quelques réunions avec elle, mais mon côté réfractaire intérieur n’a pas aimé. Il m’a fallu quelques années pour comprendre à quel point l’ensemble m’avait paru sectaire, et je suis assez reconnaissant que ma personnalité d’athée acerbe et frondeur ait pris le pas sur ma libido et m’ait empêché de me mêler à ce groupe