- J’ai récemment participé à la conférence rationaliste LessOnline, où j’ai pu rencontrer en personne et échanger avec de vieilles connaissances connues en ligne
- Plus que les sessions officielles, ce sont surtout les conversations profondes et les échanges entre participants qui m’ont le plus marqué
- Les principales différences que je percevais entre moi et la communauté rationaliste tenaient à l’obsession du risque lié à l’IA, à certains traits culturels spécifiques et à une ambiance de culte
- Avec le temps, la maturation de la communauté, son élargissement en diversité et son évolution vers une vie plus familiale ont fortement contribué à faire évoluer ma perception
- Au final, j’en suis venu à reconnaître mon sentiment d’appartenance à cette communauté selon mes propres critères, et non plus en fonction du regard des autres
Expérience de la conférence rationaliste LessOnline
- J’ai récemment assisté à LessOnline, une conférence de blogging rationaliste, où j’ai revu Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin, Carl Feynman et d’autres connaissances de longue date
- J’ai été heureux de rencontrer en face à face, souvent pour la première fois hors ligne, de nombreuses personnes
- Le lieu de l’événement, Lighthaven, est un espace singulier, avec sa structure labyrinthique et ses jardins, perçu comme une nouvelle sorte d’« utopie nerd » à Berkeley
- J’y ai animé une discussion avec Nate Soares sur l’Orthogonality Thesis, ainsi qu’une session de questions-réponses sur le calcul quantique et l’informatique théorique
Conversations et ambiance de la conférence
- Ce qui m’a davantage marqué que les sessions officielles, ce sont les conversations dynamiques et animées qui se poursuivaient toute la journée entre des centaines de personnes disséminées un peu partout
- Dès le départ, les organisateurs ont activement encouragé les échanges en petits groupes de discussion, en mettant l’accent sur la circulation collective des idées
- Il fallait parfois plusieurs heures pour aller d’un bâtiment à l’autre, tant chacun s’impliquait activement dans les conversations
- On m’arrêtait souvent avec des salutations du type : « Vous êtes bien Scott Aaronson ? »
Identité rationaliste et raisons du sentiment de décalage
- Pendant des années, bien que j’aie partagé avec les rationalistes des centres d’intérêt et des points de vue proches, je n’ai pas revendiqué activement l’étiquette de « rationaliste » pour certaines raisons
- La première était une forme de distance vis-à-vis de l’obsession selon laquelle l’IA allait acquérir des capacités surhumaines et transformer la condition humaine
- J’étais autrefois sceptique sur ce sujet, mais j’ai renoncé à cette objection au vu des progrès fulgurants récents de l’IA
- Je contribue moi-même désormais, dans une certaine mesure, au sujet brûlant qu’est l’AI alignment
- La deuxième raison relevait de facteurs culturels
- Il existait une culture, portée en grande partie par des jeunes d’une vingtaine d’années, faite d’organisations créées directement par eux et de maisons communautaires où se menaient diverses expériences, ce qui me paraissait assez éloigné de ma propre vie de professeur installé
- Mais aujourd’hui, la communauté montre aussi une évolution plus centrée sur la famille, avec des personnes mariées, des enfants, et même des enfants qui courent partout
- Les rationalistes ont des enfants sous l’influence de livres comme Selfish Reasons to Have More Kids ou pour des raisons plus traditionnelles, tout en réfléchissant à un monde meilleur pour la génération suivante
Caractéristiques de la communauté et regard sur les malentendus
- Par le passé, certains aspects de l’ambiance m’avaient tenu à distance à cause d’un côté un peu sectaire (avec Eliezer dans une position presque gourou)
- Eliezer lui-même transmet désormais davantage aux nouvelles générations, et la communauté se diversifie progressivement
- Le centre de gravité intellectuel le plus représentatif est plutôt le blog tenu par Scott Alexander, ainsi que l’émergence de nombreux nouveaux leaders
- Mais dans mon expérience concrète, cette communauté ressemble moins à un « groupe de croyants » qu’à un réseau d’idées et de passions
- On y trouve des discussions pratiques et franches sur des sujets variés comme l’IA, les relations ou l’éducation des enfants
- Par exemple, lors d’une rencontre animée par Jacob Falkovich, des hommes débattaient de la séduction et de leur compréhension des femmes, tandis que Gretta Duleba animait une session sur les conflits relationnels
- Quant aux critiques extérieures du type « Les rationalistes sont-ils en réalité de droite, ou causent-ils une forme de nuisance ? », la réalité sur place est surtout faite de discussions orientées vers le bien commun et d’un soutien modéré au Parti démocrate
Évolution du sentiment d’appartenance et perception de soi dans la communauté
- Le changement le plus important est que je me soucie moins désormais du regard des autres, et que je trouve par moi-même du sens dans cette communauté
- Auparavant, les critiques extérieures venues de RationalWiki, SneerClub ou encore d’articles du New York Times m’inspiraient un certain malaise, mais cette édition de LessOnline m’a profondément impressionné par la vitalité et la prospérité de la communauté, l’existence d’un lieu physique réel et l’arrivée d’une nouvelle génération
- Plutôt que de craindre l’image que les autres projettent sur moi, j’en suis venu à accepter cette identité en vivant aux côtés de ceux qui me reconnaissent, qu’il s’agisse de ma famille, du monde académique, de la communauté ou de mes lecteurs de blog
Conclusion
- Je reste la même personne qu’avant, avec mes diverses identités de chercheur en informatique, universitaire, Juif progressiste, blogueur et plus encore
- La communauté rationaliste offre, sur des sujets très variés comme l’IA, l’éducation ou les relations, un espace de discussion pragmatique et un véritable sentiment d’appartenance
- Le cynisme ou les critiques venus de l’extérieur ne correspondent pas à la réalité ; cette expérience m’a rappelé la croissance continue de la communauté, son importance et la satisfaction personnelle que j’y trouve
Autres annonces
- Mes réponses aux commentaires pourront être un peu lentes (je voyage aux Galápagos avec ma fille)
- J’ai participé à une session à UT Austin sur la philosophie et l’informatique théorique (vidéo YouTube disponible)
- Alon Rosen demande des recommandations de candidats pour un nouveau prix en informatique théorique (en mémoire de Luca Trevisan)
- Il est possible de s’inscrire à la session de posters en ligne de STOC'2025 jusqu’au 12 juin, et je serai présent à Prague en tant qu’orateur plenary
1 commentaires
Avis Hacker News
En lisant ce texte, j’ai été amené à réfléchir plus profondément à ce qui me dérangeait dans ce mouvement
Il semble y avoir une tension fondamentale entre l’attitude dite « rationnelle », la tentative de déployer un raisonnement à partir de « premiers principes », et l’atmosphère d’absolu qui règne dans cette communauté
Ils donnent toujours l’impression d’être trop sûrs d’eux
On voit très peu d’humilité du type : « je pense ceci, mais je n’ai peut-être pas considéré tous les angles, et je peux me tromper »
C’est typique de gens qui trouvent honteux de ne pas avoir d’avis sur un sujet ou de dire « je ne sais pas »
Avant l’ère de l’IA, cette tendance restait encore tolérable, mais aujourd’hui leur enthousiasme comme si le monde allait finir met encore plus crûment en lumière ce manque d’humilité
Il faut reconnaître que nous comprenons peut-être mal l’impact réel de l’IA
En réalité, cela pourrait n’avoir rien de si spécial et être plus ennuyeux qu’attendu
Ils me rappellent le groupe « Effective Altruism »
Ils se perdent dans la pure logique, sans voir que leurs prémisses de départ sont artificielles, aboutissent à des conclusions bizarres, puis se retrouvent prisonniers de ces conclusions
Leur attitude consistant à se croire supérieurs par la seule logique les fait souvent paraître arrogants
C’est une manière de penser dans laquelle on peut tomber un temps à 10 ou 20 ans, mais avec beaucoup d’argent et le soutien d’Internet, elle peut se prolonger durablement
Ce sont aussi eux qui ont commencé à coller sur leurs blogs des mentions du type « <i>epistemic status: mostly speculation</i> »
Ils écrivent aussi des essais sur les dangers de l’excès de confiance, mesurent la fréquence à laquelle leurs prédictions se trompent et tiennent publiquement à jour une liste de « choses sur lesquelles je me suis trompé »
J’aimerais demander si on ne généralise pas trop ce groupe dans son ensemble
J’ai toujours vu l’inquiétude excessive des singularitariens à propos de l’alignement de l’IA comme un écran de fumée qui détourne l’attention des risques de l’IA beaucoup plus concrets : biais algorithmiques, blanchiment politique, consommation d’énergie, accélération de la concentration des richesses, etc.
Au lieu de résoudre les problèmes réels du présent, ils mettent l’accent sur des problèmes hypothétiques d’un futur lointain, ce qui mène au long-termisme
Le blog de Scott Alexander (Astral Codex X) est rempli de doute constant et d’introspection
Il publie même une liste de ses propres erreurs (https://www.astralcodexten.com/p/mistakes)
Pour moi, c’est le seul point de contact avec la « communauté rationaliste », et je n’y ai jamais perçu la moindre arrogance
C’est même tout le contraire
J’ai l’impression que la notion de « rationnel » finit surtout par servir d’outil de validation mutuelle, où l’on produit et inhale le méthane fabriqué par soi-même et par son entourage
Moi aussi, j’aimais bien qu’on me dise que j’étais un génie à Stanford, mais il m’arrive de penser qu’aller mettre les mains dans la terre à la campagne pour faire du bien concret a plus de sens
La logique est un outil extraordinaire, des philosophes grecs jusqu’aux ordinateurs modernes
Mais le problème central du rationalisme pur, c’est qu’il faut examiner correctement les « premiers principes » de cette logique
Si les principes sont faux ou que de la complexité a été omise, la logique nous entraîne au contraire dans la mauvaise direction
Aristote, par exemple, était un immense logicien, mais il a tiré beaucoup de conclusions erronées
Un bon exemple d’oubli de la complexité est la sélection naturelle, qui est née d’une analyse inductive — pas de premiers principes — justement parce que la réalité était trop complexe
Il ne s’agit pas d’ignorer la logique, mais de souligner qu’il faut toujours garder une « humilité provisoire »
Et je suis fan de Scott Aaronson
(lien expliquant pourquoi Aristote avait tort)
(origine inductive de la sélection naturelle)
Les « rationalistes » dont on parle ici ne sont pas des rationalistes cartésiens, mais des empiristes bayésiens
La théorie bayésienne des probabilités est une extension continue en nombres réels de la logique booléenne qu’Aristote avait manquée
On les appelle probablement « rationalistes » à cause de l’idéal de l’« agent bayésien rationnel » en économie
Cela dit, ils ont aussi ce slogan célèbre : « l’univers ne se laisse pas inférer simplement comme une distribution conjointe de probabilités conditionnelles »
Ils savent très bien qu’en pratique même AIXI est non calculable, et que les problèmes du monde réel sont théoriquement d’une difficulté énorme
La logique étudie la « vérité » et la « démontrabilité »
Dans l’idéal, les deux coïncident, mais dans la réalité il existe beaucoup de systèmes réellement complexes où quelque chose peut être « vrai » mais « indémontrable », ou l’inverse
C’est pourquoi le discernement compte aussi
Quand j’entends en moi comme une résonance de vérité, cela me pousse à creuser davantage, mais j’essaie toujours de ne pas oublier le doute envers moi-même
Au bout du compte, la pensée est séduisante, mais elle peut aussi devenir un obstacle — il est important d’accepter qu’elle soit une « pierre d’achoppement » nécessaire sur le chemin vers une forme de perfection inconsciente
J’aimerais prendre un peu la défense d’Aristote
Même si sa logique et sa métaphysique étaient incomplètes, sa tentative était sans précédent pour l’époque, et sa communauté ne dédaignait pas non plus la recherche empirique en biologie
Je pense que le vrai problème est surtout venu des générations suivantes, qui l’ont trop vénéré
Je me reconnais vraiment dans l’expression « humilité provisoire »
J’aimerais qu’elle devienne un mème
Il faut augmenter le pH (potentiel d’humilité)
La logique n’est qu’un « outil »
Ce n’est pas une lance magique qui donne accès à la vérité absolue
Selon les situations, elle peut être appropriée ou non, donc autant l’utiliser avec détachement
Je suis en train de lire "Rationality: from AI to zombies" de Yudkowsky
En fait, c’est un recueil de billets de blog, donc il y a un fort sentiment de répétition, et j’avais abandonné vers le chapitre 50 la première fois
Cette fois, le sujet m’intéresse davantage, donc je trouve la lecture assez plaisante
Je pense que Yudkowsky montre par endroits de véritables intuitions profondes
Il y a beaucoup d’idées utiles pour la pensée quotidienne, comme 'Belief in Belief', 'Emergence' ou 'Generalizing from fiction'
Avant, j’avais souvent l’impression que certaines discussions tournaient à vide ou se réduisaient à des disputes sur des nuances de sens, alors qu’en réalité il s’agissait souvent de débats nés d’interprétations différentes des mots
Le fait d’avoir appris à repérer ces pièges en temps réel m’a été très utile
Je recommande d’y jeter un œil
L’ambiance au sein de la communauté de la rationalité peut parfois sembler étrangère, mais les outils de pensée décrits dans cette littérature ont en réalité énormément de valeur
Cela dit, il y a un point crucial : dès l’instant où l’on commence à penser « je suis rationaliste, donc j’ai plus raison que les autres », on a déjà échoué en tant que rationaliste
Il est très facile de tomber dans cette erreur, et bien utiliser les outils de la pensée rationnelle exige au contraire de devenir encore plus humble qu’avant
Un vrai rationaliste devrait dire plus souvent « oh, et si j’avais tort ? » que « j’ai raison »
Je pense qu’il existe un phénomène où des gens issus des STEM, peu familiers de la philosophie, de la littérature ou de l’histoire, s’émerveillent de façon excessive lorsqu’ils découvrent pour la première fois des idées très élémentaires dans ces domaines
Ce n’est pas tant que Yudkowsky découvre quelque chose d’original, mais plutôt l’effet d’une rencontre nouvelle avec des thèmes déjà discutés depuis des millénaires
Ce type de disputes langagières correspond à ce que Wittgenstein appelait des « jeux de langage »
Si vous voulez comprendre l’argument central sur les risques de l’IA, il est bien plus efficace de lire le début de <i>Superintelligence</i> de Nick Bostrom que le livre de Yudkowsky
J’avais toujours eu une bonne opinion de Scott Aaronson et du travail qu’il fait
Mais en lisant ici l’histoire des gens réunis à 'Galt's Gulch', je me suis dit : « ah, ça y est, lui aussi est devenu un rhinocéros »
(lien vers la pièce Rhinocéros)
Pour plaisanter, la différence entre un « rationalist » et un « rationalizer », c’est l’incitation
Parmi les rationalistes connus, je trouvais que Scott Aaronson était l’un des plus rationnels
C’est d’ailleurs assez drôle qu’il n’ait lui-même pris conscience qu’il était rationaliste qu’après que Scott Siskind le lui a dit
Je voudrais voter positivement juste pour m’avoir fait découvrir la pièce 'Rhinocéros'
C’est extrêmement intéressant, je ne connaissais pas, et je pense que ça mérite même un billet à part entière
En tant que personne qui apprécie à la fois la communauté Rationalist et la communauté Rust, je trouve intéressant de voir à quel point les deux sont traitées de manière similaire sur Hacker News
Le mépris, le manque de curiosité et la violence des généralisations péremptoires me choquent toujours
Je trouve que les commentaires récents sur Hacker News ont au contraire d’autant plus de valeur qu’ils viennent souvent de personnes qui ont longtemps fréquenté la communauté rationaliste
Moi aussi, j’ai passé pas mal de temps avec des amis sur LessWrong, SSC et ailleurs, à lire énormément de blogs et de textes
Pourtant, chaque fois que j’essaie d’écrire quelque chose, on balaie ça d’un revers de main en mode « tu es un outsider, tu ne peux pas comprendre »
Ils aiment critiquer les autres groupes, mais dès que leur propre groupe est mis en cause, ils deviennent défensifs
Les communautés Rationalist et Rust ont en commun d’être très actives dans la production de choses concrètes
Or il est toujours plus facile pour quelqu’un qui ne fait rien de critiquer l’activité productive des autres
En ligne, il est encore plus facile de laisser s’exprimer cette hostilité née de la peur d’être distancé ou désavantagé par le rythme des autres
Je pense que l’anonymat et la distance propres à Internet aggravent encore cette dynamique
Je pensais que Hacker News aimait Rust
C’est ici que j’ai découvert Rust autrefois, et c’est ici que je l’ai appris
Si je devais chercher des fans de Rust, c’est sur HN que j’irais en premier
D’après ce que j’ai vu, ce n’est pas la communauté Rust qui paraît défensive ici, mais plutôt celles des autres langages
Dès qu’on va sur des fils consacrés à Zig, Odin ou C++, on voit toujours surgir le débat disant que Rust est meilleur
(exemple concret)
J’ai été surpris d’entendre dire que la communauté Rust se faisait critiquer ici
En réalité, j’ai surtout l’impression que Go s’est davantage fait attaquer à cause de son attitude arrogante lorsqu’il refusait d’introduire les génériques
Personnellement, le concept même de « communauté de programmation » ne me parle pas beaucoup
Je respecte la passion, mais je conseillerais de se détendre un peu, de voir un psy et de sortir avec quelqu’un
Ce dont on parle ici, c’est bien de la « communauté rationaliste » du lien https://en.wikipedia.org/wiki/Rationalist_community
Je confirme qu’il s’agit bien de cela, et non de https://en.wikipedia.org/wiki/Rationalism
Tout le monde emploie mal le terme
Le nom réel du mouvement est rationality, ou rationality à la LessWrong
Ce n’est pas le rationalism philosophique classique
rationality est plus proche de l’empirisme
Les mots se ressemblent trop, donc cette bataille terminologique est presque aussi pénible que la querelle autour du mot 'hacker'
Je lis un peu tout ce qui se fait autour de Lightcone, LessWrong et autres, mais je ne comprends toujours pas très bien ce qu’ils « font » au juste
J’ai un temps fréquenté des rencontres parce que je m’intéressais à une femme très investie dans effective altruism/rationalism
Grâce à mon tempérament de contrarien, j’ai tout de suite ressenti un rejet, et ce n’est que plusieurs années plus tard que j’ai compris à quel point l’ambiance était presque sectaire
Au fond, je suis reconnaissant à ma fibre d’athée rebelle un peu edgy de ne pas m’avoir laissé m’intégrer à eux
Tout ce texte m’a semblé être une grande aventure en soi
La partie sur la « menace » ontologique de Cade Metz était particulièrement amusante
Mais au final, pour reprendre les mots du grand sage de Chicago : il ne faut pas se laisser happer par les « -ismes »
L’important, c’est de se faire confiance sans s’enchaîner à une doctrine
Référence à John Lennon : « je ne crois pas aux Beatles, je ne crois qu’en moi »
Après tout, que je sois un morse ou autre chose, ça ne change rien : je dois bien compter sur quelqu’un d’autre pour avancer
Je trouve intéressant de souligner l’élément de menace chez Cade Metz
Les rationalistes ont souvent tendance à balayer la critique avec des arguments du type « je les ai rencontrés, ce sont des gens sympas »
On voit aussi des cas où Curtis Yarvin vient à un rassemblement Vibecamp, se montre aimable, et se retrouve ensuite avec des défenseurs
Ce genre d’impression subjective est l’exact opposé d’une posture rationaliste, et j’y vois une preuve typique qu’une fois le schéma dedans/dehors installé, on en vient à ignorer la critique objective
Dans la controverse autour de Cade Metz, tout glisse rapidement vers une logique du « avec nous ou contre nous », ce qui fait perdre de vue les vrais points à traiter
Avec la néoréaction, par exemple, on dit volontiers : « même si les idées sont bizarres, écoutez-les, il y a peut-être quelque chose à en tirer », mais eux restent incapables d’accueillir les objections
Au final, cela donne l’impression que ce mouvement est peut-être moins centré sur la recherche de la vérité qu’il ne le croit, et plus marqué par l’assurance de soi
Les idéologies sont les plus puissantes quand les gens pensent ne pas en avoir
Je m’inquiète sincèrement que les Rationalists ne soient peut-être que des anarchistes fascistes sans voiture
Les « -ismes », ce n’est jamais bon
Il ne faut pas croire dans les courants de pensée, mais en soi-même
Cela dit, selon l’angle sous lequel on regarde la chose, cela peut aussi devenir un autre « -isme » : solipsisme, narcissisme, etc.
L’hostilité que reçoivent les Rationalists me paraît exagérée par rapport à la réalité
Voici trois causes auxquelles j’ai réfléchi
Les gens détestent être exclus
Entendre des idées éloignées des siennes déclenche facilement un rejet
Et c’est la même raison pour laquelle les nerds ont historiquement été ostracisés
La communauté rationaliste n’est absolument pas exclusive
Il suffit de se déclarer rationaliste, d’écrire « epistemic status » sur son blog, et l’on peut immédiatement en faire partie
Ce n’est pas une atmosphère d’exclusion identitaire ; au contraire, le problème de cette communauté est qu’elle affiche la diversité, tout en ayant en pratique une forte homogénéité des opinions
Lorsqu’une personne avance une nouvelle thèse, tout le monde a vite tendance à l’accepter comme un fait
Par exemple, l’idée que des traces de lithium provoqueraient l’obésité s’est diffusée au point d’obtenir même des subventions Astral Codex Ten, alors que des experts signalaient dès le départ des erreurs d’interprétation des études, des abus statistiques et l’oubli de variables plus importantes
Le problème n’est pas la divergence d’opinion en soi, mais le fait qu’on ignore trop souvent l’expertise réelle pour revenir à des « premiers principes » en négligeant des preuves contradictoires
Un autre facteur important est que les Rationalists forment un groupe fondamentalement internet-native, donc toute leur réputation se joue en ligne
Or Internet a en lui-même une forte tendance à faire dériver les discussions vers le négatif, ce qui accentue encore le phénomène
Leur affirmation selon laquelle « l’alignement de l’ASI sera difficile » ne pourra être vérifiée qu’après coup
Pour l’instant, cela ressemble à crier « au loup » encore et encore sans preuve claire
Et si le loup apparaît vraiment, il sera peut-être déjà trop tard pour agir, ce qui leur fait perdre malgré eux en crédibilité et suscite de l’hostilité
Hacker News juge la rationalité avec une sévérité extrême
Par exemple, dans les fils sur Mr. Beast, bien qu’il s’agisse d’une figure controversée, les commentaires les mieux classés sont tous très indulgents
À l’inverse, Scott Aaronson est en théorie une personne très estimée par cette communauté, mais dès qu’on parle de rationalité, il reçoit un traitement moins indulgent encore que Mr. Beast
(exemple de commentaire sur Mr. Beast)
J’ai utilisé l’expression « vibe based », mais en réalité cette conclusion vient de nombreuses observations empiriques
En lisant dans le livre de Yudkowsky une formule du genre « un physicien quantique qui a presque toujours raison sur Internet dans les débats », je me suis dit : « ah, cette personne collerait parfaitement à la communauté rationaliste »
En réalité, si quelqu’un parlait vraiment comme ça, il jouerait déjà de lui-même le rôle d’un personnage fictif
Et si un tel personnage existait réellement, l’ambiance en serait encore plus étrange
Même le titre donne l’impression d’un personnage de film qui regarde la caméra en prenant la pose
Honnêtement, si je croisais Scott Aaronson dans la nature, j’aurais probablement une réaction similaire
Il est à ce point intelligent, et je n’ai jamais vu quelqu’un expliquer l’informatique quantique avec autant de clarté
Je me demande à quoi bon s’arrêter dès le début du texte pour ensuite le commenter
Une telle attitude correspond précisément au type de dénigrement superficiel que les règles de HN interdisent
Dans un retour d’expérience, quelqu’un dit que l’ambiance de la communauté lui a semblé sectaire
Honnêtement, quand je lis la description « ambiance sectaire », je comprends tout à fait ce qu’il veut dire
Les communautés Rationalist et Rust sont toutes deux traitées de façon intéressante sur HN
Comme Rationalist et Rationalism sont souvent confondus, il faut comprendre que Rationality, en particulier la Rationality à la LessWrong, est différente du Rationalism philosophique traditionnel
La communauté rationaliste s’inscrit dans une tradition empiriste, et cette terminologie vise justement à marquer cette distinction
Mais les mots se ressemblent trop pour que cette distinction fonctionne vraiment dans la pratique
Même en parcourant Lightcone, LessWrong et autres, il reste difficile de voir clairement ce que cette communauté fait concrètement au juste