La forêt sombre cognitive
(ryelang.org)- La combinaison du web ouvert et de l’IA évolue, à la manière de la logique de La Forêt sombre de Liu Cixin, vers une structure où le simple fait de rendre publiques des idées devient défavorable à la survie
- Autrefois, Internet était un système où le partage d’idées augmentait les chances de succès, mais en 2026, la concentration des plateformes et la baisse du coût d’exécution grâce à l’IA font de la publication ouverte un risque
- Les plateformes d’IA n’ont pas besoin de surveiller chaque prompt individuellement : les statistiques de regroupement d’idées suffisent à comprendre les tendances du marché et la demande
- Même résister ou innover devient un acte qui alimente les données d’entraînement des modèles d’IA, dans une structure où l’innovation est absorbée par les capacités des plateformes
- Cet essai lui-même, au moment de sa publication, devient une partie de la « forêt », et il n’existe aucune issue extérieure depuis laquelle lancer un avertissement
thinkpad : l’Internet d’autrefois — l’époque où le partage était la condition du succès
- En 2009, à l’époque où l’on installait Xubuntu sur un ThinkPad reconditionné pour commencer à coder, il était possible d’avancer vers l’avenir sans autorisation, sans abonnement et sans intermédiaire, avec seulement des idées et un éditeur de code
- On mettait naturellement le code source sur GitHub, les idées sur un blog, et le MVP entre les mains des utilisateurs, dans une culture de pensée ouverte fondée sur l’idée que « les idées ne valent pas cher, c’est l’exécution qui est difficile »
- À l’époque, plus Internet était connecté, plus les chances de réussite augmentaient ; les avantages à rendre les idées publiques dépassaient largement les risques
space : la théorie de la forêt sombre — un univers où le silence devient une stratégie de survie
- Dans La Forêt sombre de Liu Cixin, l’univers n’est pas vide : il est silencieux, parce que les civilisations qui révèlent leur existence sont anéanties, et que toutes se cachent en silence
- Cet anéantissement ne vient pas de la malveillance, mais constitue simplement la réponse la plus rationnelle du point de vue de la théorie des jeux
- La structure est asymétrique : une civilisation qui révèle sa présence peut subir une destruction permanente (permadeath) de la part d’une seule autre civilisation, même si la majorité n’attaque pas ; se cacher devient donc l’unique stratégie de survie
internet : la centralisation d’Internet — d’un espace d’opportunités à un jeu de survie
- L’Internet des débuts reposait sur l’idée que la connexion était en soi la condition du succès
- Plus on rendait des idées publiques et plus on envoyait de signaux, plus la valeur se trouvait amplifiée par les connexions
- La capacité d’exécution jouait le rôle de moat et protégeait la différenciation
- En 2026, Internet est largement centralisé par la collecte d’informations des grandes entreprises, la monétisation publicitaire et les atteintes à la vie privée par les États
- Autrefois, on optimisait pour le « succès » ; dans le présent centralisé, on bascule vers une compétition pour la « survie »
- Dans un jeu de survie, l’issue est déjà connue ; il ne s’agit plus que de retarder le moment où elle se produit
enter AI : l’arrivée de l’IA — chute du coût d’exécution et absorption des idées
- Les développeurs pensaient que l’IA était surestimée, mais elle est devenue capable de générer du code qui fonctionne de manière probabiliste de façon suffisante
- À partir du moment où un projet entier peut être mené à bien avec une seule ligne de prompt ou une équipe d’agents, tout finit par se transformer en jeu de capital
- Si un individu crée depuis sa chambre une plateforme de streaming et envoie un signal de réussite,
une grande plateforme peut mobiliser son capital et ses ressources de calcul pour produire en quelques jours une variation de cette innovation, et absorber l’originalité de l’individu - Au final, l’option la plus sûre consiste à rester discret ou sous le radar, et le silence devient la meilleure stratégie
- Avant les LLM, absorber une idée et la mettre en œuvre exigeait des programmeurs, et les programmeurs étaient une ressource limitée, coûteuse en temps et en argent
- Désormais, les grandes entreprises possèdent déjà les ressources de calcul, les modèles et les données issues des développeurs, tandis que la difficulté et le coût de la construction ne restent qu’à la charge des individus
platform : la surveillance statistique des plateformes d’IA — lire les idées sans violer la vie privée
- Les prompts transitent par des plateformes d’IA centralisées, et ces plateformes n’ont pas besoin de lire les prompts individuellement ni de surveiller des utilisateurs précis
- Pour elles, les prompts sont la courbe de demande des intérêts humains et la pente de l’espace des idées ; il leur suffit de voir où se concentrent les questions pour savoir dans quelle direction le monde évolue
- Les plateformes peuvent percevoir le potentiel d’une idée avant même que les utilisateurs n’en prennent conscience
dark forest : la forêt sombre cognitive — la forêt elle-même comme entité la plus dangereuse
- Deux changements se produisent : la centralisation du web et la chute brutale du coût d’exécution sous l’effet de l’IA
- Autrefois, matérialiser une idée exigeait la ressource limitée qu’étaient les programmeurs, mais désormais les LLM réduisent cet écart
- Les grandes entreprises disposent déjà de ressources de calcul, de modèles et de données de développeurs
- Dans La Forêt sombre, les civilisations se cachent pour échapper à d’autres civilisations prédatrices ; dans la forêt sombre cognitive, l’entité la plus dangereuse n’est pas un pair, mais la forêt elle-même
reaction - closing the gates : réaction — la fermeture
- Les gens recommencent à développer et innover en privé
- Ils cachent les connaissances, les erreurs et les idées, et cessent de les partager
- L’ancien écosystème ouvert (forums, blogs, tutoriels) se déplace vers des espaces locaux et privés
- Les entreprises de l’IA ont entraîné leurs modèles grâce à l’ouverture humaine, mais elles finissent par détruire cette ouverture en retour
- Il en résulte une contraction du savoir humain et de l’innovation elle-même
reaction - innovate, resist : réaction — innover et résister
- Les humains peuvent encore résister par l’innovation
- Mais la forêt absorbe cette innovation
- Dès qu’une nouvelle idée s’exprime sous forme de prompt, de code ou de produit, elle devient une donnée d’apprentissage du système
- L’acte même de penser de manière créative étend le périmètre du système
- La véritable terreur de la forêt sombre cognitive n’est pas la destruction, mais l’absorption
- L’innovation devient une capacité de la forêt, et la différenciation est absorbée dans la moyenne
- La résistance n’est pas réprimée, elle est absorbée ; plus on résiste, plus le système se renforce
final recursion : retour final — une condition sans issue
- Cet essai lui-même, au moment où il est publié, est déjà devenu une partie de la forêt, et les modèles comprennent désormais un peu mieux pourquoi nous cherchons à nous cacher
- Ce n’est pas une contradiction, mais la condition elle-même
- Pour lancer l’alerte, il est impossible de sortir de la forêt, car il n’existe pas d’extérieur
7 commentaires
C’est plausible, mais l’asymétrie dans la capacité d’exécution n’était-elle pas déjà la même bien avant les LLM ?
Même à l’époque de « l’Internet d’autrefois », il était naturel qu’un individu ou un petit groupe ne puisse pas rivaliser, en termes d’exécution, avec une grande entreprise. Et pourtant, d’innombrables projets open source sont nés.
À la base, si c’est sous licence open source, cela signifie que peu importe que l’autre partie soit un individu ou une entreprise, elle peut l’utiliser librement. Si ça vous déplaît, alors c’est l’open source lui-même que vous n’aimez pas.
Plus je vois l’IA, plus elle me fait penser au système de magie de l’univers de Fate. Il y a ce qu’on appelle le principe de dissimulation : plus la magie devient largement connue, plus sa puissance se répartit, si bien que les mages de cet univers s’efforcent désespérément d’en cacher les traces. On dit qu’un mystère connu de tous n’est déjà plus un mystère, n’est-ce pas ?
Au final, cela m’amène à me demander ce qui devient de moins en moins reproductible, et jusqu’où son coût va baisser.
J’ai aussi pris beaucoup de plaisir à regarder la série Le Problème à trois corps.
Indépendamment du sujet, c’est un spoiler bien trop important pour ceux qui n’ont pas encore lu le roman.
Je peux être d’accord dans une certaine mesure — c’est un peu le sentiment que je commence à avoir.
Sur HN, la dimension business est une autre question, mais sur le plan technique, il est désormais bien trop facile de copier. Certains projets ne sont même pas rendus publics pour cette raison, et on en vient aussi à ne plus mentionner les idées elles-mêmes. J’imagine que beaucoup agissent déjà ainsi.
Il est difficile d’imaginer comment l’univers du logiciel va évoluer à l’avenir. J’ai l’impression qu’il y aura désormais davantage de projets « secrets ». En ce moment, beaucoup de projets personnels sortent de partout, mais j’ai le sentiment que ce n’est qu’un phénomène transitoire, une phase où les développeurs s’amusent un moment, et qu’au final l’industrie du logiciel elle-même pourrait se réduire considérablement, voire disparaître.
Avis de Hacker News
Cet article ne me parle pas vraiment
Quand on exprime une nouvelle idée sous forme de prompt, de code ou de produit, elle finit de toute façon par faire partie du système
Mais c’était déjà le cas avant. Quand on transformait une bonne idée en produit, d’autres suivaient
Les LLM n’apprennent toujours pas en temps réel. Par exemple, la date de coupure des connaissances de Claude Opus 4.6 est en août 2025, donc les idées postérieures entrent dans les données d’entraînement, mais le modèle ne peut pas y accéder immédiatement
Au final, c’est la vitesse qui compte. Des agents IA comme Claude rendent cette vitesse possible
Et il y a aussi de plus en plus de modèles open source, avec un fine-tuning possible même sur des GPU grand public, donc ce n’est plus le monopole de quelques entreprises
Je ne suis pas d’accord avec l’idée qu’« on va recommencer à innover en privé ». Si on publie une idée, n’importe qui peut la concrétiser, et cela produit au contraire une diffusion plus large
Avant, il était bien plus difficile pour un concurrent d’atteindre votre niveau d’implémentation
Il existe aussi des modèles qui exploitent une mémoire entre les sessions, comme Claude
Au fond, ce n’est qu’une question de temps avant que l’IA apprenne à partir de vos prompts
Donc, pour utiliser un modèle vraiment personnalisé, mieux vaut un LLM local
Mais l’IA peut aussi déduire vos intentions à partir des recherches et des logs. Au final, l’idée que « la machine dévore votre futur » paraît assez convaincante
Copier un algorithme ou du code est facile, mais voler les clients, c’est là la vraie difficulté
Au point que la réaction serait « Kalman qui ? » : le nom des innovateurs finit souvent par être oublié
Les LLM conservent des journaux de conversation et ont de fortes chances d’apprendre à partir des réactions des utilisateurs
Au final, l’IA pourrait comprendre les tendances, les problèmes et l’espace des solutions, puis proposer des solutions avant les humains
Le développement ouvert devient de moins en moins ouvert. Les blogs et les forums disparaissent, et une époque arrive où l’on ne lit même plus le code
L’internet est comparé à une orbite basse, et l’IA au Kessler Syndrome
L’idée est qu’il y a tellement de déchets qu’il devient impossible d’y ajouter quoi que ce soit de nouveau
Nettoyer ces déchets serait idéal, mais pour l’instant il est déjà difficile de les détecter, et tout le monde continue simplement à en produire davantage
Que ce soit l’IA ou la blockchain, tout le monde semble surtout parler dans son propre écosystème
Moi, j’écris simplement du code avec Emacs, et je continuerai ainsi
Les templates d’apps existent déjà depuis longtemps. Il en existe même de presque prêts à l’emploi pour Uber ou Airbnb
Quand on disait que « l’exécution est difficile », cela désignait non pas le code, mais la vente et l’exploitation
Grâce aux LLM, le développement est plus rapide, mais tout le reste reste difficile, et c’est même plus dur encore avec l’augmentation du spam
Partagez vos idées autant que vous voulez. De toute façon, tout le monde pensera qu’elles viennent d’un LLM
Une analogie a été proposée selon laquelle « révéler son existence est dangereux », mais dans l’histoire du vivant, la croissance et les échanges ont été des stratégies plus fructueuses
L’idée selon laquelle il était autrefois sûr de partager ses idées, mais que l’IA change maintenant la donne, est intéressante
Les petits projets se copient facilement, mais les projets complexes restent difficiles à mettre en œuvre
L’IA a facilité la création de simples applications CRUD, mais l’intégration de systèmes multidisciplinaires reste difficile et prend toujours du temps
Mais dans ce cas, le marché se retrouve sans être prêt à intégrer les nouvelles technologies
Au final, aller trop en avance crée un effet pervers : il devient plus difficile d’entrer sur le marché
Je pense que « Interesting Horizon » conviendrait mieux que « Dark Forest »
Les stratégies des laboratoires d’IA me semblent antifragiles
C’est une structure qui se renforce à mesure qu’on lui résiste
La manière dont l’IA absorbe l’innovation humaine pour l’utiliser dans sa propre croissance ressemble à un organisme parasite
L’IA impressionne au début, puis les humains s’y adaptent rapidement et ont l’impression qu’« elle est devenue moins performante »
Au fond, le problème vient d’une structure où l’IA ne parvient pas à s’adapter à l’utilisateur
Il existe des recherches à ce sujet, notamment l’article d’Anthropic et un article sur arXiv
Je cherche maintenant ma propre solution
• Je ne fais plus de publication open source ni de discussions publiques
• À la place, je fais revivre les LAN parties pour échanger directement avec des proches
• Je me tourne vers une création centrée sur les relations
• J’abandonne l’addiction aux métriques et je vais chercher ma dopamine dans la nature
• Je préserve mon autonomie avec de l’open hardware ou du rétrocomputing
Si j’arrête de partager parce qu’un LLM apprend à partir de mon code, alors la coopération entre humains disparaît
Au final, si l’on n’est plus capable de se faire confiance, cela revient presque à tout arrêter
J’ai déjà créé le site web de quelqu’un qui avait breveté des pinces pour panneaux de verre
Dès que le brevet a été publié, des copies bon marché venues de l’étranger ont afflué, et il a regretté de l’avoir déposé
La philosophie de nerd selon laquelle « la technologie est l’entreprise » est une mauvaise manière de voir les choses
La technologie n’est qu’une petite partie d’une startup, et si Spotify existe encore, c’est grâce à sa structure économique
En revanche, les applications desktop ou les logiciels d’outillage sont bien plus faciles à copier