- Le roman de 1964 de Stanisław Lem, The Invincible, imagine une forme de vie issue de machines autonomes et autoréplicantes plus de vingt ans avant que le domaine appelé « artificial life » ne soit formalisé par Christopher Langton en 1986
- Sur Regis III, les automates subsistent après la disparition des visiteurs biologiques et apparaissent comme des êtres capables de s’auto-fabriquer, transformés au fil d’un processus évolutif, en compétition avec les formes de vie locales et avec d’autres automates
- Comme ces entités n’ingèrent pas de nourriture et utilisent l’énergie solaire, être plus petit leur confère un avantage et ouvre une trajectoire évolutive où le comportement en essaim l’emporte sur l’intelligence individuelle
- Les simulations contemporaines de comportement collectif en vie artificielle rejoignent l’intuition de Lem : chez les poissons, les oiseaux ou les abeilles, des individus qui ne suivent que quelques voisins proches et des règles simples peuvent produire des comportements de groupe complexes
- Le roman met en contraste la valeur d’unicité et de solidarité attachée à la vie humaine avec l’essaim de « mouches » de Regis III, où elle ne s’applique pas, révélant ainsi les limites des hypothèses anthropocentriques forgées sur Terre
La vie artificielle imaginée par The Invincible
- The Invincible raconte l’histoire d’un croiseur spatial parti vers une planète isolée pour découvrir le sort d’un vaisseau jumeau ayant perdu le contact avec la Terre
- En atterrissant sur Regis III, le navigateur Rohan et l’équipage découvrent une forme de vie qui semble avoir évolué à partir de machines autonomes et autoréplicantes
- Il pourrait s’agir des survivants d’une « guerre des robots »
- Les humains se retrouvent face à la question de savoir comment agir lorsqu’ils atteignent les limites de leur savoir
- Le roman place ses personnages face à une présence inexplicable et étrange, juste au-delà de ce qu’ils sont capables d’analyser
L’imagination de Lem avant les débats sur la vie artificielle
- La science-fiction a une longue tradition de prédiction de technologies du XXe siècle comme le voyage spatial, les satellites, la bombe atomique, la télévision, Internet ou la réalité virtuelle
- The Invincible anticipe aussi un autre thème technologique et scientifique : la vie artificielle
- Des spéculations sur des systèmes artificiels autorégénératifs existent depuis les années 1940
- Le nom du champ scientifique « artificial life » a été donné par Christopher Langton en 1986
- Soit plus de vingt ans après la publication de l’édition originale polonaise de The Invincible en 1964
- L’un des débats centraux du domaine porte sur le fait de savoir si les programmes et dispositifs évolutifs sont réellement vivants, ou s’ils ne font qu’imiter la vie
- La version forte considère que des processus logiciels comme les algorithmes génétiques sont aussi « naturels » que la vie elle-même
- Dans cette perspective, ce qui est artificiel n’est pas le processus, mais le support dans lequel il se déroule
- Robert Rosen et d’autres ont réfléchi à l’essence même de « la vie » non seulement à partir de la vie terrestre fondée sur le carbone, mais aussi à travers la life-as-it-could-be possible dans des systèmes planétaires extraterrestres
- Des formes de vie artificielle fondées sur le silicium pourraient éclairer ce type de réflexion théorique
La trajectoire évolutive différente choisie par les automates de Regis III
- Selon l’hypothèse du Dr Lauda dans le roman, un vaisseau du système de Lycran a atterri sur Regis III il y a plusieurs millions d’années
- Les visiteurs biologiques sont morts, mais les automates ont survécu
- Une lutte évolutive s’est ensuite engagée entre les automates, les formes de vie indigènes de la planète et les différentes lignées d’automates
- Pour que ce scénario tienne, l’impératif « survivre et se reproduire » qui gouverne la vie terrestre doit aussi fonctionner sur Regis III
- Lem postule que les automates peuvent se fabriquer eux-mêmes, y compris à travers des modifications induites par l’évolution
- John von Neumann avait imaginé un problème voisin, avec des pièces métalliques flottant sur un lac et s’auto-assemblant, mais Lem ne cherche pas à détailler le mécanisme concret
- Ce qui intéresse Lem, c’est d’imaginer sur Regis III une forme de vie artificielle qui remporte la compétition évolutive pour des raisons totalement différentes de celles qui ont fait le succès de Homo sapiens sur Terre
- La différence décisive tient au mode d’acquisition de l’énergie
- Les automates de Regis III n’ingèrent pas de nourriture et exploitent l’énergie solaire
- Plus un organisme artificiel est petit, moins il lui faut d’énergie
- La pression évolutive favorise donc des formes de plus en plus petites, qui gagnent en supériorité non par une intelligence élevée, mais par une intelligence d’essaim
- Les nuées de « mouches » peuvent produire des champs électromagnétiques extrêmement puissants
- Malgré leur petite taille, elles deviennent les grandes gagnantes de l’évolution planétaire et une force menaçante pour les humains arrivés en intrus
- Le titre The Invincible est à la fois le nom majestueux du vaisseau spatial et, de manière ambiguë, pourrait aussi désigner l’essaim d’automates extraterrestres qui le menace
Une intuition en phase avec les recherches modernes sur les essaims
- Les recherches contemporaines en vie artificielle confirment l’intuition de Lem selon laquelle des essaims d’êtres artificiels peuvent manifester des comportements complexes à partir de quelques règles simples
- Des simulations informatiques décrivant avec précision les comportements collectifs de poissons, d’oiseaux ou d’abeilles montrent qu’il suffit à chaque individu de réagir à 4 ou 5 voisins proches
- L’ensemble de ces règles tient en quelques lignes de code
- Dans un banc de poissons fuyant un prédateur, c’est le poisson le plus proche du danger qui oriente la direction générale
- Comme l’individu dans la position la plus risquée cherche le plus fortement à s’échapper, la direction qu’il suit détermine le mouvement de tout le banc
- Le comportement de chaque poisson est simple, mais le résultat collectif produit une intelligence d’essaim d’une grande complexité
- Des décennies avant que ces idées ne se diffusent largement dans la communauté scientifique, Lem avait déjà l’intuition que des contraintes environnementales différentes pouvaient produire des résultats évolutifs totalement distincts chez la vie biologique et chez les automates
- Sur Terre, l’espèce la plus intelligente, l’humain, a globalement été la plus apte à survivre, mais cette intelligence a un coût
- une longue période de maturation
- un fort investissement de ressources dans chaque individu
- une socialisation qui met l’accent sur les liens de couple et le soutien communautaire
- une forte valeur accordée à l’accomplissement individuel
- Ces caractéristiques ne sont pas des lois universelles du cosmos, et l’histoire d’une autre planète peut mener à la victoire de traits tout différents
Les valeurs humaines et les limites de l’anthropocentrisme
- Une scène entre le capitaine Horpach et le second Rohan met clairement en relief le contraste entre les humains et l’essaim d’automates
- Horpach confie à Rohan la décision de savoir s’il faut exposer d’autres membres d’équipage à un grand danger pour vérifier si les quatre disparus sont presque certainement morts, ou si certains sont peut-être encore en vie
- Si ce pari paraît avoir ne serait-ce qu’un peu de valeur, c’est en raison de plusieurs présupposés sur l’humain
- la vie humaine a du prix
- la conviction que, face au danger, tout sera tenté pour secourir les siens soutient la solidarité de l’équipage
- chaque être humain est unique, et possède donc une valeur unique
- Ces présupposés ne s’appliquent pas à l’essaim de « mouches »
- les automates individuels sont presque identiques les uns aux autres
- chaque unité est facilement remplaçable et donc consommable
- ce n’est pas l’individu, mais l’essaim qui porte une valeur de survie évolutive
- L’affrontement entre les humains et les « mouches » est à la fois un choc entre formes de vie différentes et un conflit entre des systèmes de valeurs façonnés par des trajectoires évolutives distinctes : celles des humains terrestres et celles des automates d’une planète étrangère
- Comme dans Solaris, Lem montre que des présupposés nés sur Terre peuvent se révéler étroits face à la rencontre de formes de vie radicalement différentes
- même la meilleure science, l’ingénierie la plus avancée et les armes les plus puissantes peuvent, dans une perspective cosmique plus large, révéler des situations que l’humain est incapable de maîtriser pleinement
- la scène où l’attaque des « mouches » fait régresser les membres d’équipage à un état infantile peut se lire comme une métaphore de cette prise de conscience
- Rohan est le personnage qui fait l’expérience la plus directe de la planète
- il traverse le terrain de ses propres pieds, mêle sa sueur aux fissures, vallées et collines de la planète, et en respire l’atmosphère à pleins poumons
- lorsqu’il conclut que « tout, partout, n’est pas fait pour nous, les humains », cette phrase agit comme une remise en cause des hypothèses anthropocentriques qui gouvernent le système éthique humain et l’exploitation de la Terre
- The Invincible demeure une œuvre de science-fiction qui a quelque chose à dire non seulement sur l’avenir auquel nous pourrions être confrontés, mais aussi sur la condition humaine présente
1 commentaires
Commentaires sur Hacker News
Lem était le genre de personne à avoir écrit des livres sur à peu près tous les sujets imaginables liés à la science et à la philosophie.
Ici, il traite de quelque chose comme ChatGPT : https://mwichary.medium.com/one-hundred-and-thirty-seven-sec...
Ici aussi, c’est similaire : https://electricliterature.com/wp-content/uploads/2017/11/Tr...
Et ici, il parle des ebooks et des audiobooks : http://www.technovelgy.com/ct/content.asp?Bnum=1024
La littérature « bitique » y désigne, en gros, des romans écrits par des modèles de langage. On y mettrait l’œuvre complète de Tolstoï, et il en sortirait un nouveau roman « de Tolstoï ».
Quand j’ai lu cette « préface » pour la première fois, il y a 20 ans, ça me paraissait absurde. Je me demandais comment un système non doté d’une intelligence générale, nourri uniquement avec d’autres romans, pourrait écrire un roman, et je pensais naturellement que l’écriture de romans était un problème forcément AGI-complet.
En particulier, quand des gens comme Nick Cave ont proclamé la mort de la créativité, cela m’a rappelé les poètes qui protestaient dans cette histoire.
Il me semble qu’il y abordait une situation où une conversation avec un tel appareil devenait impossible à distinguer d’une conversation avec un être humain.
« Un poème sur la coiffure ! Mais il doit être noble, sublime, tragique, éternel, plein d’amour et de trahison, de châtiment, d’héroïsme silencieux face à une perte certaine ! Six vers, des rimes ingénieuses, et tous les mots doivent commencer par “s” ! »
« Seduced, shaggy Samson snored. / She scissored short. Sorely shorn, / Soon shackled slave, Samson sighed, / Silently scheming, / Sightlessly seeking / Some savage, spectacular suicide. »
The Invincible est mon livre préféré de toute ma vie. Je l’ai découvert à 12 ans, et depuis, je le relis tous les quelques ans.
J’ai été ravi qu’en 2020 paraissent enfin une vraie traduction anglaise moderne et un excellent audiobook, permettant au monde anglophone de découvrir enfin correctement ce livre. L’ancienne édition anglaise n’était qu’une traduction d’une traduction, retraduite depuis la version allemande.
Je me suis toujours demandé si les idées de ce livre pouvaient être adaptées en jeu vidéo, et le jeu récent The Invincible y est parvenu. Quelques détails ont changé, mais c’est un superbe hommage à l’œuvre originale, et la représentation de Regis III était un vrai plaisir.
Pour les lecteurs polonais, il existe aussi une excellente BD à offrir : https://www.dobrestronybooki.pl/niezwyciezony/
Les trois livres posent la même question : « que se passe-t-il lorsque des humains se retrouvent face à une intelligence qu’ils sont tout simplement incapables de comprendre, ou incompatible avec eux ? »
Heureusement, la bibliothèque en a un exemplaire, donc je pourrai l’emprunter demain.
Invincible n’est qu’un des nombreux livres qui montrent à quel point Lem comprenait en profondeur l’IA et les limites de ce qu’une IA au service de l’humanité peut être.
Je recommande le recueil Tales of Pirx the Pilot. Dans beaucoup de ses récits, l’IA est dépeinte comme un véritable miroir reflétant les défauts, les bizarreries et même les instincts de l’intelligence humaine. On y trouve des histoires allant d’une IA qui fait s’écraser un vaisseau spatial pendant l’atterrissage à un androïde qui « meurt » lors d’une escalade.
Il y a aussi la préface de Golem XIV. Elle donne au lecteur une vue d’ensemble historique de l’évolution de l’IA. Golem est le nom du modèle et XIV le numéro de version, donc c’est un peu comme ChatGPT 4, mais après bien plus d’itérations. Lem décrit comment chaque itération devient de plus en plus coûteuse, de plus en plus intelligente et utile, puis finit, une fois plus intelligente que les humains, par perdre totalement tout intérêt pour les affaires humaines. Là encore, il avait visé juste.
Parfois le déguisement est vraiment très mince, comme dans Golem XIV, et parfois il est complètement abandonné, comme dans Summa Technologiae. Katar (The Chain of Chance) est un cas où il a ajouté une couche narrative plus épaisse pour lui donner l’apparence d’un roman policier de gare.
Les récits de Pirx étaient moins abstraits, bien plus humains, et l’action y est aussi très solide. Dans l’ensemble, c’est une bonne porte d’entrée vers Lem. Petit conseil : je recommande aussi Cyberiada. C’est de la philosophie déguisée en parodie, et en même temps un livre pour enfants.
Le mépris me paraît difficile à interpréter sans une forme d’orientation propre.
Excellent film, que je recommande.
Le livre le plus prophétique de Lem est un portrait remarquablement exact de ce siècle, publié en 1961 : https://en.wikipedia.org/wiki/Return_from_the_Stars
Cela dit, personnellement, je préfère ses textes plus humoristiques comme Cyberiada ou Star Diaries.
Je trouve ce protagoniste plus poignant que ceux de ses autres récits. Il faudrait que je le relise.
Si je me souviens bien, les Réplicateurs de Stargate sont assez proches d’une visualisation de ce type de vie artificielle. L’essaim s’assemble lui-même pour former une sorte de structure organique, et son seul objectif est de consommer de la matière pour produire davantage de lui-même.
Au moins, ils ne fabriquaient pas de trombones.
La vision du futur chez Lem était constamment, et de manière impressionnante, prophétique. Il se serait sans doute défini non pas comme un écrivain de science-fiction, mais comme un futurologue.
Ses récits utilisaient souvent la technologie comme toile de fond pour explorer le tissu social et les interactions entre les personnages, mais ce cadre technologique n’était pas un simple décor : il constituait aussi le contexte central de l’histoire. Rares sont ceux qui ont trouvé cet équilibre aussi bien que lui.
L’un de mes livres préférés est Peace on Earth, mais en vérité, presque tout ce qu’il a écrit se lit avec intérêt. Ses œuvres tardives peuvent toutefois faire exception, car elles sont plus denses et plus académiques. J’ai lu Fables for Robots quand j’étais enfant, et le monde qu’il y dépeignait était vraiment fascinant.
L’un des grands atouts de Lem, c’est qu’il a écrit dans les styles de très nombreux genres. La troisième colonne de ce tableau sur Wikipédia en polonais le montre bien : https://pl.wikipedia.org/wiki/Lista_pierwszych_wyda%C5%84_dz...
Il y a bien sûr de la science-fiction, mais aussi du roman criminel, du roman « réaliste » et des essais philosophiques. Le tableau ne le montre pas si clairement, mais même sa science-fiction se divise en registres très variés : humour, horreur, thriller, littérature jeunesse.
The Futurological Congress, de 1971 : https://en.wikipedia.org/wiki/The_Futurological_Congress
C’est un monde où les pilules remplacent la réalité, et en pratique nous n’en sommes pas si loin.
Mais le processus par lequel tout devient progressivement « mécanocérébralisé » apparaît le mieux ici : https://en.wikipedia.org/wiki/Tales_of_Pirx_the_Pilot
Chaque histoire en entraîne une autre, et le résultat devient de plus en plus triste.
Invincible est généralement considéré comme un livre sur la nanotechnologie plutôt que sur la vie artificielle. Les deux se recoupent évidemment, mais le titre de cet article peut facilement faire croire au lecteur qu’il s’agit de biologie artificielle, par exemple d’une histoire où l’on crée des cellules à partir d’une soupe primitive fictive.
Lem est revenu plusieurs fois à des idées liées à la nanotechnologie, y compris dans son dernier roman, Peace on Earth. Personnellement, je trouve Peace meilleur, plus drôle, et même plus adapté comme introduction à Lem qu’Invincible.
Les « mouches » sont agencées pour remplir diverses fonctions, mais à part cela elles n’ont absolument aucune agentivité.
Quand j’étais enfant, j’adorais vraiment lire Lem
J’aimais particulièrement la nouvelle Automatthew's Friend. Même si elle a été écrite il y a plusieurs décennies, l’idée d’un robot « ami » utile vivant dans l’oreille me semblait tout à fait susceptible de se produire de mon vivant
Puis, des décennies plus tard, en utilisant Siri avec des AirPods, j’ai eu une prise de conscience saisissante. Je vivais ici et maintenant dans la science-fiction, j’étais arrivé dans ce monde futur sans presque m’en rendre compte
Je recommande vivement cette histoire. Elle imagine les effets de l’introduction de technologies « personnelles » dans nos vies. Mais ce qui me met vraiment mal à l’aise, c’est de n’avoir réalisé ce qui se passait qu’après m’être littéralement mis un robot parlant dans l’oreille. Des technologies personnalisées du même ordre se sont déjà répandues partout : PC, téléphones portables, téléviseurs, réfrigérateurs, systèmes audio, montres, serrures de porte, ampoules, etc. Nous intégrons CPU, interfaces réseau et identifiants dans tous ces objets comme si c’était la chose la plus naturelle du monde, sans nous arrêter pour réfléchir à l’effet que cela a sur nous-mêmes.