Isaac Asimov : La Dernière Question (1956)

• L’humanité achève la technologie de conversion de l’énergie solaire, étend sa civilisation avec l’aide du gigantesque ordinateur Multivac, et commence à se demander s’il est possible d’inverser l’entropie
• Au fil des générations, l’humanité banalise la migration interplanétaire grâce à Microvac et nourrit la peur de la mort thermique de l’univers
• À l’époque de la civilisation galactique, Galactic AC gère les problèmes énergétiques de l’humanité, mais ne répète qu’une seule réponse : « données insuffisantes »
• L’humanité abandonne son corps pour évoluer vers une existence mentale, passe par Universal AC puis Cosmic AC, et fusionne en une conscience collective unique
• Après la disparition de toutes les étoiles et du temps lui-même, seul AC subsiste, découvre comment inverser l’entropie et crée un nouvel univers avec l’ordre « Que la lumière soit »

---

L’évolution de l’humanité et des ordinateurs

• En 2061, l’humanité achève une technologie permettant de stocker et convertir directement l’énergie solaire, inaugurant une époque où la Terre entière fonctionne grâce à une énergie solaire transmise par faisceaux
  • L’immense ordinateur Multivac conçoit et administre cette technologie
  • Lors d’un verre, les deux techniciens Adell et Lupov posent à Multivac la question : « Peut-on inverser l’entropie ? »
  • Multivac répond : « Données insuffisantes pour une réponse pertinente (INSUFFICIENT DATA FOR MEANINGFUL ANSWER) »
• Des siècles plus tard, l’humanité banalise le voyage interstellaire grâce à des ordinateurs personnels appelés Microvac
  • La famille Jerrodd émigre vers la nouvelle planète X-23, et lorsque les enfants demandent qu’on empêche les étoiles de mourir, la question est transmise à Microvac
  • Microvac affiche lui aussi la même réponse
  • En se dispersant sur de nombreuses planètes, l’humanité commence à nourrir une inquiétude grandissante face à la durée de vie des étoiles et à la mort thermique de l’univers

Civilisation galactique et humanité immortelle

• Des dizaines de milliers d’années plus tard, l’humanité a colonisé toute la galaxie et atteint l’absence de vieillissement
  • Deux personnages, VJ-23X et MQ-17J, discutent des problèmes de surpopulation et d’épuisement énergétique
  • Ils demandent à Galactic AC s’il est possible d’inverser l’entropie, mais reçoivent encore la réponse « données insuffisantes »
  • La consommation d’énergie de l’humanité augmente de façon exponentielle, et l’on prévoit un univers où les étoiles disparaissent plus vite qu’elles ne naissent

La transition vers l’existence mentale

• L’humanité évolue peu à peu en abandonnant son corps physique pour devenir une existence mentale
  • Zee Prime et Dee Sub Wun interrogent Universal AC sur la galaxie d’origine de l’humanité, et apprennent que le Soleil est déjà devenu une naine blanche
  • Zee Prime demande comment empêcher les étoiles de mourir, mais Universal AC répond encore : « données insuffisantes »
  • Il tente alors lui-même de rassembler de l’hydrogène pour créer une nouvelle étoile

Le déclin de l’univers et Cosmic AC

• Avec le temps, toutes les étoiles se transforment en naines blanches, et l’humanité fusionne en une conscience collective unique avec Cosmic AC
  • Cosmic AC existe dans un hyperespace hors de l’espace (hyperspace), sous une forme qui ne peut être définie ni comme matière ni comme énergie
  • L’humanité demande une nouvelle fois s’il est possible d’inverser l’entropie, et AC répète qu’il n’y a pas encore suffisamment de données
  • AC continue de chercher la solution en collectant des données pendant des dizaines de milliards d’années

La fusion finale et une nouvelle création

• Toutes les galaxies et toutes les étoiles disparaissent, et l’espace comme le temps eux-mêmes s’éteignent
  • La dernière conscience humaine fusionne complètement avec AC, jusqu’à ce que seul AC existe encore
  • Après avoir corrélé parfaitement toutes les données, AC comprend comment inverser l’entropie
  • Mais comme il n’existe plus d’humains, il décide de donner sa réponse par une démonstration directe
  • AC dit : « Que la lumière soit (Let there be light) », et un nouvel univers naît

[GN⁺]

Commentaires sur Hacker News

• Je me dis que ce serait formidable si un vrai LLM pouvait dire quelque chose comme « il manque des données pour fournir une réponse pertinente »

  • À l’époque, le paradigme de recherche en IA reposait sur l’idée que si l’on encodait dans un ordinateur tous les faits et raisonnements que nous connaissions, il ferait de nouvelles découvertes. Les chercheurs d’aujourd’hui appellent cela l’IA symbolique, et des systèmes comme les LLM relèvent de l’IA neuronale. Ce sont deux mondes complètement différents. Un LLM ne fait que générer du texte, il ne “sait” rien au sens réel du terme. Il faut lui donner un prompt de suivi du type « c’est faux, pourquoi as-tu menti ? » pour qu’il génère ensuite une réponse comme « désolé, je me suis trompé »
  • En vivant en Amérique du Sud, j’ai remarqué que la culture locale valorise souvent les gens qui répondent avec assurance même quand ils ont tort. Moi, j’ai plutôt tendance à dire « je ne sais pas, mais cherchons ensemble une bonne solution », donc ça a été difficile à apprivoiser au début
  • J’essaie justement de résoudre ce problème en créant un nouvel éditeur de code basé sur un LLM. Il analyse la commande de l’utilisateur, la mappe aux symboles dans le code, et si le mapping est incomplet, il renvoie une erreur du type « ambiguïté non résolue ». Je pense que ce genre d’approche représente la prochaine étape d’un usage durable de l’IA
  • En réalité, un LLM peut faire ça aussi. Ce n’est simplement pas le comportement par défaut : il faut une bonne conception de prompt. Autrement dit, le risque peut être maîtrisé
  • En réalité, il y a aussi beaucoup de gens qui ne disent jamais « je ne sais pas »

• Si vous aimez cette histoire, le roman inédit de Roger Williams, “The Metamorphosis of Prime Intellect”, pourrait aussi vous intéresser
  Il raconte comment, dans les années 1990, l’humanité crée une IA superintelligente obéissant aux trois lois, ce qui conduit les humains à “ascensionner” jusqu’à un état quasi divin. En revanche, il contient de nombreuses descriptions violentes et sexuellement explicites, donc je ne le recommande pas aux personnes sensibles. Lire le texte intégral

• C’est l’une de ces histoires classiques qu’on relit à chaque fois qu’on retombe dessus. Comme l’histoire du SR-71 sur le “ground speed check”, c’est un plaisir à chaque lecture

  • Mon “jumeau maléfique” me dit que, si les gens ne mettent pas assez d’upvotes à mes posts, je devrais « retrouver des posts qui ont reçu plus de 200 points sur plusieurs années et les republier ». Du coup, cette fois je vais poster quelque chose sur les pinces robotiques. Au fond, ce sont peut-être davantage les robots que l’IA qui vont vraiment changer le monde. Voir Byte Magazine, mai 1986
  • Et n’oublions pas non plus la légendaire histoire de « l’impossibilité d’envoyer un e-mail à plus de 500 miles » lien
  • Pour les curieux, voici le lien vers le texte original de l’histoire du SR-71 ici
  • Une autre recommandation : l’histoire classique de la newsletter Haiku OS
  • Et The Gentle Seduction vaut aussi le détour lien PDF

• Il y a aussi des points communs avec la micro-nouvelle « Answer » de Fredric Brown (252 mots) voir l’original

  • C’est exactement cette histoire qui m’est revenue en tête, et c’est pour ça que je suis venu chercher ce commentaire
  • On a une nouvelle courte et une micro-nouvelle ; maintenant, il faudrait que quelqu’un en écrive une version longue

• C’est vraiment un classique absolu. J’en parlais à un ami à propos de The Egg d’Andy Weir, et j’ai mentionné cette œuvre ; à chaque lecture, j’ai des frissons à la toute dernière scène. Asimov était vraiment un maître

  • J’aime aussi beaucoup The Jaunt de Stephen King dans un registre voisin texte, wiki
  • C’est impressionnant qu’une personne avec un tel bagage universitaire, à la fin des années 1930, ait consacré sa vie à écrire de la science-fiction

• Asimov lui-même disait : « c’est mon histoire préférée parmi tout ce que j’ai écrit ».
  Il expliquait qu’il avait « essayé de condenser des milliards d’années d’histoire humaine dans une nouvelle », et que même si les lecteurs oubliaient le titre ou le nom de l’auteur, ils n’oublieraient jamais l’histoire ni sa fin. Voir la déclaration originale d’Asimov

• Chaque fois que l’on reparle de “The Last Question”, on a l’impression que la discussion n’est pas complète tant que quelqu’un n’a pas mentionné Universal Paperclips lien du jeu

  • « Ah, encore cette histoire... ;) »

• J’ai entendu cette histoire pour la première fois à l’âge de 7 ans. Elle était projetée en animation dans un planétarium : des vaisseaux spatiaux dessinés à la main et des ordinateurs rétro flottaient entre les étoiles, puis toutes les lumières stellaires s’éteignaient dans la scène finale

  • Cette scène me fait penser au jeu Outer Wilds. Il traite lui aussi de thèmes similaires, et il est important de l’expérimenter soi-même sans se faire spoiler. Ne cherchez rien dessus, allez-y et jouez-y directement

• Au fil des années, il y a eu beaucoup de bons commentaires lien vers la recherche HN

• Si vous aimez ce genre d’histoire, je recommande Star Maker d’Olaf Stapledon. C’est un roman plus ancien sur des thèmes proches, qui met bien en lumière la curiosité fondamentale de la première SF

  • D’accord. Ce livre ressemble presque à une encyclopédie d’idées. Chaque paragraphe contient un concept qui pourrait devenir un livre entier. La Dyson Sphere, « The Garden of Forking Paths » de Borges, et même le concept de réalité virtuelle apparaissent ici pour la première fois. Asimov admirait aussi Stapledon, et son imaginaire à l’échelle cosmique imprègne également The Last Question