- Explore le concept d’« intelligence », chez l’humain comme dans l’IA, sous un angle philosophique et technique, et en réexamine la définition ainsi que la nature fondamentale
- Définit l’intelligence non comme une simple capacité de calcul, mais comme une capacité générale d’adaptation à l’environnement et de résolution de problèmes
- Compare l’intelligence biologique et l’intelligence artificielle, en présentant la compréhension du contexte et l’orientation vers des objectifs comme des éléments clés
- Explique que les progrès de l’intelligence artificielle jouent le rôle de miroir permettant de mieux comprendre la nature de l’intelligence humaine
- Ces discussions apportent des implications importantes pour redéfinir les orientations de la recherche en IA et une philosophie de conception centrée sur l’humain
Définition et nature de l’intelligence
- Le texte ne considère pas l’intelligence comme un simple traitement de l’information ou une capacité de calcul, mais la définit comme une capacité généralisée à s’adapter à l’environnement et à atteindre des objectifs
- L’intelligence n’est pas une technique permettant de résoudre un problème donné, mais la souplesse qui permet d’apprendre et de résoudre de nouveaux problèmes
- L’intelligence est donc décrite non comme une propriété statique, mais comme un processus dynamique qui évolue selon la situation et le contexte
- Il soutient que l’intelligence humaine est profondément liée à la conscience, aux émotions et aux interactions sociales, et qu’elle ne peut être réduite à un simple calcul algorithmique
- La pensée humaine inclut la définition d’objectifs, les jugements de valeur et le raisonnement fondé sur l’expérience
- Ces éléments sont présentés comme des domaines que les systèmes d’IA actuels ont du mal à imiter
Comparaison entre l’intelligence artificielle et l’intelligence biologique
- L’intelligence artificielle accomplit des tâches spécifiques grâce à un apprentissage de motifs fondé sur les données, tandis que l’humain résout les problèmes à travers une compréhension contextuelle et une interprétation du sens
- L’IA apprend des corrélations statistiques, alors que l’humain perçoit les relations de causalité et la finalité
- Cette différence montre que la nature de l’« intelligence » réside moins dans la vitesse de traitement de l’information que dans la capacité à construire du sens
- L’intelligence biologique s’est formée sous l’effet de pressions évolutives et d’objectifs de survie, tandis que l’intelligence artificielle fonctionne selon des fonctions objectif conçues par l’être humain
- L’« intelligence » de l’IA est donc définie comme une forme artificielle subordonnée à des objectifs externes
- L’intelligence humaine inclut une structure de motivations intrinsèques, comme l’auto-préservation et la coopération sociale
Composantes de l’intelligence et problème de sa mesure
- Le texte présente comme principales composantes de l’intelligence l’apprentissage, le raisonnement, la mémoire, la planification et la créativité
- Ces éléments interagissent et produisent des comportements adaptatifs dans un environnement donné
- Par exemple, la créativité est décrite comme une expression de haut niveau de l’intelligence, qui consiste à recombiner des connaissances existantes pour proposer de nouvelles solutions
- Le texte souligne aussi la difficulté de mesurer l’intelligence
- Le QI ou les tests de benchmark ne mesurent que certains types de capacités de résolution de problèmes et ne reflètent pas la nature complexe de l’intelligence réelle
- Il faut donc, pour évaluer l’intelligence, prendre également en compte l’adaptabilité au contexte et la capacité de généralisation
Les questions philosophiques soulevées par les progrès de l’IA
- Le développement rapide de l’intelligence artificielle remet au premier plan la question fondamentale : « quelle est la nature de l’intelligence ? »
- Plus l’IA imite le langage, la création et le jugement humains, plus il devient nécessaire d’examiner où se situe ce qui est propre à l’intelligence humaine
- Cela dépasse le simple problème technique pour s’étendre à des questions ontologiques et éthiques
- Le texte explique que l’IA joue le rôle de miroir de l’intelligence humaine
- Les limites et les erreurs de l’IA permettent de comprendre plus clairement la structure et les forces de la pensée humaine
- La recherche sur l’IA est ainsi interprétée comme un processus d’élargissement de la compréhension de l’humain
Orientations futures de la recherche sur l’intelligence
- Il souligne que la recherche future sur l’intelligence devra intégrer une conception centrée sur l’humain et des considérations éthiques
- Au-delà des accomplissements techniques, il faut aussi évaluer l’impact de l’intelligence sur la société et sur la vie humaine
- Cela rejoint la question du « value alignment », qui consiste à concevoir des systèmes d’IA reflétant les valeurs et les objectifs humains
- Redéfinir l’intelligence est présenté comme un processus qui renforce les fondements philosophiques du développement de l’IA
- Les avancées techniques peuvent approfondir notre compréhension de l’intelligence humaine et devenir l’occasion de recomposer le sens même de l’intelligence
- En définitive, la recherche sur l’intelligence devrait s’orienter vers l’exploration de la co-évolution entre l’humain et la machine
2 commentaires
Commentaires sur Hacker News
Ce livre donne vraiment l’impression d’avoir besoin d’un éditeur.
Il y a près de 100 titres de chapitres qui semblent avoir été produits par association libre en plein délire, et chaque section ressemble à une tentative artistique de désorienter le lecteur.
Il y a aussi beaucoup de diagrammes complexes et de jargon liés de façon lâche au propos, sans parler du scroll hijacking, ce qui rend la lecture pénible.
Vu que l’ensemble fait 600 pages, la plupart des gens ne le liront probablement pas du début à la fin.
Autrement dit, on amène le lecteur à acquiescer selon la séquence faits vérifiables → vérités évidentes → opinions largement admises → affirmations sans fondement → conclusion banale.
Ce type de structure est souvent utilisé comme technique de persuasion par des gourous de secte ou des orateurs politiques, afin d’y glisser habilement des thèses peu étayées.
Les parties du livre sur la cybernétique et la théorie du calcul sont bien documentées, mais elles n’ont rien d’original et ne s’intègrent pas dans un argument unifié.
Le mélange avec des passages sur la biologie et le cinéma nuit au contraire à la concentration.
L’auteur a manifestement des opinions tranchées sur l’IA, mais semble vouloir les dissimuler dans un sandwich rhétorique plutôt que de les défendre directement.
Références liées : Compliment Sandwich, article History of Computing
Je n’ai pas lu le livre en entier, mais lire Karl Friston ou Andy Clark sur le predictive processing me semblerait plus utile.
Le design de mon site est certes plus confortable à lire, mais la structure bizarre du livre a justement quelque chose d’attachant.
Quand je vois ce style d’écriture ces jours-ci, j’y perçois une ambiguïté délibérée ou une démarche pseudo-sectaire, alors je passe mon chemin.
Impossible d’ignorer 『Universal Artificial Intelligence』 de Marcus Hutter dans cette discussion.
Ce livre propose une définition mathématique de l’intelligence ainsi que les bases de la prise de décision fondée sur les probabilités algorithmiques.
Les limites des technologies d’IA actuelles peuvent aussi s’expliquer dans ce cadre.
J’aimerais surtout savoir si quelqu’un a vraiment lu ce livre.
J’en ai lu environ la moitié, et j’ai trouvé intéressante l’idée selon laquelle l’autoréplication émerge naturellement dans un univers computationnel.
Cela rappelle un peu la vision du monde de Wolfram, mais la tentative de relier plusieurs domaines est stimulante.
C’est une bonne lecture de vulgarisation scientifique.
J’ai particulièrement été marqué par l’idée que « la réplication commence par de mauvaises copies ».
Le processus par lequel un système commence par produire des copies imparfaites, puis s’améliore progressivement jusqu’à parvenir à se répliquer, est fascinant.
Je pense que cette idée s’applique aussi aux startups, aux idées et aux systèmes financiers.
Au passage, il y a un bug dans le code brainfuck de la version en ligne, amusez-vous à le trouver.
Je pense que le sens provient des changements d’état.
Les humains sont des générateurs de sens complexes, et comme l’univers est soumis à l’entropie, notre temps est compté.
En attendant, je nous vois comme des êtres qui rayonnent du sens comme les étoiles rayonnent de la lumière.
Je n’ai pas lu le livre moi-même, mais l’auteur semble soutenir qu’une grande part de l’intelligence humaine peut être reproduite par l’IA.
Autrement dit, il adopte l’idée que des systèmes non vivants peuvent manifester un comportement intelligent.
Mais comme l’IA n’a pas de contexte incarné (embodiment), il est difficile de la considérer comme une intelligence du même type que celle de l’humain.
Pour comprendre l’origine de l’intelligence humaine, 『A Dynamic Systems Approach to the Development of Cognition and Action』 de Ester Thelen est un bon point de départ.
L’ouvrage explique que le développement humain ne procède pas d’un programme génétique, mais de l’interaction entre essais et erreurs.
Au fond, je pense que l’art du soin et de l’éducation est ce qui fait progresser la civilisation.
Le qualificatif « artificielle » établit déjà la distinction.
En revanche, ils n’ont pas de volonté (will). Leurs objectifs ne sont au fond que la volonté du programmeur.
L’attitude de l’auteur, qui dit en substance « ce n’est pas de la philosophie mais une science dans les traces de Turing », donne l’impression de feindre l’humilité tout en méprisant la philosophie.
Sa thèse centrale, selon laquelle « l’imitation est l’intelligence », peut facilement être réfutée par des exemples sociaux.
Par exemple, un acteur peut jouer parfaitement un génie sans être réellement un génie.
Autrement dit, produire des phrases plausibles n’est pas l’essence de l’intelligence.
L’intelligence humaine procède d’un raisonnement fondamental et d’une reconnaissance sensorielle des motifs, des domaines où l’IA n’est toujours pas au niveau.
Même un réseau neuronal simple est un approximateur universel (universal approximator) ; ainsi, qu’il s’agisse d’un cerveau biologique ou artificiel, on peut au fond les voir comme des systèmes qui approximent les fonctions complexes du monde.
L’intelligence n’est pas une simple approximation entrée-sortie, c’est la capacité à apprendre une structure causale, à la simuler et à planifier.
Si les LLM paraissent intelligents, c’est surtout parce qu’ils intègrent des connaissances déjà étendues par l’intelligence humaine.
La vraie question est de savoir s’ils peuvent construire eux-mêmes un modèle causal.
Les LLM actuels sont bons en interpolation, mais faibles en extrapolation.
Les entrées sensorielles arrivent à des rythmes et à des emplacements variés ; en les simplifiant, on risque de perdre des informations importantes.
Dans une interview que j’ai entendue autrefois, il y avait l’hypothèse que le reasoning humain avait évolué non pas pour la pensée logique, mais pour la persuasion sociale.
Autrement dit, nous fabriquons des raisons pour convaincre autrui ou justifier nos actes.
De ce point de vue, je trouve que la structure de la conversation humaine ressemble à la prédiction du prochain token par les LLM.
Il me semble que cela venait de travaux de Hugo Mercier.
Voir Why do humans reason?
Fabriquer des outils et transmettre un savoir exigeaient enseignement et coopération.
Citation connexe : extrait Cambridge
Les LLM, eux, ne manipulent pas des concepts mais seulement des mots.
Le langage n’est qu’un outil créé par l’humain ; les idées et le langage sont deux choses distinctes.
L’idée serait d’augmenter progressivement le nombre de mots prédits par l’autocomplétion d’un smartphone et de mesurer à quel point cela se rapproche d’une conversation humaine.
Ce livre traite de la centralité de la prédiction, de la structure sociale de l’intelligence, de la fonction compressive du langage et des limites des systèmes isolés.
Mais la vraie question est de savoir si une intelligence authentique est possible à partir de purs principes computationnels, ou si elle exige une immanence environnementale.
Pour ma part, je pense que le coût et l’efficacité guident tout apprentissage.
Les systèmes biologiques devant soutenir la génération suivante, l’intelligence devient alors un processus d’exploration optimisé par des pressions économiques.
Article lié : What the Dumpster Teaches
Le simple fait de mesurer la température puis de s’arrêter n’est pas une inférence de buts.
Une véritable intelligence devrait posséder une couche méta lui permettant de réfléchir à ses propres objectifs.
Il existe donc bien une pression de sélection économique, ce n’est pas une structure entièrement différente.
Les humains détestent ce genre de contradictions et essaient donc de préserver une cohérence au moyen d’histoires (story).
Religion, politique, droit, mythes sur l’IA : tout cela constitue des dispositifs narratifs qui atténuent les erreurs collectives de prédiction.
Pourtant, les micro-organismes survivent sans rien de tout cela.
Au fond, l’intelligence n’est peut-être qu’un tourbillon instable d’informations, et non une condition nécessaire au maintien de la vie.
Si la conscience est émergente, alors une intelligence à base de silicium pourrait aussi être possible.
D’après une critique Amazon,
l’idée centrale du livre est l’hypothèse du cerveau prédictif, selon laquelle le cerveau a évolué pour prédire l’avenir.
Le livre affirme aussi que certains systèmes d’IA modernes pourraient posséder intelligence, conscience et libre arbitre.
La définition par la « prédiction » n’est donc qu’une caractéristique provisoire, historiquement contingente.
L’intelligence, c’est ce que nous pensons pouvoir faire nous-mêmes.
Or les ordinateurs deviennent peu à peu capables de faire tout cela.
Au final, l’intelligence humaine n’est peut-être qu’une mise en correspondance de motifs à haut niveau.
Les LLM ne sont pas encore capables de recherche autonome ni de conception de haut niveau.
Ils manquent aussi de la capacité à oublier et de gestion de leur propre contexte.
Une grande partie de l’intelligence humaine existe aussi chez d’autres animaux, mais elle a été accélérée par l’écriture et la fabrication d’outils.
La mise en correspondance de motifs fournit un excellent heuristique : « une corrélation a de bonnes chances d’être causale ».
L’intelligence, c’est la capacité à hacker et à comprendre des systèmes, puis à s’appuyer là-dessus pour accumuler des savoirs plus complexes.
On est partis du feu, de la pierre et du blé, et nous voilà maintenant à parler d’exploration de Mars.