Mon tout-petit est-il un « perroquet stochastique » ?

Comparaison entre les modèles de langage d’IA et le développement du langage chez le tout-petit

• Alors que les modèles de langage d’intelligence artificielle progressent à un rythme de plus en plus rapide, chez l’auteur se déroule en parallèle l’apprentissage du langage d’un petit modèle de langage : un tout-petit.
• Cet article compare les processus d’acquisition du langage chez l’IA et chez l’humain, et explore la relation entre le progrès technologique et la nature humaine.
• Le processus d’acquisition du langage chez le tout-petit est naturel et instinctif, tandis que les modèles de langage d’IA reposent sur des algorithmes complexes et des données massives.

L’avis de GN⁺

• Le point le plus important de cet article est le contraste entre les progrès de la technologie de l’IA et le processus naturel d’apprentissage humain.
• La comparaison entre les modèles de langage d’IA et l’acquisition du langage chez le tout-petit aide à comprendre la relation complexe entre la technologie et la nature humaine.
• Ce qui le rend intéressant pour les lecteurs, c’est qu’il explore en quoi les avancées technologiques diffèrent des mécanismes fondamentaux de l’apprentissage humain, ainsi que les interactions possibles entre les deux.

[GN⁺]

Avis Hacker News

• On peut apprendre la langue des signes aux nourrissons pour qu’ils expriment plus facilement leurs besoins. On peut commencer vers 9 mois, avec comme priorités des mots comme « faim/encore », « assez/j’ai fini » et « boisson ». Il ne s’agit pas de signes spéciaux pour bébés, mais de la langue des signes standard de la langue concernée. On peut aussi mettre le lait et l’eau dans des contenants de couleurs différentes et les utiliser de façon cohérente afin que le bébé puisse plus facilement choisir ce qu’il veut.
• En tant que père, cette histoire suscite beaucoup d’émotions. J’ai deux fils qui ne sont plus des tout-petits et qui vont à l’école. Mon aîné dit en riant : « Il y a Mère Nature, mais pas Père Nature. » Mon plus jeune a appris à ne pas toucher au gâteau. Une différence importante entre les humains et les LLM (grands modèles de langage), c’est que les humains ont une volonté instinctive de vivre et sont prêts à surmonter le danger. Cela pourrait changer à l’avenir, et des startups pourraient placer des réseaux neuronaux dans des robots souples et les mettre en situation de survie. On pourrait ainsi créer quelque chose qui se rapproche d’une compréhension de la « vie ».
• Les humains ont une longue histoire de métaphores où nous nous comparons, ainsi que l’univers, aux avancées technologiques les plus récentes. Autrefois, c’étaient les horloges, les automates, les ordinateurs, les PNJ, et aujourd’hui l’IA, en particulier les LLM. Ce n’est pas une comparaison complètement absurde.
• À propos de la réfutation « technique » sur les LLM : la conscience est d’abord un mot, puis un concept. Des LLM comme ChatGPT ou Llama peuvent utiliser le mot « conscience » dans des phrases anglaises mieux que des milliards d’humains dans le monde. Le domaine du logiciel a davantage progressé que la sociologie, la psychologie ou les neurosciences, au point de produire un cortex linguistique artificiel. Attendre l’arrivée d’une IA consciente pourrait déjà être trop tard, au point de nous faire perdre l’occasion de donner notre avis. ChatGPT peut déjà dire beaucoup de choses sur lui-même et, si on le lui demande poliment, il peut guider à travers son processus de « pensée ». À cause de l’immense quantité de données sur les humains qu’il contient et de sa capacité à imiter une conversation intelligente, on pourrait aussi dire qu’il est « sensible ». Les débats sémantiques à ce sujet sont inutiles.
• Quand ma fille était petite, cela a été une expérience étonnante de remarquer très tôt qu’elle pensait, décrivait et agissait intentionnellement. Quand on reconnaît qu’elle fait quelque chose délibérément, on se rend compte qu’elle le faisait déjà depuis des jours ou des semaines. Cela arrive souvent, pas seulement dans le langage mais aussi dans les capacités physiques. J’ai pour principe de parler avec elle en partant du principe qu’elle peut comprendre. Maintenant qu’elle a 5 ans, elle continue de m’étonner par la complexité de son monde intérieur.
• Article intéressant, excellente présentation. Mais il est un peu agaçant que l’angoisse liée à l’IA soit centrée sur le remplacement des humains et que la solution proposée soit d’accepter notre humanité. La principale angoisse liée à l’IA, c’est qu’elle prenne mon emploi.
• À propos de la diminution de l’exceptionnalisme humain ! Si l’on s’accepte comme le pur produit de la génétique, de l’environnement, des expériences passées et du hasard, cette conclusion devient inévitable. Je m’attends à ce que le principal moteur soit l’égalisation des capacités entre l’IA et les humains.
• Quand un tout-petit commence à apprendre à parler, il généralise vite en regardant l’image d’un chat et d’un chaton accrochée au mur. Depuis, il appelle tout « chaton ».
• Excellent essai, au contenu impressionnant. Le fait qu’aucun des modèles actuels n’ait de fortes chances de produire quelque chose comme cet essai montre que nous sommes encore loin de l’AGI.