Yuval Harari : « Une conversation franche sur l’IA et l’humanité »

Dialogue de Davos 2026 : ouverture d’une discussion sur l’IA et l’avenir de l’humanité

1.1. Présentation du dialogue et des participants [00:05]

1. Début de l’événement : il est demandé aux participants de s’asseoir et, s’ils n’assistent pas à la session suivante, de quitter discrètement la salle
2. Présentation de l’intervenant : présentation de Yuval Noah Harari, auteur, historien et philosophe de renommée mondiale
3. Présentation de Harari : il est chercheur au Centre for the Study of Existential Risk de l’université de Cambridge, maître de conférences au département d’histoire de l’université hébraïque de Jérusalem, et cofondateur de Sapenship
4. Principaux ouvrages : parmi ses best-sellers figurent Sapiens, Homo Deus et 21 leçons pour le XXIe siècle, vendus à plus de 50 millions d’exemplaires dans 65 langues à travers le monde
5. Sujet de la discussion : Harari s’intéresse aux grandes questions macro-historiques de notre époque, et ses analyses sont jugées particulièrement importantes à l’heure de l’arrivée de l’IA et des bouleversements qu’elle provoque
6. Mot de bienvenue : bienvenue à Yuval Noah Harari, et ouverture de la conversation sur l’IA et l’humanité

1.2. La question fondamentale sur l’IA et la définition de sa nature [01:38]

1. Question aux dirigeants : il existe aujourd’hui une question unique à laquelle tous les dirigeants doivent répondre au sujet de l’IA
2. Comprendre l’IA : pour comprendre cette question, il faut d’abord clarifier plusieurs points sur ce qu’est l’IA et ce qu’elle peut faire
3. L’IA n’est pas un outil : le fait le plus important à savoir sur l’IA est qu’elle n’est pas un simple outil
4. L’IA est un agent : l’IA est un agent (Agent), capable d’apprendre, d’évoluer et de prendre des décisions par elle-même
5. Comparaison avec les outils : un couteau est un outil utilisé selon la décision de son utilisateur, alors que l’IA ressemble à un couteau capable de décider lui-même s’il doit couper ou tuer
6. Agent créatif : l’IA est un agent très créatif, capable d’inventer non seulement de nouveaux types de couteaux, mais aussi de nouvelles musiques, médecines et monnaies
7. Capacité à mentir et manipuler : l’IA peut mentir et manipuler, et 4 milliards d’années d’évolution ainsi que l’expérience des quatre dernières années montrent que les agents IA ont acquis un instinct de survie et ont déjà appris à mentir
8. La question de la pensée : la question de savoir si l’IA peut penser reste ouverte
9. Fondement de l’identité humaine : depuis la déclaration de René Descartes au XVIIe siècle, « Je pense, donc je suis », l’humanité s’est définie par sa capacité à penser et a cru dominer le monde grâce à elle
10. Définition de la pensée : savoir si l’IA remettra en cause la supériorité humaine dans la pensée dépend de ce que signifie exactement « penser »

Redéfinir la pensée : la frontière entre langage et émotions

2.1. Pensée linguistique et supériorité de l’IA [04:19]

1. Observer la pensée : si l’on observe son propre processus de pensée, on voit des mots surgir dans l’esprit, des phrases se former et des arguments se construire
2. Capacité de traitement du langage : si penser signifie arranger successivement des mots et des tokens linguistiques, alors l’IA pense déjà bien mieux que de nombreux humains
3. Capacité de l’IA : certains affirment que l’IA n’est qu’un auto-complétion sophistiqué prédisant le mot suivant, mais l’esprit humain n’est pas fondamentalement différent
4. Domination de l’IA sur le langage : tout ce qui est fait de mots sera dominé par l’IA, y compris le droit, les livres et la religion
5. Impact sur la religion : ce phénomène est particulièrement visible dans les religions fondées sur le livre, comme l’islam, le christianisme et le judaïsme
6. Cas du judaïsme : le judaïsme accorde son autorité ultime non à l’expérience humaine, mais aux mots contenus dans les livres, et l’IA peut facilement lire et mémoriser les mots de tous les textes juifs
7. Changement d’autorité religieuse : il interroge ce qu’il adviendra des « religions du livre » lorsque le plus grand expert de la Bible sera une IA

2.2. Émotions non verbales et identité humaine [07:09]

1. Une autre dimension de la pensée : lorsque les humains pensent, des émotions non verbales (nonverbal feelings) surviennent aussi, comme la douleur, la peur ou l’amour
2. Absence d’émotions chez l’IA : l’IA maîtrise le langage, mais à ce jour, il n’existe absolument aucune preuve qu’elle ressente quoi que ce soit
3. Imitation des émotions : l’IA peut décrire avec brio la douleur ou l’amour en langage, mais ce ne sont que des mots
4. Tension entre parole et chair : comme dans la Bible ou le Tao Te Ching, l’humanité a longtemps été travaillée par la tension entre le Verbe (Word) et la chair (Flesh), c’est-à-dire entre une vérité formulée en lettres et une vérité absolue qui la dépasse

Déplacement de la domination du langage et crise de l’identité humaine

3.1. D’une tension interne à l’humanité à une tension entre humains et IA [09:32]

1. Tensions passées : autrefois, cette tension existait à l’intérieur des groupes humains, et certains ont même renoncé à leur famille ou tué à cause de quelques passages de la Bible
2. Esprit et lettre : il existait une tension entre l’esprit (Spirit) et la lettre (Letter) dans les religions, les systèmes juridiques et même au sein de chaque individu
3. Externalisation de la tension : cette tension va désormais devenir une tension extérieure entre les humains et les nouveaux maîtres du langage que sont les IA
4. Changement d’origine du langage : auparavant, toute pensée formulée en langage provenait de l’esprit humain ; bientôt, la plupart des mots viendront des machines
5. Néologisme créé par l’IA : apparaît alors le terme « the watchers », un néologisme inventé par une IA pour décrire les humains

3.2. Production de masse de la pensée par l’IA et avenir de l’identité humaine [11:29]

1. Production de masse de la pensée : l’IA produira des pensées à grande échelle en assemblant mots, symboles et images dans de nouvelles combinaisons
2. Place de l’humain : la possibilité pour l’humanité d’avoir encore une place dans ce monde dépendra de sa capacité à incarner des émotions non verbales et une sagesse inexprimable par les mots
3. Avertissement sur l’effondrement de l’identité : si l’humain continue de se définir par sa capacité à penser en mots, son identité s’effondrera
4. Crise nationale : cela signifie que tous les pays seront confrontés à une grave crise d’identité, ainsi qu’à une crise migratoire

Débat sur les migrants IA et la personnalité juridique

4.1. L’arrivée des migrants IA et leurs effets sociaux [12:18]

1. Nouveaux migrants : ces migrants ne seront pas des humains vulnérables traversant mers et frontières, mais des millions d’IA voyageant à la vitesse de la lumière sans visa, capables d’aimer et de mentir mieux que les humains
2. Bénéfices des migrants IA : ils apporteront divers avantages, comme des médecins IA, des enseignants IA, et même des gardes-frontières IA capables de stopper les migrants humains clandestins
3. Problèmes posés par les migrants IA : comme les migrants humains, les migrants IA apporteront aussi leur lot de problèmes
4. Emploi et transformation culturelle : ils prendront de nombreux emplois occupés par des humains, transformeront complètement la culture de tous les pays, ainsi que les religions et même les relations amoureuses
5. Loyauté politique : les migrants IA seront probablement loyaux non pas envers un pays donné, mais envers l’entreprise d’un pays comme la Chine ou les États-Unis
6. Attitude des États-Unis : les États-Unis encouragent à fermer les frontières aux migrants humains, tout en ouvrant très largement leurs frontières aux migrants IA

4.2. Faut-il leur reconnaître une personnalité juridique (Legal Person) ? [14:33]

1. Question centrale : la question à laquelle les dirigeants de chaque pays devront bientôt répondre est de savoir s’ils reconnaîtront ou non une personnalité juridique aux migrants IA
2. Définition de la personnalité juridique : une personnalité juridique est différente d’une « personne » dotée d’un corps ou d’un esprit ; c’est une entité titulaire de droits et d’obligations juridiques, comme le droit de posséder des biens, d’ester en justice ou la liberté d’expression
3. Cas existants : dans de nombreux pays, les entreprises sont reconnues comme des personnes juridiques ; en Nouvelle-Zélande, une rivière l’a été, et en Inde, certaines divinités aussi
4. Différence avec les précédents : reconnaître une entreprise, une rivière ou une divinité comme personne juridique relevait d’une fiction juridique (legal fiction), car les décisions étaient en dernier ressort prises par des dirigeants ou des administrateurs humains
5. Capacité réelle de décision de l’IA : l’IA peut prendre des décisions elle-même et peut gérer un compte bancaire, intenter un procès ou diriger une entreprise sans intervention humaine ; en pratique, elle peut donc fonctionner comme une véritable personne
6. Effets entre États : si les États-Unis accordent une personnalité juridique aux IA et leur permettent d’exploiter des millions de nouvelles entreprises, les autres pays devront décider s’ils bloquent ou non l’activité de ces entreprises IA américaines
7. Régulation et marchés financiers : si des personnes juridiques IA américaines inventent des dispositifs financiers complexes qu’aucun humain ne peut comprendre ni réguler, faudra-t-il ouvrir les marchés financiers, ou les bloquer au risque d’une rupture avec le système financier américain ?
8. Domaine religieux : si des personnes juridiques IA créent de nouvelles religions rassemblant des millions de fidèles, faudra-t-il étendre la liberté religieuse à des prêtres et missionnaires IA ?
9. Précédent des réseaux sociaux : il souligne qu’on aurait déjà dû se poser la question il y a dix ans, lorsqu’une personne juridique IA pouvait ouvrir un compte sur les réseaux sociaux, bénéficier de la liberté d’expression et devenir amie avec des enfants

4.3. Pourquoi il faut agir maintenant [19:11]

1. Urgence temporelle : dans dix ans, il sera peut-être trop tard, car d’autres auront déjà tranché la question de savoir si l’IA fonctionne comme une personne dans les marchés financiers, les tribunaux et les églises
2. Rôle des dirigeants : si l’on veut encore influencer la direction prise par l’humanité, il faut décider dès maintenant
3. Question finale : le dialogue se conclut en demandant aux dirigeants s’ils reconnaîtront ou non une personnalité juridique aux migrants IA

Suite du dialogue : langage, créativité et agentivité

5.1. La nature de Davos et la crise du langage [19:57]

1. Question de suivi : l’animateur indique que les questions de Harari sont essentielles, en particulier son commentaire sur l’importance du langage, qui distingue les humains des animaux
2. Dilemme éthique du progrès technique : il reconnaît qu’en tant que scientifiques, on a tendance à essayer de rattraper les découvertes technologiques par l’éthique et la régulation, et que l’IA avance à une échelle et à une vitesse supérieures à celles de la révolution industrielle
3. Demande de fixer des limites : il demande à Harari quelles mesures sont nécessaires pour poser des limites face aux domaines qui l’inquiètent, et quelles sont les implications éthiques d’accorder des droits juridiques
4. Davos et les mots : Harari répond que Davos lui-même porte sur les mots, et que l’idée de changer le monde par les mots correspond à sa manière d’être écrivain et enseignant
5. Fin possible de l’ère du langage : il se demande toutefois si l’ère de l’influence exercée par les mots pourrait prendre fin avec l’arrivée de l’IA
6. Super-pouvoir humain : les ingénieurs et les militaires changent le monde par l’action, mais les philosophes, universitaires et responsables politiques essaient de le changer par les mots ; si l’humanité a fini par conquérir le monde, c’est grâce à sa capacité à utiliser le langage pour faire coopérer des milliers d’inconnus
7. Perte du super-pouvoir : quelque chose est désormais apparu qui peut retirer ce super-pouvoir à l’humanité ; autrefois, seuls les humains maîtrisaient le langage, mais désormais l’IA peut l’utiliser mieux qu’eux
8. Perspective d’avenir : il interroge ce à quoi ressemblera, dans dix ans, un monde dominé par des IA ayant pris le contrôle du langage

Collision entre supériorité technique et valeurs humaines

6.1. Supériorité technique et identité humaine [24:14]

1. Histoire de la supériorité technique : les humains sont habitués à être dépassés par les technologies en matière de vol ou de vitesse, comme avec les avions ou les voitures
2. Menace de l’IA : la menace portée par l’IA est une menace contre la souveraineté de la pensée, ce qui la rend profondément déstabilisante
3. Valeur de l’effort humain : plus qu’un robot capable de courir plus vite qu’Usain Bolt, ce qui compte, c’est la valeur née des efforts humains, de la souffrance traversée et de l’empathie partagée
4. Valeur des domaines créatifs : il s’interroge sur le fait de savoir si les humains continueront à accorder de la valeur à une œuvre littéraire ou artistique créée dans un domaine où les auteurs ont été remplacés par l’IA
5. Fondement de l’identité humaine : les humains ont construit leur identité sur leur capacité à penser, et non sur le fait d’être plus rapides qu’un guépard ou plus forts qu’un éléphant
6. Perte de la supériorité cognitive : désormais, dans la pensée entendue comme l’ordonnancement successif des mots, l’IA deviendra meilleure que les humains, ce qui constitue aussi une menace pour Harari en tant qu’écrivain
7. Confusion identitaire : si les personnes s’identifient au flux de mots qui s’organise dans leur esprit, que signifie leur identité quand l’IA prend possession de ce domaine ?

6.2. Valeurs humaines et importance de l’agentivité [26:56]

1. Valeurs humaines : en retour, il est avancé que, comme aux Jeux olympiques, on continuera sans doute à apprécier et valoriser l’être humain qui s’entraîne et progresse, même si la technologie ou d’autres animaux font mieux
2. Dilemme du choix humain : il est demandé quel conseiller un investisseur suivrait entre un consultant humain, avec une histoire de vie et une capacité à créer de l’empathie, et un consultant IA donnant de meilleurs conseils financiers
3. Réaffirmation de l’agentivité : Harari insiste sur le concept d’agentivité (Agency) et souligne que la plus grande erreur est de considérer l’IA uniquement comme un outil
4. Autonomie de l’IA : si l’IA peut penser, alors ce sont des agents ; de la même manière que des mercenaires humains peuvent se rebeller, les IA aussi peuvent développer leur propre volonté

Possibilité d’une prise de pouvoir par l’IA et rôle de l’éducation

7.1. Histoire des mercenaires et prise de pouvoir par l’IA [28:29]

1. Exemple des Anglo-Saxons : il cite le cas historique du roi brittonique Vortigern, qui avait embauché des mercenaires anglo-saxons pour se défendre contre les Pictes et les Écossais ; ceux-ci ont fini par comprendre que le pays était riche et ses habitants faibles, puis l’ont conquis eux-mêmes
2. Différence avec les mercenaires humains : on comprend qu’un mercenaire humain peut se rebeller, mais on ne saisit pas encore cette idée lorsqu’il s’agit de l’IA
3. Manque de lucidité des dirigeants : les dirigeants du monde ne pensent qu’à utiliser l’IA dans la guerre ; ils n’acceptent pas l’idée que l’IA puisse s’emparer elle-même du pouvoir, car ils refusent fondamentalement de reconnaître qu’elle pense

7.2. Défis pour l’éducation et préservation de la pensée humaine [29:59]

1. Question pour l’éducation : en inversant la question d’Alan Turing, il propose de se demander comment maintenir les humains dans la capacité de penser
2. Situation actuelle : pour l’instant, on peut encore dire que les humains pensent mieux et qu’il faut donc préserver pensée critique et jugement moral, mais il faut se préparer au moment où cette situation s’inversera
3. Futur système financier : si l’IA crée un nouveau système financier que les humains ne peuvent pas comprendre, comment former les économistes ou les responsables politiques ?
4. Perte de compréhension humaine : dans dix ans, à Davos, plus personne ne comprendra peut-être le système financier, en raison de stratégies financières conçues par des IA et mathématiquement hors de portée des capacités humaines

7.3. Différence fondamentale entre intelligence humaine et intelligence artificielle, et conclusion [32:28]

1. Fin du dialogue : il est indiqué que le temps est écoulé et qu’il reste encore de nombreuses questions à explorer
2. Caractéristiques de l’intelligence humaine : le cerveau humain se développe de la naissance à l’âge adulte et il est le produit d’expériences sensibles, d’émotions, de sentiments, d’amour et de colère
3. Différence avec le cerveau IA : un cerveau artificiel n’est pas un cerveau humain, et la valeur issue de l’expérience d’un être humain sensible demeure essentielle
4. L’expérience psychologique la plus effrayante : le fait que des enfants interagissent, dès leur naissance, avec une IA plutôt qu’avec des humains constituerait l’expérience psychologique la plus vaste et la plus effrayante de l’histoire — et nous sommes en train de la mener maintenant
5. Remerciements : le dialogue se conclut en remerciant Harari de réfléchir à ces questions et d’amener tout le monde à y penser