L’AGI n’est pas un jalon

■ Introduction

• L’AGI (intelligence artificielle générale) n’a pas de définition claire et, en pratique, il n’existe pas de seuil précis.
• Considérer l’AGI comme un jalon technique ou politique conduit à des malentendus, et une simple déclaration n’a pas d’effet concret.
• L’impact réel de l’AGI sur le monde ne dépend pas du modèle lui-même, mais de la manière dont il se diffuse dans la société.

---

■ Développement

• L’impact économique dépend de la vitesse de diffusion : une percée technique seule ne provoque pas de choc économique ; il faut un processus de diffusion qui peut prendre des décennies.
• La compétitivité des États dépend de leur capacité de diffusion : plus que la course aux armements de l’IA, ce sont l’infrastructure numérique et la formation des talents d’un pays qui comptent.
• Les effets économiques de long terme de l’AGI restent incertains : au-delà de la technologie, des goulets d’étranglement culturels, institutionnels et politiques limitent aussi la croissance.
• Capacité et pouvoir sont deux choses différentes : les discours sur les risques de l’AGI résultent d’une confusion entre les capacités du système (capability) et le pouvoir (power) que nous l’autorisons à exercer.
• Le passage à la superintelligence n’est pas garanti : même si une IA capable d’auto-amélioration devient possible, les progrès se diffuseront à un rythme humain, sans changement immédiat.
• Toutes les définitions de l’AGI posent problème : les définitions fondées sur les résultats, la structure interne ou les benchmarks manquent toutes de pouvoir prédictif et d’utilité pratique.
• Les entreprises et les pouvoirs publics doivent adopter une vision de long terme : une « déclaration d’AGI » ne peut pas servir de critère concret pour les opérations d’entreprise, les décisions publiques ou la réponse réglementaire.
• Les politiques publiques doivent se concentrer sur l’accélération de la diffusion : plus que le développement de la technologie en soi, ce qui importe est de mettre en place des politiques qui la relient à de vrais produits et à une valeur sociale réelle.

---

■ Conclusion (3 points)

• L’AGI n’est ni un moment précis ni un saut technologique, mais une partie d’un changement lent et progressif.
• Les déclarations sur l’AGI sont faciles à surmédiatiser ; les entreprises comme les gouvernements devraient davantage se concentrer sur les effets concrets et les trajectoires de diffusion.
• L’influence de l’intelligence artificielle ne se concrétise pas par « une seule machine », mais par une multitude de politiques et de choix sociaux.

---

■ Arguments en réponse

• Des modèles comme o3 réalisent déjà diverses tâches — usage d’outils, navigation web, exécution de code — à un niveau qui dépasse l’humain, et se rapprochent donc concrètement de la définition de l’AGI.
• Les capacités de l’IA s’accumulent de manière continue, mais un « point de bascule » produisant un saut qualitatif peut bel et bien exister.
• Si l’AGI rend possible l’auto-amélioration, certaines conditions structurelles permettant d’aboutir rapidement à une superintelligence sont déjà partiellement réunies.
• Indépendamment de l’arrivée ou non de l’AGI, se préparer à l’avance sur le plan des politiques publiques et de la régulation constitue une stratégie réaliste de gestion des risques.
• Même si la diffusion de l’IA est lente, des changements brusques peuvent survenir dans certains secteurs ou métiers en raison d’une automatisation rapide.
• La « distinction entre capacité (capability) et pouvoir (power) » n’est peut-être que théorique : dans la pratique, de nombreux systèmes d’IA sont déjà déployés avec un pouvoir d’exécution.
• Faute de critères clairs dans le monde réel, une définition de l’AGI fondée sur les benchmarks peut encore servir d’indicateur d’évaluation valable.
• Les déclarations d’AGI des entreprises ont des effets réels sur la valorisation de marché, la levée de fonds et l’attraction des talents ; on ne peut donc pas dire qu’elles soient dénuées de sens en elles-mêmes.