- L’idée selon laquelle la valeur économique de l’IA sera principalement créée par l’automatisation de la recherche et développement (R&D) est largement répandue
- Dario Amodei affirme que l’IA aura un effet positif sur la R&D en biologie, en neurosciences et en économie
- Demis Hassabis explique que l’IA contribuera à la société via la R&D, notamment en guérissant toutes les maladies et en résolvant les problèmes énergétiques
- Sam Altman mentionne que l’IA peut affecter tous les secteurs comme les semi-conducteurs, mais que son impact le plus important concernera le progrès scientifique
- La R&D contribue à la croissance économique de long terme, mais sa contribution est surestimée
- Selon le Bureau of Labor Statistics (BLS) des États-Unis, les dépenses privées de R&D n’ont représenté que 0,2 % par an de la croissance de la productivité totale des facteurs (TFP) entre 1988 et 2022
- Les dépenses publiques de R&D représentent environ 25 % des dépenses totales de R&D, et la contribution totale de la R&D à la croissance de la TFP est d’environ 0,4 % par an
- Seulement 20 % environ de la croissance de la productivité du travail provient de la R&D, le reste venant de l’accumulation du capital, de l’amélioration du management, des effets d’apprentissage, etc.
- La plupart des tâches de R&D exigent des capacités complexes plutôt qu’un simple raisonnement logique
- Exemples : agentivité, capacités multimodales, cohérence à long terme, etc.
- Un niveau d’IA capable d’automatiser complètement le travail des chercheurs impliquerait aussi la possibilité d’automatiser la plupart des autres secteurs de l’économie → potentiel de création de valeur économique bien plus important
La principale valeur économique de l’IA viendra d’une automatisation généralisée du travail
- Deux affirmations sur la valeur économique de l’IA
- ✅ L’automatisation de la R&D pourrait augmenter la croissance économique annuelle de plusieurs points de pourcentage
- Si une technologie peut automatiser complètement la R&D, elle peut créer une valeur économique substantielle
- Elle a de fortes chances de contribuer de manière significative à la croissance économique
- ❌ La plus grande valeur économique de l’IA viendra de l’automatisation de la R&D
- La R&D est précieuse, mais elle ne sera probablement pas le moteur central de la croissance économique liée à l’IA
- Même après que l’IA aura dépassé les performances humaines, il est peu probable que l’automatisation de la R&D soit la source de valeur économique la plus importante
- Mesure de la valeur économique réelle de la R&D
- Selon les données du Bureau of Labor Statistics (BLS) des États-Unis :
- Croissance de la productivité totale des facteurs (TFP) entre 1988 et 2022 : 0,8 % par an
- Contribution de la R&D privée : 0,2 % par an → environ 25 % de la croissance totale de la TFP
- Croissance de la productivité du travail : 1,9 % par an → la contribution de la R&D n’est que d’environ 20 %
- Les dépenses publiques de R&D représentent environ 25 % des dépenses totales de R&D
- Les effets externes de la R&D publique et ceux de la R&D privée se compensent
- Au final, la contribution totale de la R&D se situe autour de 0,4 % par an
- Relation entre accumulation du capital et croissance de la productivité
- L’accumulation du capital représente environ 50 % de la croissance de la productivité du travail
- Le reste de la croissance provient de l’amélioration du management, des effets d’apprentissage, de la diffusion des connaissances, etc.
- Dans l’économie américaine, le rapport entre accumulation du capital et investissement en R&D est le suivant :
- Investissement annuel en capital : 5 000 milliards de dollars
- Investissement annuel privé en R&D : 1 000 milliards de dollars
- L’investissement en capital est environ 5 fois supérieur à l’investissement en R&D
- L’élasticité de la production par rapport au travail (0,6) est environ 5 fois plus élevée que celle de la R&D
- L’automatisation du travail a donc le potentiel d’apporter une contribution économique plus importante
- Automatiser le poste de coût le plus important de l’économie actuelle (le travail) permet de maximiser la valeur économique
- La production excédentaire générée par l’automatisation du travail peut ensuite être réinvestie en capital pour stimuler davantage la croissance
- Certains soutiennent aussi que l’effet de croissance de la R&D a été sous-estimé
- Les effets externes de la R&D ou les frictions liées à la recherche en doublon n’ont peut-être pas été pris en compte
- Mais selon l’étude de Bloom et al. (2020) :
- L’élasticité de la production par rapport à l’investissement en R&D est de 0,3, similaire à celle du capital et seulement la moitié de celle du travail
- En conclusion, la croissance économique actuelle provient principalement d’autres facteurs que la R&D
L’automatisation de la seule R&D IA ne suffira probablement pas à accélérer drastiquement le progrès de l’IA
- La valeur économique de la R&D en IA n’est peut-être pas aussi grande qu’attendu, mais si l’IA automatisait sa propre R&D, l’impact pourrait être important
- Si l’IA pouvait automatiser son propre processus de R&D logicielle, une software-only singularity pourrait survenir
- Sur la base de ressources de calcul fixes, des chercheurs en IA pourraient améliorer eux-mêmes les algorithmes et ainsi créer davantage de chercheurs en IA, ouvrant la voie à de nouveaux progrès logiciels
- La variable clé est la vitesse à laquelle augmente le coût de découverte des idées
- L’hypothèse selon laquelle de nombreuses avancées en R&D logicielle pourraient être obtenues uniquement par l’effort des chercheurs est essentielle, mais elle est probablement fausse
- Un modèle plus réaliste est celui où les résultats de la recherche proviennent de la complémentarité entre effort cognitif + données
- Aujourd’hui, l’IA connaît une hausse très rapide, de l’ordre de 3 à 4 fois par an, de la puissance de calcul expérimentale et du rythme des progrès logiciels
- Les avancées logicielles reposent sur des données issues de l’expérimentation → les données sont probablement un complément important à l’effort des chercheurs
- Si les deux intrants (effort cognitif + données) sont complémentaires, les ressources de calcul peuvent devenir un goulot d’étranglement
- Il pourrait alors devenir nécessaire d’obtenir et de produire davantage de GPU via du travail physique
- Cela signifie que l’IA devrait être largement déployée dans la chaîne d’approvisionnement des semi-conducteurs et dans l’économie au sens large
- La soutenabilité d’une singularité purement logicielle dépend de la force de cette complémentarité
- Dans les autres secteurs, la complémentarité est généralement forte → il est donc probable qu’elle le soit aussi dans la R&D IA
- Par exemple, selon l’étude de Oberfield et Raval (2014), l’élasticité de substitution entre capital et travail dans l’industrie manufacturière américaine est de 0,7
- Cela suggère qu’une singularité purement logicielle a de fortes chances de s’arrêter à des gains d’efficacité inférieurs à un facteur 1
- À ce jour, ni l’automatisation de la programmation ni celle des équipements de recherche n’ont provoqué d’accélération brutale du progrès scientifique
- Développement de bibliothèques spécialisées → automatisation d’une partie du travail de programmation
- Accélération du codage via des outils LLM → effets seulement partiels
- Automatisation des équipements expérimentaux physiques → seulement des améliorations progressives, sans bond scientifique brutal
L’automatisation complète de la R&D exige des capacités extrêmement larges
- Le travail des scientifiques peut, en apparence, sembler centré sur des tâches de raisonnement abstrait comme la génération d’idées, la formulation d’hypothèses, l’analyse de données, le codage et le raisonnement mathématique
- D’où l’idée qu’un modèle capable de raisonnement abstrait pourrait automatiser rapidement le travail de recherche
- Mais en réalité, le travail des chercheurs requiert des capacités bien plus complexes qu’un simple raisonnement
- Exemple des tâches d’un scientifique médical
- Manipulation de substances toxiques, évaluation des effets des médicaments, conception et conduite d’études sur les maladies, analyse d’échantillons cellulaires, etc. : ces tâches demandent non pas un simple raisonnement, mais des compétences complexes et l’usage d’équipements spécialisés
- Standardisation des doses de médicaments, encadrement des procédures médicales et expérimentales, rédaction d’articles, demandes de subventions de recherche : ces tâches ont une probabilité relativement plus élevée d’être automatisées sur la base du raisonnement
- Parmi les 5 principales tâches d’un scientifique médical, une seule pourrait être automatisée par le seul raisonnement
- Sur l’ensemble des 14 tâches, seules 6 sont jugées automatisables par le seul raisonnement abstrait
- Le cœur du travail de recherche ne réside donc pas dans un simple raisonnement, mais dans un ensemble de capacités complexes comme :
- Manipulation d’équipements techniques → capacité à utiliser des instruments expérimentaux complexes
- Travail d’équipe → capacité à collaborer et à se coordonner avec des équipes de recherche humaines
- Capacité d’exécution sur le long terme → mener des projets complexes sur une longue durée
- Interaction avec l’environnement physique → capacité de manipulation physique dans les expériences et la pratique
- Il faudra probablement beaucoup de temps avant que l’IA acquière toutes les compétences complexes requises pour le travail des chercheurs
- Il est donc probable que l’automatisation du travail général intervienne avant l’automatisation du travail de recherche
- L’hypothèse selon laquelle l’IA réaliserait d’abord des percées scientifiques avant de se diffuser aux autres secteurs semble peu réaliste
- Le scénario plus réaliste est que l’IA commence par automatiser largement le travail, puis accélère ensuite le progrès scientifique et technologique
- Même si l’IA accélère le progrès scientifique, cela se fera probablement moins par remplacement des chercheurs que par l’automatisation de la construction d’infrastructures de recherche
- Comme l’automatisation de la R&D ne représente pas aujourd’hui une part majeure de la croissance économique, l’IA a plus de chances de tirer la croissance de l’automatisation des tâches hors R&D
Le bond de l’IA a de fortes chances d’être large et très visible
- Avant même que l’impact économique et technologique de l’IA ne se matérialise pleinement, l’automatisation par l’IA a de fortes chances d’apparaître sous une forme large et très visible
- Large (Diffuse) → l’automatisation par l’IA ne se limitera pas à quelques métiers de la R&D, mais affectera largement l’ensemble de l’économie
- Visible (Salient) → l’impact de l’IA sera assez important pour être clairement perçu par la plupart des gens, et pourrait provoquer de fortes perturbations sur le marché du travail
-
Le principal effet économique de l’IA viendra non pas de l’automatisation de la R&D, mais d’une automatisation généralisée
- Il est peu probable que l’effet révolutionnaire de l’IA sur le monde vienne d’une automatisation explicite de la R&D
- Ce sont plutôt l’automatisation généralisée du travail qui deviendra le principal moteur du progrès économique et technologique
-
Scénario réaliste du bond de l’IA
- 1. Élargissement du champ des tâches prises en charge par l’IA
- L’IA élargira progressivement l’éventail des tâches qu’elle peut accomplir
- Ce processus sera probablement surtout porté par l’extension de l’infrastructure de calcul
- 2. Progression d’une automatisation généralisée du travail dans toute l’économie
- L’IA automatisera un nombre croissant de tâches de travail variées
- Cela devrait se traduire par une accélération de la croissance économique
- 3. Survenue de grands bouleversements du marché du travail
- Avant même que l’IA ne produise des percées économiques et technologiques, une vague d’automatisation du travail surviendra déjà
- Au cours de ce processus, le marché du travail sera profondément reconfiguré et la perception publique de l’IA évoluera
- 4. L’automatisation généralisée des tâches hors R&D jouera le rôle de principal moteur de la croissance
- Même si l’IA accélère la croissance économique et technologique, cela se produira via l’automatisation des tâches hors R&D
- L’automatisation de la R&D ne représentera probablement qu’une part relativement faible de cette croissance
-
Scénario d’« explosion de l’automatisation générale »
- Le bond de l’IA ne prendra probablement pas la forme de « génies dans des laboratoires produisant une explosion de résultats de R&D »
- Il prendra plutôt la forme d’une explosion d’automatisation généralisée
- Autrement dit, le principal moteur de la croissance ne sera pas la performance d’un domaine particulier, mais l’ampleur et l’étendue globales de l’automatisation par l’IA
Principaux enseignements
- Dans un avenir proche, il sera probablement plus rentable pour les laboratoires d’IA de se concentrer sur l’automatisation des tâches générales
- Exemples : navigation sur Internet, utilisation de logiciels commerciaux, exécution de tâches bureautiques générales
- L’automatisation des tâches générales a probablement un potentiel de création de valeur économique plus élevé que le développement de modèles de raisonnement avancés pour des usages comme l’assistance à la recherche en biologie et en médecine
- Il pourrait donc être plus important, pour évaluer les performances de l’IA, de suivre sa capacité à accomplir des tâches générales plutôt que ses résultats en R&D
- La perception publique de l’IA pourrait fortement évoluer avant même que l’IA n’ait un impact révolutionnaire sur le monde
- Avant l’apparition de résultats comme la croissance économique liée à l’IA ou l’allongement de la durée de vie humaine, il est très probable que de grandes perturbations dues à l’automatisation du travail se produisent déjà
- Il est donc risqué de supposer que la perception publique actuelle de l’IA restera stable sur le long terme
- Il est peu probable que l’IA remplace d’un seul coup l’ensemble des tâches humaines → on peut plutôt s’attendre à une automatisation progressive
- Sur plusieurs années, l’IA automatisera probablement peu à peu le travail humain
- Un scénario de transition progressive est plus réaliste que celui d’une explosion soudaine de superintelligence causée par l’automatisation de la R&D en IA
- Même si l’IA dépasse l’humain sur certaines tâches, il est probable que l’humain conserve un avantage sur d’autres tâches complémentaires
- L’IA finira probablement par surpasser l’humain dans la plupart des activités économiques
- Mais cela devrait plutôt se produire après des décennies d’automatisation progressive
- L’accélération de la croissance économique viendra davantage de l’automatisation des tâches générales que de l’automatisation de la R&D
2 commentaires
https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… Nous testons l’automatisation de la R&D. Ce ne sera pas facile, mais ce n’est sans doute pas pour un futur si lointain.
Avis Hacker News
Je me demande si je suis le seul à trouver l’optimisme technologique franchement déprimant. Au-delà des raisons liées au remplacement des humains par la technologie, je trouve cela déprimant de ne pas pouvoir m’enthousiasmer pour un battage médiatique peu crédible
Il est surprenant que, parmi près de 300 commentaires à ce stade, personne ne mentionne la programmation par contraintes (CP). La CP est le pendant déterministe de l’IA probabiliste fondée sur les données
Cet article perd toute crédibilité à mes yeux à ce stade
Si vous n’avez pas lu ce classique de 2015 sur le déploiement des technologies, cela vaut le détour
L’argument typique de la Silicon Valley consiste à dire que la R&D est « complexe » et que tout le reste est « simple »
Ils débattent de savoir si la R&D ou l’automatisation générale générera le plus de gains. Je me demande bien quel est le sens de ce débat
C’est comme si la révolution industrielle et la révolution agricole se reproduisaient. L’automatisation massive du travail apportera une amélioration du capital, pas une amélioration sociale
C’est une question de valeur relative des facteurs de production. La vraie question est de savoir si l’IA augmentera ou diminuera la valeur relative du travail humain par rapport aux machines, aux matières premières et à la terre
Je suis entièrement d’accord avec cet article, et il existe aujourd’hui beaucoup d’opportunités pour lesquelles le calcul coût/bénéfice n’avait aucun sens auparavant
Les techno-optimistes doivent répondre aux questions que se posent les classes moyennes et populaires