Boom des investissements dans l’IA

L’annonce de Microsoft le mois dernier

• Microsoft est à la fois un investisseur majeur dans OpenAI et son fournisseur de calcul
• Microsoft a annoncé qu’il financerait la remise en service du réacteur 1 de la centrale nucléaire de Three Mile Island
• L’objectif est de répondre à la forte hausse de la demande électrique des data centers
• L’entreprise devient ainsi la deuxième grande société technologique américaine, après Amazon, à s’appuyer sur une centrale nucléaire ancienne

Utilisation actuelle des produits d’IA

• Ils sont largement utilisés pour générer du code, du texte et des images, analyser des données, automatiser des tâches et améliorer des plateformes en ligne
• Les modèles de pointe nécessitent d’énormes ressources de calcul pour l’entraînement et l’inférence
• Ils exigent de vastes ensembles de matériel avancé, hébergés dans des installations à l’échelle industrielle
• Ces installations ont besoin, pour fonctionner, d’un accès à de très grandes quantités d’électricité, d’eau, de bande passante et d’autres infrastructures

Conséquences en aval du boom de l’IA

• Forte hausse de l’investissement fixe aux États-Unis pour répondre à l’augmentation de la demande en calcul
• Des dizaines de milliards de dollars sont investis dans des ordinateurs avancés, des installations de data centers, des centrales électriques, etc.
• La construction de data centers aux États-Unis a atteint un record historique de 28,6 milliards de dollars par an
• Cela représente presque autant que les dépenses américaines cumulées pour la construction de restaurants, de bars et de commerces de détail

L’ampleur des investissements dans les data centers

• Les chiffres de la construction ne concernent que les bâtiments physiques, et excluent les ordinateurs, câbles, ventilateurs, etc.
• Plus de 6,5 milliards de dollars de grands ordinateurs et de composants ont été importés au cours de la dernière année
• Les entreprises des technologies de l’information achètent la majeure partie de ces nouveaux data centers et équipements
• Leurs avoirs nets en biens, usines et équipements ont augmenté de plus de 95 milliards de dollars sur un an, un niveau record

Ce qui a changé par rapport à il y a dix ans

• Facebook a acquis Instagram pour 1,2 milliard de dollars et WhatsApp pour 15 milliards de dollars
• Il s’agissait alors de certaines des plus grosses acquisitions de l’histoire de la tech
• Instagram ne comptait que 13 employés, WhatsApp 55, et tous deux avaient très peu de présence physique
• Aujourd’hui, Meta a dépensé à lui seul 15,2 milliards de dollars en dépenses d’investissement au premier semestre 2024
• Le boom de l’IA est plus intensif en matériel que n’importe quelle vague précédente

L’impact du boom de l’IA sur l’investissement

• Les investissements des entreprises américaines dans les ordinateurs et équipements associés ont bondi à des niveaux records
• Après une stagnation relative pendant toute la décennie 2010, ils ont progressé de 16,6 % au cours de la dernière année
• Seul le boom du télétravail pendant la pandémie a produit une hausse comparable
• Après un léger recul en 2022, l’investissement informatique est reparti fortement à la hausse fin 2023 avec le boom de l’IA

Hausse de la demande de semi-conducteurs pour TSMC

• TSMC est le principal fabricant mondial de semi-conducteurs avancés
• La demande en calcul pour l’IA a entraîné une hausse des importations depuis Taïwan de puces, d’ordinateurs et de composants associés
• Celles-ci ont dépassé 38 milliards de dollars sur un an, en hausse de plus de 140 % par rapport à l’année précédente
• Les importations directes de puces logiques ont progressé depuis un niveau relativement modeste jusqu’à presque 5 milliards de dollars par an
• Les pièces et composants informatiques restent toutefois la première catégorie d’importation

Analyse des données d’investissement jusqu’en 2023

• Les entreprises de traitement de données et de recherche web, comme Amazon/Google, conservent les plus gros niveaux d’investissement dans la tech
• Ce sont les développeurs de logiciels qui enregistrent la croissance d’investissement la plus rapide
• L’investissement réel dans la propriété intellectuelle des éditeurs de logiciels a augmenté de 40 % depuis 2021
• L’investissement réel dans les équipements tels que les ordinateurs a augmenté de 96 %
• Les éditeurs de logiciels sont désormais en concurrence sur leur capacité à construire rapidement des capacités matérielles

Déséquilibres régionaux dans la construction de data centers

• Les data centers doivent être répartis dans une certaine mesure pour répondre aux besoins de mise en réseau et éviter les contraintes d’infrastructure
• Mais les concentrer dans de grands clusters aide à maximiser l’efficacité et à réduire les coûts et la latence
• Les chiffres officiels de construction ne fournissent le détail des dépenses de data centers qu’au niveau régional
• L’activité de construction de data centers est la plus intense dans les clusters historiques du sud des États-Unis
• La croissance a toutefois été bien plus rapide dans l’ensemble des marchés du Midwest et de la côte ouest
• Le nord-est reste pratiquement non affecté

Effet des data centers sur la demande d’électricité

• L’Energy Information Administration (EIA) a relevé à plusieurs reprises ses prévisions de hausse de la charge en raison de la demande des data centers
• Elle prévoit une hausse de 3 % de la consommation électrique du secteur commercial cette année, puis de 1 % l’an prochain
• Les utilisateurs commerciaux restent un moteur plus modeste de la hausse de la consommation que l’électrification résidentielle et la relocalisation industrielle
• Cependant, de 2007 à 2023, la consommation d’électricité du secteur commercial n’a augmenté que de 5 % au total
• Les estimations d’avant l’IA indiquaient que les ordinateurs et équipements de bureau ne représentaient que 11,4 % de la consommation électrique commerciale

Situation de la consommation électrique des data centers par État

• La consommation d’électricité commerciale du Dakota du Nord a augmenté de plus de 45 % depuis l’ouverture d’un grand data center en 2022
• Le Dakota du Nord reste toutefois un marché relativement modeste pour l’électricité et le calcul
• Les plus fortes hausses de demande d’électricité se concentrent dans les grands clusters de data centers comme la Virginie et le Texas
• La consommation énergétique commerciale de la Virginie a progressé de 30 % depuis 2019, soit la plus forte hausse de demande électrique commerciale du pays
• Au Texas, la consommation électrique commerciale a augmenté de 10 % depuis 2019 et une croissance bien plus forte est attendue dans les prochaines années

Tendance des investissements énergétiques des entreprises d’IA

• Les entreprises d’IA cherchent à se concentrer à proximité de grandes ressources électriques
• L’intérêt pour l’énergie nucléaire refait donc surface
• À mesure que les entreprises technologiques développent leurs capacités de calcul, leur volonté d’investir directement dans les infrastructures de production d’énergie grandit
• Le chiffre d’affaires du secteur des technologies de l’information repart à la hausse après le ralentissement de 2022 et 2023
• Les revenus des éditeurs de logiciels, des portails de recherche web et des fournisseurs d’infrastructure de calcul ont augmenté de 12 à 15 % au cours de la dernière année

Faiblesse de l’emploi tech malgré le boom de l’IA

• Les États-Unis n’ont créé que 32 000 emplois technologiques au cours de la dernière année
• C’est moins qu’en 2021, en 2022 ou à n’importe quel moment des neuf années ayant précédé la pandémie
• Même les éditeurs de logiciels et le secteur des infrastructures de calcul, pourtant au cœur du boom de l’IA de pointe, n’ont pas enregistré de véritable hausse d’emploi sur un an
• Le marché de l’emploi atone qui a récemment pénalisé les diplômés en informatique ne s’est pas nettement amélioré

Effets du boom des investissements dans l’IA sur le marché du travail

• La rémunération totale dans l’industrie de fabrication des semi-conducteurs a augmenté de 25 % entre le premier trimestre 2023 et le premier trimestre 2024
• Les salariés d’entreprises comme NVIDIA reçoivent des stock-options devenues bien plus précieuses
• La hausse de 30 000 emplois dans la construction commerciale sur un an reflète l’effet de la demande liée aux data centers
• On observe aussi un boom de l’emploi dans la construction industrielle lié aux usines de semi-conducteurs et à d’autres sites manufacturiers, ainsi qu’une hausse de l’emploi portée par les infrastructures électriques et générales
• Mais jusqu’ici, la dynamique de l’emploi du boom de l’IA diffère fortement de celle du marché du travail tech de la dernière décennie
• L’accent est davantage mis sur l’investissement matériel, les entreprises de fabrication/conception et la construction d’infrastructures que sur les programmeurs traditionnels

La concurrence entre développeurs d’IA et la vision des décideurs publics

• Les développeurs d’IA se livrent une concurrence acharnée, convaincus de pouvoir justifier le niveau actuel des investissements grâce à l’amélioration des produits et à leur commercialisation
• À court terme, les investissements devraient continuer d’augmenter à mesure que des modèles plus avancés sont développés et que l’usage de l’IA s’étend à davantage d’applications concrètes
• Les décideurs politiques considèrent l’IA comme un pilier central de l’économie américaine de demain
• Le développement de l’IA et la capacité des data centers constituent une industrie avancée dans laquelle les États-Unis disposent d’une avance considérable
• Le boom de l’IA a probablement davantage bénéficié à l’investissement américain qu’à celui de tout autre pays

Possible intensification de la concurrence géopolitique autour des capacités matérielles

• Le CHIPS Act visait à réduire la dépendance aux importations taïwanaises, mais la hausse de la demande en semi-conducteurs avancés a au contraire renforcé cette dépendance
• Pour répondre à l’approvisionnement à l’échelle des data centers, les États-Unis restent encore dépendants de la Chine
• Les États-Unis devraient continuer à restreindre l’accès de la Chine aux puces avancées afin de freiner le développement de l’IA chinoise
• La Chine continue de développer ses capacités de fabrication de puces pour réduire sa dépendance aux importations
• Si le boom des investissements dans l’IA se poursuit, cette dynamique devrait encore approfondir l’un des fronts majeurs de la guerre des puces en cours

L’avis de GN⁺

• Dans l’ère de l’IA, disposer d’une compétitivité solide dans les semi-conducteurs est un enjeu crucial
• La demande en semi-conducteurs avancés explose, au point qu’il devient difficile de créer des modèles d’IA compétitifs sans une excellente technologie de puces
• Au-delà du leadership technologique, les capacités dans les semi-conducteurs jouent aussi un rôle important dans la puissance militaire et économique
• La concurrence entre les États-Unis et la Chine dans les semi-conducteurs va s’intensifier, avec une focalisation accrue sur les capacités de production nationales
• La coopération et les échanges commerciaux entre les deux pays pourraient également subir certaines restrictions
• Des efforts sont nécessaires pour réduire la dépendance à un seul pan de la chaîne d’approvisionnement des semi-conducteurs et la diversifier
• Le développement de nouveaux semi-conducteurs avancés exige des investissements massifs en R&D ainsi qu’une main-d’œuvre qualifiée
• Il faut aussi prêter attention au rôle de pays asiatiques comme la Corée du Sud, Taïwan et le Japon
• À long terme, ce domaine devrait devenir un champ central de la rivalité technologique sino-américaine

[GN⁺]

Discussion sur Hacker News

• Un utilisateur s’attend à voir se répéter, dans l’histoire américaine, de grands booms d’investissement en capital comme ceux des chemins de fer, des constructeurs automobiles et de la fibre télécom. Il estime que ces investissements provoqueront au départ la faillite de nombreuses entreprises, mais qu’ils finiront par apporter de grands bénéfices à l’économie et à la société. Il pense notamment que les investissements dans l’énergie contribueront à sortir des énergies fossiles

• Un autre utilisateur affirme qu’il est inapproprié de comparer les chemins de fer aux investissements matériels actuels. Les chemins de fer restent viables sur une longue période, alors que le matériel actuel n’aura plus de valeur dans six ans. Il avertit aussi du risque que les futurs systèmes d’IA ne fonctionnent pas efficacement sur le matériel actuel

• Un autre utilisateur souligne qu’il est contradictoire d’investir massivement des ressources dans les LLM tout en dénonçant la destruction de l’environnement. Selon lui, il faudra au final soit renoncer aux attentes placées dans les LLM, soit renoncer à ces critiques environnementales

• Un utilisateur affirme que le boom actuel de l’IA se concentre sur les GPU et les investissements matériels, et que les investissements dans les logiciels et les plateformes d’IA devraient aussi attirer l’attention. Il estime que l’expression « boom des investissements GPU » serait plus juste

• Un utilisateur exprimant des inquiétudes sur les coûts du cloud se demande quel impact ces investissements massifs auront sur ces coûts. Il pense que les prix pourraient baisser grâce aux économies d’échelle, mais aussi augmenter si les ressources venaient à manquer

• Un utilisateur prédisant l’éclatement prochain de la bulle de l’IA compare la situation actuelle à la bulle internet de 1998. Il estime que les LLM et l’IA générative seront les mots à la mode de l’année

• Un utilisateur pointant le problème des hallucinations de l’IA affirme que ce type d’IA ne sera utile qu’en dehors de quelques marchés de niche

• Un utilisateur observe qu’un boom d’investissement est en cours pour préparer les capacités futures et se demande si la demande suivra. Il prévoit qu’une surcapacité pourrait être construite, entraînant quelques faillites ainsi qu’une baisse des coûts du calcul et de l’IA. Selon lui, cela pourrait offrir une opportunité à la prochaine génération de startups ou d’entreprises de prospérer

• Un utilisateur se remémorant une remarque du Dr Robert Martin évoque une situation où la capacité de bande passante augmente à l’infini et où le coût se rapproche de zéro. Il soulève la possibilité que la demande d’intelligence soit infinie et que le coût de l’intelligence converge vers celui de l’électricité

• Un utilisateur explique que les produits d’IA sont utilisés pour diverses tâches, comme la génération de code, de texte et d’images, l’analyse de données et l’automatisation du travail, mais qu’à titre personnel il utilise moins Copilot qu’avant. Il affirme que l’IA génère des bugs subtils, ce qui allonge le temps de débogage. Il dit aussi avoir essayé les modèles de "chain of thought", avec des résultats encore pires