Boom des investissements dans l’IA

• La demande en IA stimule les investissements américains dans les ordinateurs, les data centers et les infrastructures électriques, et la prise en charge par Microsoft du coût de redémarrage du réacteur n°1 de la centrale nucléaire de Three Mile Island montre comment les tensions sur l’alimentation électrique des data centers se propagent aux investissements dans les infrastructures physiques
• Les dépenses de construction de data centers aux États-Unis ont atteint un rythme annuel record de 28,6 milliards de dollars, en hausse de 57 % sur un an et de 114 % par rapport à il y a deux ans, soit un niveau comparable au total des dépenses de construction de restaurants, bars et magasins de détail
• Ces dépenses de construction n’incluent pas les racks de serveurs ni les composants, tandis que les importations nettes de gros ordinateurs et de composants/accessoires informatiques ont dépassé 65 milliards de dollars sur les douze derniers mois, et que les importations de puces, d’ordinateurs et de pièces associées en provenance de Taïwan ont bondi à plus de 38 milliards de dollars
• Les effets de diffusion de ce boom de l’IA se manifestent davantage dans le hardware, la fabrication, la construction et les infrastructures électriques que dans l’emploi logiciel traditionnel, avec seulement 32 000 créations nettes de postes technologiques aux États-Unis sur l’année écoulée
• Alors que la concurrence dans les investissements se poursuit sur l’hypothèse de modèles plus grands et d’une diffusion d’applications réelles, la demande en semi-conducteurs avancés, la dépendance à Taïwan et les restrictions d’accès pour la Chine s’imposent encore davantage comme enjeux centraux de la Chip War

---

La demande en IA se traduit par des investissements dans les infrastructures physiques

• Microsoft a accepté de prendre en charge le coût du redémarrage du réacteur n°1 de la centrale nucléaire de Three Mile Island afin de répondre à la demande croissante d’électricité de ses data centers, devenant après Amazon le deuxième grand groupe technologique américain à s’appuyer sur une centrale nucléaire existante pour couvrir ses besoins énergétiques
• Microsoft est à la fois un investisseur majeur d’OpenAI et son fournisseur de calcul, et moins de deux ans après le lancement de ChatGPT, le développement et l’usage de l’IA se diffusent rapidement
• Les produits d’IA sont utilisés pour générer du code, du texte et des images, analyser des données, automatiser des tâches et renforcer des plateformes en ligne, et leur usage devrait continuer à progresser
• Les derniers modèles d’IA exigent des ressources de calcul massives pour l’entraînement comme pour l’inférence, et leur exploitation nécessite du hardware haute performance, des installations à l’échelle industrielle et des infrastructures d’électricité, d’eau et de haut débit

Les investissements dans les data centers et les ordinateurs explosent

• La construction de data centers aux États-Unis a atteint un record historique à un rythme annuel de 28,6 milliards de dollars
  • hausse de 57 % sur un an
  • hausse de 114 % par rapport à il y a deux ans
  • un niveau comparable au total des dépenses de construction de restaurants, bars et commerces de détail aux États-Unis
• Ce chiffre ne couvre que les bâtiments eux-mêmes, et exclut les racks informatiques haute performance, les câbles, ventilateurs et autres composants qui constituent le cerveau des data centers
• En août, les importations nettes américaines de gros ordinateurs ont atteint un record historique, tandis que les importations nettes de pièces, accessoires et autres composants informatiques avaient atteint un sommet historique le mois précédent
• Les États-Unis ont importé plus de 65 milliards de dollars dans ces deux catégories sur les douze derniers mois, tandis que la production nationale progresse elle aussi

La structure des investissements des entreprises technologiques change

• La majorité des nouveaux data centers, ordinateurs et équipements sont achetés par des entreprises du secteur des technologies de l’information
  • des fournisseurs d’infrastructure de calcul comme Amazon
  • des entreprises de recherche web comme Google
  • des éditeurs de logiciels comme Microsoft
• Sur les douze derniers mois, ces entreprises ont accru de plus de 95 milliards de dollars leurs actifs nets en immobilier, usines et équipements, un niveau record
• Il y a un peu plus de dix ans, Facebook a acquis Instagram pour 1,2 milliard de dollars, puis WhatsApp deux ans plus tard pour 15 milliards de dollars
  • à l’époque, Instagram ne comptait que 13 employés et WhatsApp 55, avec pour base physique essentiellement des bureaux et des postes de travail de développeurs
• Meta a engagé 15,2 milliards de dollars de dépenses d’investissement au premier semestre 2024 seulement, en grande partie pour une infrastructure de calcul massive soutenant le modèle d’IA Llama
• Le boom actuel de l’IA est bien plus intensif en hardware que les précédents booms technologiques, et il tire rapidement vers le haut la construction et l’investissement aux États-Unis

Les ordinateurs haute performance et les importations taïwanaises deviennent des axes centraux

• Les investissements des entreprises américaines dans les ordinateurs et équipements associés ont augmenté de 16,6 % en termes réels sur les douze derniers mois dans le contexte du boom de l’IA, atteignant un record historique
• Dans les années 2010, l’investissement informatique est resté relativement stagnant pendant près d’une décennie, jusqu’à ce que la demande liée au télétravail pendant la pandémie rompe cette tendance
• En 2022, l’investissement informatique a reculé avec la stabilisation du télétravail et de l’usage d’internet, avant de repartir fortement à la hausse avec le boom de l’IA à partir de la fin 2023
• La croissance des systèmes informatiques avancés est encore plus rapide que celle de l’investissement informatique global
  • TSMC est le leader mondial de la fabrication de semi-conducteurs avancés
  • les importations américaines de puces, d’ordinateurs et de pièces associées en provenance de Taïwan ont dépassé 38 milliards de dollars sur les douze derniers mois, en hausse de plus de 140 % sur un an
  • les importations directes américaines de puces logiques sont passées d’un faible niveau à un rythme annuel d’environ 5 milliards de dollars
  • les pièces et composants informatiques restent toutefois le premier poste d’importation

Même les éditeurs de logiciels entrent dans la compétition hardware

• Les données détaillées d’investissement sectoriel jusqu’en 2023 montrent que les entreprises de traitement de données et de recherche web comme Amazon et Google conservent les plus gros volumes d’investissement dans la tech
• La croissance la plus rapide des investissements apparaît chez les développeurs de logiciels
  • l’investissement réel des éditeurs de logiciels dans la propriété intellectuelle a augmenté de 40 % depuis 2021
  • cette catégorie inclut les modèles d’IA eux-mêmes et la R&D associée
  • l’investissement réel dans les équipements tels que les ordinateurs a progressé de 96 %
• L’époque où les leaders du logiciel reposaient sur une structure matérielle légère a laissé place à une course à la montée en puissance rapide des capacités hardware

L’implantation des data centers varie fortement selon les régions

• Les data centers doivent être répartis dans une certaine mesure en raison des besoins de mise en réseau et des contraintes d’infrastructure, mais la concentration en grands clusters améliore l’efficacité et réduit les coûts ainsi que la latence
• Dans l’IA, ces effets d’agglomération sont particulièrement importants, et les entreprises repoussent les limites de taille des data centers et de mise en réseau afin de mobiliser autant de puissance de calcul que possible pour développer leurs modèles
• Les statistiques officielles de construction ne ventilent les dépenses de data centers qu’au niveau régional, ce qui empêche de disposer de données de construction fines
• L’extension des data centers aux États-Unis reste la plus soutenue dans le Sud, où existent des clusters historiques
• La croissance a été plus rapide dans le Midwest et sur la côte Ouest, tandis que le Nord-Est reste pratiquement épargné

L’impact sur la demande d’électricité et les réseaux régionaux

• L’Energy Information Administration a relevé à plusieurs reprises ses prévisions de hausse de la charge électrique pour tenir compte de la demande des data centers
• Les prévisions actuelles tablent sur une hausse de la consommation d’électricité du secteur commercial de 3 % cette année et de 1 % l’an prochain
• Même dans ce scénario, les utilisateurs commerciaux restent un facteur de hausse de la consommation moindre que l’électrification résidentielle et le reshoring industriel, mais pour le secteur commercial, il s’agit de la croissance de la demande la plus rapide depuis plusieurs années
  • de 2007 à 2023, la consommation d’électricité du secteur commercial n’a augmenté que de 5 % au total
  • avant le boom de l’IA, les estimations officielles attribuaient 11,4 % de la consommation électrique commerciale aux ordinateurs et équipements de bureau
• Dans certaines régions, la consommation électrique des data centers devient le principal moteur de la hausse de charge
  • le Dakota du Nord a vu sa consommation commerciale d’électricité augmenter de plus de 45 % depuis l’ouverture d’un grand data center en 2022
  • le Dakota du Nord étant un petit marché de l’électricité et du calcul, l’augmentation brute de la demande reste toutefois plus importante dans de grands clusters de data centers comme la Virginie et le Texas

La demande électrique des data centers en Virginie et au Texas

• Le byteway dans la banlieue nord de la Virginie, près de Washington DC, est le plus grand cluster mondial de puissance de calcul
• Grâce à ce cluster, la consommation énergétique commerciale de la Virginie a augmenté de 30 % depuis 2019, soit la plus forte hausse brute de demande d’électricité commerciale aux États-Unis
• Le Texas attire depuis longtemps les data centers et les mineurs de cryptomonnaies dans le cadre de ses programmes de gestion de charge énergétique
• La consommation d’électricité commerciale du Texas a progressé de 10 % depuis 2019, avec une croissance encore plus forte attendue à l’avenir
• La hausse de la charge liée aux data centers contribue aux surperformances des investissements texans dans les énergies renouvelables
  • ERCOT et PJM devraient mener la croissance des renouvelables aux États-Unis cette année et en 2025
  • en raison des avantages liés à la concentration des data centers, les entreprises d’IA tendent de plus en plus à se regrouper près de ressources électriques de grande ampleur
  • cela explique la montée de l’intérêt pour l’énergie nucléaire et la volonté croissante des groupes technologiques d’investir directement dans les infrastructures de production électrique

Les revenus repartent, mais l’emploi tech reste faible

• Dans le boom de l’IA, les revenus du secteur des technologies de l’information se redressent après le ralentissement de 2022-2023
• Les éditeurs de logiciels, les portails de recherche web et les fournisseurs d’infrastructure de calcul ont tous vu leurs revenus augmenter de 12 à 15 % sur les douze derniers mois
• Cela reste inférieur aux niveaux de 2021, mais correspond à une croissance solide par rapport à l’avant-Covid
• Malgré l’explosion des investissements physiques et le rebond des revenus, la croissance de l’emploi dans la tech reste très faible
  • les États-Unis n’ont créé que 32 000 emplois technologiques nets sur les douze derniers mois
  • c’est moins qu’en 2021, en 2022 ou à n’importe quel moment des neuf années précédant la pandémie
  • même les éditeurs de logiciels et les entreprises d’infrastructure de calcul au cœur du boom de l’IA n’ont pratiquement pas enregistré de hausse nette d’effectifs sur l’année écoulée
• Le marché de l’emploi tech qui a récemment mis en difficulté les diplômés en informatique ne s’est pas sensiblement amélioré

Les effets sur le marché du travail sont plus visibles hors des métiers tech traditionnels

• Le boom des investissements dans l’IA n’est pas sans effet sur le marché du travail, mais son impact se concentre davantage en dehors du secteur informatique traditionnel
• La rémunération totale dans la fabrication de semi-conducteurs a augmenté de 25 % entre le premier trimestre 2023 et le premier trimestre 2024
  • chez des entreprises comme NVIDIA, les salariés bénéficient aussi de stock-options dont la valeur a fortement augmenté
• Sur les douze derniers mois, 30 000 emplois ont été créés dans la construction commerciale, dont une partie relève des effets indirects de la demande en data centers
• Un boom de l’emploi est également en cours dans la construction industrielle liée aux fabs de puces et à d’autres segments manufacturiers, ainsi que dans l’électricité et l’extension d’infrastructures au sens large
• La dynamique de l’emploi dans le boom de l’IA diffère fortement de celle du marché du travail tech de la dernière décennie, avec un accent bien plus marqué sur les investissements hardware, les entreprises de fabrication/conception et les sociétés de construction d’infrastructures que sur les programmeurs traditionnels

Une extension vers la compétition d’investissement et la Chip War

• Les développeurs d’IA se livrent une concurrence féroce, convaincus que l’amélioration des produits et l’élargissement de leur commercialisation justifieront l’ampleur historique des investissements actuels
• À court terme, les investissements devraient encore augmenter avec le développement de modèles plus avancés et la diffusion d’applications concrètes comme les véhicules autonomes
• Les décideurs politiques considèrent l’IA comme un secteur clé de l’avenir de l’économie américaine
  • grâce à la domination de la Silicon Valley et des grands groupes technologiques américains, les États-Unis ont construit une avance significative dans le développement de l’IA et les capacités de data centers
  • le boom de l’IA est jugé plus bénéfique pour l’investissement américain que pour n’importe quel autre pays
• La compétition géopolitique autour des capacités hardware devrait encore s’intensifier
  • le CHIPS Act a été adopté avant ChatGPT, et certains dirigeants du secteur se plaignent qu’il semble déjà daté dans ses priorités comme dans son ampleur
  • la hausse de la demande en semi-conducteurs avancés renforce la dépendance américaine aux importations taïwanaises que le CHIPS Act visait justement à atténuer
  • les États-Unis restent aussi dépendants de la Chine pour de nombreux composants nécessaires à l’approvisionnement des data centers à grande échelle
• Les États-Unis devraient continuer à restreindre l’accès de la Chine aux puces les plus avancées afin de ralentir ses progrès en IA, tandis que la Chine poursuit l’expansion de ses capacités de fabrication de puces pour réduire sa dépendance aux importations
• À mesure que le boom des investissements dans l’IA se poursuit, il se déplace toujours plus au premier plan de la Chip War

[GN⁺]

Avis sur Hacker News

• Après avoir lu cet article, j’ai envie de parier que ce boom d’investissement capitalistique suivra une trajectoire semblable aux grands booms d’investissement de l’histoire américaine.
  Comme avec la construction des chemins de fer dans les années 1800, la prolifération des constructeurs automobiles au début des années 1900, ou le boom de la fibre optique télécom à la fin des années 1990, il y a eu une surconstruction massive d’infrastructures, puis un krach où la plupart du secteur a fait faillite, mais ces infrastructures ont ensuite été absorbées et ont apporté de grands bénéfices à l’économie et à la société.
  Cela me fait penser à la fibre noire déployée après les investissements et les faillites des télécoms de la fin des années 90 et du début des années 2000, qui a fini par être activée et a rendu possible la croissance de services multimédias de haute qualité comme Netflix.
  Ici aussi, l’investisseur moyen financera des puces haut de gamme, des datacenters et l’approvisionnement en énergie, et sera très déçu, mais je pense qu’à long terme cela rapportera gros.
  Rien que pour les investissements dans l’énergie, même si l’IA est décrite comme un énorme gouffre énergétique qui réchauffe le climat, je crois que cette demande massive de capitaux accélérera la transition hors des combustibles fossiles, maintenant que les renouvelables sont devenues l’électricité la moins chère.

  • Ça me paraît juste, et à un moment la bulle éclatera.
    La question, c’est quand. Si nous sommes aujourd’hui non pas en 1999 du boom dot-com, mais en 1995, il reste encore quatre ans de forte croissance, et même après l’effondrement le marché de 2029 pourrait être bien plus grand que celui de 2024. Cisco aussi était encore quatre fois plus gros en 2001 qu’en 1995.
    Ce qui diffère un peu des bulles passées, c’est que plus on met de calcul, plus l’IA devient intelligente et capable.
    Pour juger si nous sommes encore au tout début du boom, je regarde si Slack vend un chatbot LLM capable de donner des réponses fiables sur les décisions métier et techniques prises dans les discussions au cours des deux dernières années. Un tel produit n’existe pas encore, probablement parce que faire tourner autant de raisonnement avec une grande fenêtre de contexte coûte toujours beaucoup trop cher.
    Donc je penche pour l’idée que nous sommes plus près du début de la bulle que de sa fin.
    L’autre point à surveiller est de savoir si les lois de passage à l’échelle des LLM s’effondrent rapidement, de sorte que davantage de calcul ne produise plus économiquement une intelligence supérieure. Dans ce cas, la bulle éclatera probablement, et tout le monde observe si les modèles de niveau GPT-5 en donneront le signal.
  • Je ne vois pas pourquoi on pourrait penser ça. Les réseaux ferrés, routiers et de fibre optique ont pu être utilisés pendant des décennies après la faillite des investisseurs initiaux.
    Mais le problème des datacenters pour le calcul IA actuels, c’est que si les entreprises d’IA font faillite, ils sont en pratique difficiles à réutiliser à d’autres fins.
    Le problème de l’investissement dans l’infrastructure de calcul, c’est qu’il faut avoir prévu de tout exploiter dans les cinq prochaines années. Au-delà, même gratuitement, personne n’en voudra peut-être.
  • Les renouvelables sont déjà tellement bon marché qu’elles auraient sans doute été construites au même rythme de toute façon.
    En revanche, le nucléaire coûteux n’aurait pas été construit sans cette bulle, et curieusement l’argent semble aussi affluer vers ce secteur.
  • Dans la bulle des télécoms, le seul actif qui a conservé de la valeur plus tard était la fibre optique enterrée. Les équipements terminaux sont devenus obsolètes en quelques années et ont dû être remplacés ; la fibre optique, elle, était réutilisable et coûteuse à installer, donc c’était l’actif clé.
    Quel actif de la bulle IA conservera de la valeur dans cinq ans ? Probablement pas un entrepôt rempli de GPU vieux de cinq ans. Peut-être des centrales nucléaires.
  • Les chemins de fer et les réseaux informatiques créent des effets de réseau, mais je ne suis pas sûr que la même chose s’applique à des datacenters remplis de matériel qui devient très vite obsolète.

• Certains disent que c’est comparable aux chemins de fer, mais à part le fait que cela coûte beaucoup d’argent, c’est totalement différent des chemins de fer.
  Les chemins de fer ont duré des décennies et resteront pertinents pendant encore des décennies. Ils s’usent lentement et constituent la forme la plus efficace de transport terrestre.
  À l’inverse, ces investissements matériels seront entièrement amortis dans six ans, et il est probable qu’ils soient mis au rebut parce qu’ils ne vaudront plus la peine d’être exploités au regard du rapport entre coût de l’électricité et production.
  Il existe aussi le risque supplémentaire que, pour une raison ou une autre, les futurs systèmes d’IA ne tournent pas efficacement sur la génération actuelle de matériel.

  • Peut-être, peut-être pas. Le GPU Nvidia P40 est sorti il y a huit ans et chauffe beaucoup, mais son prix a doublé au cours de l’année écoulée.
    Rien ne sera entièrement amorti en six ans. Les gens utiliseront probablement encore des A100 dans quinze ans. Des cartes GPU V100 32GB vieilles de sept ans se vendent encore 1 500 dollars sur eBay.
    Il me semble plus probable qu’on invente des architectures logicielles plus efficaces plutôt qu’un nouveau type de matériel supérieur remplaçant tout le matériel existant.
  • Dans cette analogie, le bien public n’est pas le matériel IA, mais les modèles d’IA.
  • Certains actifs, comme les bâtiments et l’alimentation électrique, resteront sans doute utilisables. Mais les puces seront probablement bientôt remplacées par des neuves.
  • L’infrastructure IT a une durée de vie bien plus courte que l’industrie ferroviaire, mais ses marges sont aussi étonnamment élevées.
    Les investissements ferroviaires mettent généralement des décennies à être rentabilisés, tandis que dans l’IT, ils le sont souvent en quelques années.

• J’ai l’impression qu’il y a un gros angle mort dans cette discussion. Presque tout se concentre sur les GPU et les investissements matériels, et c’est vrai que cela tire fortement le boom actuel de l’IA, mais le volet logiciel est absent.
  Il faudrait aussi traiter les importants investissements de capital-risque dans les plateformes, outils et applications basés sur l’IA. Cet article est tellement centré sur le matériel qu’il serait plus exact de parler de « boom de l’investissement dans les GPU ».
  Les investissements logiciels méritent tout autant d’attention.

  • Je vois les GPU et les datacenters comme l’équivalent, pour l’IA, de la fibre optique du boom dot-com.
    Si beaucoup de logiciels fondés sur les LLM ne sont pas rentables, c’est parce qu’il n’y a pas encore assez de calcul et d’électricité pour faire ce qu’ils cherchent à faire.
  • Existe-t-il de bonnes estimations de cette répartition ? D’après les startups IA que je connais un peu, même lorsqu’il ne s’agit pas de startups hardware, j’ai l’impression que la majeure partie des fonds de venture levés retourne directement ou indirectement en coûts matériels.
    Mais je n’ai pas de chiffres certains.
  • Quand on regarde YC et Product Hunt ces temps-ci, presque tous les logiciels survendus sont des « trucs AI Powered ».
    Pour une entreprise où l’IA fait réellement quelque chose d’utile, il y en a une dizaine qui fourrent de force de l’IA quelque part dans une appli existante et l’emballent comme « AI Powered », ce qui est assez agaçant.
    Mon entreprise a récemment évalué Zenhub, et l’équipe commerciale a beaucoup insisté sur le fait que l’app utilisait l’IA. En réalité, ce n’était que l’intégration IA la plus basique : générer des descriptions de stories à partir d’un prompt.
    L’IA est très utile, mais il n’est pas nécessaire d’en mettre partout.
  • On parle beaucoup des datacenters et du calcul cloud, mais pas des puces pour l’inférence embarquée.
    Vu la place du mobile dans la couche d’interface, si j’étais investisseur en capital-risque, je miserais sur l’inférence on-device.

• Je ne comprends pas pourquoi tous les articles à sensation commencent par une phrase du genre : « les produits d’IA sont largement utilisés dans bien plus de domaines — génération de code, de texte et d’images, analyse de données, automatisation des tâches, amélioration des plateformes en ligne, etc. — et leur usage devrait encore augmenter »
  Personnellement, quand je code, mon usage de Copilot a diminué. J’ai continué à essayer, mais il perd vite le fil et sort des bugs subtils, si bien que je passais plus de temps à déboguer que si j’avais écrit le code moi-même
  Comme je n’ai peut-être pas suffisamment vérifié le code, j’ai toujours cette impression que « ça pourrait exploser en production d’une manière inconnue ». Des collègues et des amis m’ont dit ressentir la même chose
  J’ai aussi essayé les nouveaux modèles de « chaîne de pensée », mais curieusement ils m’ont semblé pires

  • En lisant ce commentaire, je me suis souvenu que j’avais un abonnement Copilot
    Depuis des mois, il ne m’avait pas proposé de code utile, au point que je l’avais complètement oublié. Je viens de me connecter et de résilier
    Maintenant, il faut que je voie si je peux aussi résilier d’autres abonnements ou passer sur des forfaits moins chers
  • Mon expérience est similaire. J’ai utilisé Claude récemment pour du code, et il m’a entraîné sans fin dans des terriers de lapin, avec l’impression que chaque itération était pire que la précédente
    Et malgré ça, il était incapable de s’arrêter en disant : « désolé, mais en réalité je ne sais pas comment vous aider »
  • J’ai l’impression qu’aujourd’hui l’IA est plus proche d’un enseignant que d’un implémenteur. Elle est vraiment utile pour apprendre de nouvelles choses ou obtenir des idées sur la direction à prendre
    Mais le code réel doit encore, à mon avis, être écrit en grande partie par des humains
    L’IA est un excellent outil et peut accélérer énormément les choses, mais cela ne correspond pas à l’idée magique selon laquelle il suffirait de lui donner nos idées pour qu’elle fasse tout le travail ingrat
    En général, il vaut toujours mieux construire son modèle mental à partir de preuves réelles plutôt que de fantasmes, et pour l’instant il y a beaucoup de fantasme dans le mélange. Cela ne veut pas dire qu’il faille être pessimiste sur les progrès futurs, mais il est très difficile de prédire quelle forme prendront ces améliorations
  • D’après mon expérience, ça s’améliore avec le temps, et je pense qu’il reste encore pas mal de gains relativement faciles à obtenir, notamment en intégrant les LLM au Language Server Protocol et à d’autres outils
    Mais à ce stade, ce n’est toujours pas suffisant pour travailler de manière autonome ; mieux vaut l’utiliser comme si l’on faisait du pair programming avec un développeur humain intermédiaire, qui n’a pas beaucoup de contexte sur le projet et une capacité de concentration limitée
    J’en tire surtout beaucoup de valeur quand je ne confie à l’IA qu’une fonction ou un refactoring à la fois, et que je fais en sorte que ce soit facile à tester au fil de l’eau
  • C’est parce que les articles aussi sont tous écrits par IA

• Chaque fois que je vois ce genre d’articles et de discussions, je suis toujours surpris qu’on ne se rende pas compte à quel point il est absurde de dire que nous avons détruit la planète et qu’il ne nous reste peut-être que 5 ou 6 ans avant des dommages fondamentaux, tout en investissant des ressources inimaginables dans les LLM
  Au bout du compte, il faut soit abandonner l’espoir que des LLM suffisamment financés puissent apporter quelque chose, soit abandonner le raisonnement très bruyant mais en réalité assez creux, semble-t-il, sur les dégâts que nous infligeons à la Terre

  • Je ne sais pas qui est ce « nous ». Une partie de la société tire la sonnette d’alarme sur des dommages irréversibles à l’environnement, tandis qu’une autre ne prend pas en compte — ou ignore délibérément — les effets sur la vie humaine au sens large, et semble vouloir faire monter les chiffres le plus vite possible
    Les gens qui poussent les investissements dans l’IA ne seront pas fortement touchés par les effets du changement climatique. Même si des centaines de millions de personnes meurent dans les régions tropicales et qu’une grande partie de l’activité humaine organisée s’effondre, ils seront protégés des conséquences jusqu’au dernier moment, donc ils s’en fichent
  • Peut-être, juste peut-être, que maintenant que nous avons besoin de plus d’énergie, nous finirons enfin par trouver des modes de développement plus durables
  • Je me demande ce que tu entends par « raisonnement creux »
  • Tu as sûrement entendu parler du boom du solaire. Il est en croissance exponentielle
    Et ce n’est pas comme si une seule personne dirigeait le monde entier et décidait de ce qui allait se passer

• La bulle de l’IA éclatera l’année prochaine. Nous en sommes à peu près à 1998 dans la bulle Internet, et un nouvel hiver de l’IA approche
  Les LLM et l’IA générative sont les business plans de l’année du type « faire du business sur Internet » ou « le Uber de X »

  • Est-ce que l’éclatement de la bulle IA entraînera le reste de l’écosystème startup avec elle, ou est-ce que cela permettra d’investir davantage dans les technologies non IA ?
    Les technologies liées au climat ont besoin de plus d’argent
  • Je ne pense pas que ça se passera comme ça
    La bulle économique éclatera après les élections, et on le saura quand la Fed recommencera à relever ses taux. Mais cette fois, le catalyseur sera très probablement l’immobilier commercial
    Dans l’immobilier commercial, les datacenters sont le seul segment qui ait l’air sain aux yeux des investisseurs, et le boom de l’IA renforce encore cette impression. Je pense que ces investisseurs, pour éviter l’effondrement annoncé, injecteront encore plus d’argent qu’avant dans l’énergie et dans d’autres secteurs liés à l’IA
    La plus grande variable est de savoir si les oligarchies supranationales tenteront d’utiliser cet effondrement pour provoquer une transition de politique monétaire bien plus vaste, comme les monnaies numériques de banque centrale
  • Les ratios cours/bénéfice du marché sont très élevés, et le sont depuis un moment. Les valeurs tech et l’IA en soutiennent une bonne partie
    Il suffit de regarder ce qui est arrivé à Tesla quand ses fondamentaux ont commencé à vaciller un peu. Cela dit, je serais prudent avant de prédire que la « bulle IA » éclatera l’année prochaine

• J’aimerais que la bulle de l’IA se termine pour que HN puisse parler d’autre chose

  • La bulle de l’IA vaut toujours mieux que la bulle des cryptomonnaies
  • Si tu es fatigué, tu peux rejoindre les discussions sur le bazar WordPress. Ça surgit pas mal ici en ce moment
  • Je pense que ça éclatera si la Fed décide que l’inflation n’est pas terminée et recommence à relever les taux dans les six mois
    On ne peut nourrir la bulle que jusqu’au moment où les gens ordinaires ne supportent plus la hausse des prix
  • Parmi les 30 meilleurs articles de HN du mois dernier (https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...), seuls 6 portaient sur l’IA
    Le plus haut article sur l’IA était « OpenAI to become for-profit » à la 10e place ; le premier était « Bop Spotter », puis venaient Starship et la résiliation d’abonnement en un clic
  • Les gens parleront d’IA pour le reste de leur vie. Si tu veux, tu peux rejoindre une communauté Amish ou vivre dans les bois et faire un boulot à la Firewatch

• Je me demande quel effet tout cela aura sur les coûts cloud pour des gens comme nous
  D’un côté, il pourrait y avoir des économies d’échelle ; de l’autre, les autres pourraient consommer les ressources cloud et faire monter les prix. Je serais curieux de savoir si quelqu’un a une hypothèse sur ce qui va se passer

  • Je ne pense pas que cela fasse monter les coûts du cloud traditionnel basé sur CPU
    Il suffit de regarder les Ampere 192 cœurs et les CPU AMD 196 cœurs. Les gains d’efficacité continueront à faire baisser le rapport prix/performances du cloud traditionnel

• Je n’ai pas encore trouvé d’« IA » qui ne hallucine pas naturellement, et je ne vois pas comment une « IA » qui hallucine pourrait devenir utile hors de cas d’usage de niche

  • Les nouveaux modèles inventent moins de choses. J’ai testé ici un cas important pour l’invention à partir de documents fournis, c’est-à-dire le RAG : https://github.com/lechmazur/confabulations/
    La différence entre GPT-4 Turbo et GPT-4o est considérable
  • Sur des sujets très étroitement ciblés, je trouve que les LLM sont bien plus serviables et globalement exacts. Il suffit de vérifier le contenu généré avec le code source pertinent ou la documentation officielle
    En pratique, discuter avec Claude ou 4o quand j’ai une question simple à poser me fait gagner énormément de temps chaque jour. Avant, je devais fouiller dans au moins quatre moteurs de recherche et traverser une quantité frustrante de spam SEO
    La fonction de résumé est devenue un mème, mais elle est extrêmement utile. Au fil de la journée, je mets dans une base de données tous les liens qui me semblent intéressants, puis une tâche cron de Cloudflare récupère le corps de chaque lien, génère un résumé avec 4o et l’enregistre
    Le week-end, je parcours les résumés des liens enregistrés et, si l’un d’eux me paraît assez intéressant, je vais le lire moi-même et creuser davantage
    C’est comme ça que j’ai découvert SolidJS, via un article aléatoire avec seulement quelques votes en page 4 de HN, et le résumé m’a donné assez d’informations pour me donner envie d’aller voir SolidJS sans lire jusqu’au bout un billet de plainte sur ReactJS
  • Je pense qu’il faut ajuster l’objectif consistant à minimiser les hallucinations. Quand les humains « mentent », ils le font d’une manière qui nous est familière. « Le restaurant doit être à peu près par ici », « Il n’était pas dans Inception, lui ? » : les humains savent bien transmettre, par la voix, les gestes ou le style d’écriture, les informations dont ils sont sûrs et celles qui sont incertaines
    J’ai posé une question simple à Gemini et ses hallucinations m’ont vraiment agacé. Comme il affirmait des contre-vérités avec assurance, mon cerveau instinctif l’a jugé peu fiable et je n’ai plus eu envie de lui poser de questions
    Étant donné la nature probabiliste du fonctionnement des LLM, éliminer les hallucinations sera sans doute impossible, mais on peut mieux calibrer la façon dont elles sont présentées aux humains
  • Inutile de se forcer à imaginer. L’IA générative est déjà très utile dans de nombreuses applications non spécialisées
  • Je pense aussi qu’il existe beaucoup de génération de contenu où la qualité n’a vraiment pas d’importance. Dans ces cas-là, les hallucinations comptent peu
    À condition que cela ne pose pas de problème juridique, par exemple discours haineux ou diffamation
    Pour diffuser massivement des articles, des publications sur les réseaux sociaux, voire des vidéos, les hallucinations n’ont pas une grande importance à cette échelle. Il y a déjà assez de contenu qui génère suffisamment de vues pour en faire une stratégie viable dans une certaine mesure

• Je me souviens avoir entendu le Dr Robert Martin, qui dirigeait les Bell Labs à la fin des années 90, dire que la capacité de bande passante tendrait vers l’infini et que le coût par bit tendrait vers zéro
  On sait tous comment ont fini les constructeurs de capacité optique de l’époque avant l’éclatement de la bulle
  A-t-on une raison de penser que la demande d’intelligence ne s’épuisera pas ? A-t-on une raison de penser, comme le dit Sama, que le coût de l’intelligence en tant qu’intrant des systèmes convergera vers le prix de l’électricité nécessaire pour faire tourner les GPU des data centers ? Les deux sont possibles
  Mais on aurait pu dire la même chose d’un bit de bande passante

  • Je suis très sceptique sur l’idée qu’une intelligence infinie ait un effet positif sur le niveau de vie des travailleurs du savoir
    Dans le scénario le plus pessimiste, l’IA nous remplacera et nous serons envoyés dans les mines de charbon
    Même dans le scénario le plus optimiste, le niveau de vie est un composé de nombreux facteurs ancrés dans le réel ; je pense donc que le plafond concret serait au mieux un doublement de la qualité de vie. Ce n’est pas rien, mais au regard des 150 dernières années, ce ne serait pas sans précédent
  • Le texte généré n’est pas de l’intelligence