Le PDG d’IBM : « Les investissements des centres de données IA ne devraient probablement pas rapporter de bénéfices »
(businessinsider.com)- Face à la montée en flèche des investissements dans les centres de données des entreprises IA, le PDG d’IBM, Arvind Krishna, a exprimé de forts doutes sur leur rentabilité.
- Selon ses calculs actuels, la construction d’un centre de données de 1 gigawatt coûterait environ 80 milliards de dollars, et les principaux acteurs poussent aujourd’hui des projets de 20 à 30 GW.
- Selon lui, près de 100 GW d’infrastructure IA sont en cours dans le monde, pour un montant total d’environ 8 000 milliards de dollars.
- En tenant compte de la dépréciation sur cinq ans des puces IA et des énormes coûts en capital, Krishna juge irréaliste de dégager un bénéfice annuel de 800 milliards de dollars.
- Avec les technologies actuelles, il évalue la probabilité d’atteindre l’AGI (intelligence artificielle générale) entre 0 et 1 %, et souligne les limites des LLM pris isolément.
Hausse des investissements des centres de données IA et débat sur la rentabilité
- Les principaux acteurs de l’IA investissent des dizaines de milliards de dollars en centres de données dans la compétition vers l’AGI
- Meta a récemment mentionné de façon répétée « capacity » et « AI infrastructure » dans son dernier rapport de résultats
- Google a annoncé un plan de construction à long terme de centres de données basés dans l’espace
- Krishna a déclaré : « la probabilité que ces investissements reviennent en rentabilité est quasi nulle »
- Il indique qu’il s’agit d’un calcul basé sur les coûts actuels et que les coûts futurs sont incertains.
Calcul et analyse de rentabilité selon Krishna
- Il explique qu’un centre de données de 1 gigawatt coûterait environ 80 milliards de dollars à construire
- Si une entreprise développe 20 à 30 GW, cela représenterait un CAPEX de 1,5 mille milliards de dollars
- À l’échelle mondiale, des investissements de l’ordre de 100 GW sont en cours, pour un total d’environ 8 000 milliards de dollars
- Dans ce cas, un bénéfice annuel de 800 milliards de dollars serait nécessaire pour seulement couvrir les intérêts
- Il affirme qu’« il n’existe aucun moyen réaliste d’atteindre un tel profit ».
Dépréciation et risques d’investissement
- La dépréciation sur cinq ans des puces IA est identifiée comme le principal risque
- « Cinq ans plus tard, il faut se défaire des puces et repartir de zéro », a-t-il expliqué
- L’investisseur Michael Burry a aussi pointé la question de la dépréciation de Nvidia, déclenchant une baisse des actions liées à l’IA
- Krishna estime que cette structure de dépréciation détériore encore davantage le ROI (return on investment)
Doutes sur l’atteinte de l’AGI
- Krishna attribue une probabilité de 0 à 1 % à la réalisation de l’AGI avec la technologie actuelle
- Il indique que ce sera impossible sans avancée technique supplémentaire
- Il souligne les limites des LLM (grands modèles de langage) et avance qu’il faut les combiner avec des connaissances « hard »
- Elon Sutskever, d’OpenAI, a aussi déclaré que « l’ère du scaling est terminée » et insisté sur un virage vers la recherche
D’autres voix sceptiques dans l’industrie
- Marc Benioff a qualifié la course à l’AGI d’« hypnotique »
- Andrew Ng a affirmé que l’AGI est « surévaluée »
- Arthur Mensch, PDG de Mistral, a défini l’AGI comme une « stratégie marketing ».
Évaluation finale du PDG d’IBM
- Krishna juge que les outils IA actuels peuvent créer une valeur de plusieurs billions de dollars en productivité d’entreprise
- Il souligne toutefois que des avancées techniques au-delà de la trajectoire actuelle des LLM sont nécessaires pour atteindre l’AGI
- Même dans ce cas, il maintient une position prudente : « à ce stade, c’est sans doute au niveau du maybe »
7 commentaires
Je comprends l’idée que l’ampleur actuelle des investissements et des projets de centres de données pour l’IA est excessive, mais un plan reste un plan, et dans une situation où personne ne peut prédire ni la vitesse ni la direction de l’évolution technologique, il est risqué de porter un jugement aussi catégorique, et cela ne me semble pas être une bonne décision de la part d’un CEO.
(Lors d’une interview) J’ai trouvé marquantes la question posée à Chey Tae-won, président de SKT, sur le fait de savoir s’il pensait que l’IA était une bulle, ainsi que sa réponse.
Quelle franchise.
Quand on voit les sommes investies, j’ai l’impression que l’optimisation va s’étendre à tous les domaines où c’est possible.
[coût de l’électricité, efficacité des paramètres des LLM, mise en cache, etc.] Tout cela finira peut-être par faire en sorte que le coût total soit inférieur aux prévisions. Hum hum… Les positions pessimistes sur l’intelligence artificielle (~~ ça ne marchera jamais) finissent toujours par être démenties.
Même en ne prenant que les LLM, moi, ça me donne l’impression d’un miracle.
En termes de chiffres, c’est vrai, mais...
En dehors des LLM et des data centers, je ne vois pas vraiment ce qui pourrait tirer l’économie américaine.
C’est quasiment la même chose que ce que je pense… Nous, il nous suffit juste de vendre beaucoup de mémoire, au fond.
Avis Hacker News
Cite Steve Jobs disant qu’en 1958 IBM a laissé passer la xérographie, puis a ignoré les mini-ordinateurs dix ans plus tard, avant de sous-estimer l’Apple II encore dix ans après
En voyant aujourd’hui le CEO d’IBM dire que « l’investissement dans les centres de données IA ne sera pas rentable », on a l’impression qu’IBM lit toujours aussi mal l’avenir
Sources liées : Steve Jobs 1983 Keynote, histoire des inventions de Xerox
Ensuite, l’IBM PC (5150) a réduit les coûts en utilisant des composants du commerce, et c’est ce qui a fait son succès
Wiki IBM 5100
L’Apple II a aussi eu un impact limité sur le marché des entreprises. Et puis on parle d’il y a 50 ans, ce qui n’a rien à voir avec le débat actuel sur le retour sur investissement (ROI) de l’IA
Le CEO d’IBM a dit que « les puces IA doivent être jetées après 5 ans », mais ça semble être une hypothèse beaucoup trop catégorique
Si le matériel reste fiable au bout de 5 ans, il existe une possibilité de rentabiliser d’anciens modèles à bas coût
tweet de Burry
Au final, un cycle de 5 ans aura un impact majeur sur les décisions d’investissement
Il paraît difficile que tous les investissements dans les centres de données IA se concrétisent. Rien que la demande électrique impose des limites
Gartner prévoit que les dépenses mondiales en IA atteindront 1,5 trillion de dollars en 2025
Rapporté au PIB mondial (111 trillions de dollars en 2024), cela ne semble pas si excessif
La durée de vie des investissements IA est estimée à 6 à 8 ans, ce qui reste une échelle raisonnable si l’on n’est pas excessivement pessimiste
rapport Gartner
données PIB de la Banque mondiale
Si les services LLM utilisaient par défaut un mode de réponse courte (moins de 200 tokens), avec caching de prompts et routage vers de petits modèles,
on pourrait selon certains réduire la consommation d’énergie de plus de 70 %
À l’échelle de ChatGPT, la facture annuelle d’électricité serait de 50 à 100 millions de dollars, et cette approche la ramènerait à 5 à 10 millions
Si l’UE ou la Californie rendaient ce mode obligatoire, cela pourrait profondément changer l’économie des centres de données
Il y a 10 ans, IBM martelait des publicités du type « Watson » et « Cognitive Finance », mais plus personne n’en parle aujourd’hui
On peut se demander si IBM ne supporte pas mal de voir le boom actuel de l’IA piloté par d’autres
Les démonstrations technologiques étaient impressionnantes, mais il n’y avait pas de vrai modèle économique
Je me souviens avoir dû construire moi-même une PoC pour prouver que ça ne marchait pas
Cela dit, vu sa position sur le marché, son avis ne peut pas être totalement écarté
Comme le dit le CEO d’IBM, il y a du vrai dans l’idée que l’IA a du mal à générer des profits
Selon les chiffres de NVIDIA, 1 GW de puissance permettrait de générer 6,29×10^16 tokens par an,
et si l’ensemble du texte d’Internet représente autour de 10^14 tokens, la donnée elle-même pourrait devenir un facteur limitant
Il y a aujourd’hui trois facteurs de peur dans le débat sur l’IA
IBM ne semble pas avoir une intuition exceptionnelle, mais plutôt refléter une partie de ces peurs
L’investissement dans l’infrastructure IA rappelle selon moi la surcapacité en fibre optique à l’époque de la bulle Internet
À long terme, cela peut avoir de la valeur, mais chaque entreprise prise individuellement peut échouer lourdement
Le taux d’utilisation et le modèle économique comptent davantage que le nombre de GPU
IBM est une entreprise qui a raté des opportunités dans le matériel grand public, les systèmes d’exploitation et le cloud
Le CEO a peut-être raison, mais IBM reste un mauvais point de référence quand il s’agit d’anticiper l’avenir