- On observe de plus en plus souvent, ces derniers temps, des réactions excessives de CEO qui imposent immédiatement des outils LLM à l’ensemble des salariés et font planer la menace du licenciement sur ceux qui ne les utilisent pas ; ce type d’adoption forcée produit au contraire des effets négatifs
- Ces outils ne sont efficaces que lorsqu’ils sont choisis et utilisés volontairement ; les personnes qu’on y pousse de force n’apprennent jamais à bien les manier
- Les CEO sont très éloignés du dernier kilomètre (last mile) de l’exécution concrète, et ne voient dans l’IA que le résultat fluide du happy path, en ignorant la multitude de tâches de suivi nécessaires derrière
- Il y a une différence entre « ça fonctionne » et « ça fonctionne correctement, à grande échelle et dans un environnement donné » ; pour couvrir des détails comme la sécurité, la conformité réglementaire ou l’accessibilité, il faut du personnel qualifié
- La plupart des entreprises qui justifient de vastes réductions d’effectifs au nom des LLM se servent en réalité de l’IA comme d’un prétexte pour masquer une surembauche
Réactions excessives des CEO face à l’IA
- J’ai vu quatre cas au cours des trois derniers mois, et tous suivaient un schéma similaire
- Un e-mail adressé à toute l’entreprise (all hands) vantant le caractère extraordinaire des outils LLM, avec un message du type : si tout le monde ne les apprend pas immédiatement, il faudra envisager de chercher un autre emploi
- L’embauche de « consultants » pour enseigner l’usage de ces outils, ou l’organisation d’« office hours » ou de « hackathons IA » en interne
- Le pire cas consiste en la mise en place, dans certaines entreprises, de classements de tokens, probablement l’une des façons les plus absurdes d’encourager l’apprentissage des LLM
- Bien utiliser l’IA, c’est aussi apprendre à considérer les tokens comme une ressource rare
- Comptabiliser comme positif le simple fait de consommer beaucoup revient à encourager un usage improductif qui gaspille facilement des tokens ; c’est irrationnel
L’importance du choix volontaire
- Les LLM peuvent être puissants lorsque les utilisateurs apprennent réellement à s’en servir et choisissent volontairement de les adopter comme outils d’assistance au travail
- Une personne à qui l’on impose un outil LLM n’apprend pas à bien l’utiliser
- Les employés ont eux aussi intérêt à mieux comprendre en profondeur la puissance et les limites des outils d’IA
- La force des LLM réside dans leur capacité à aider les employés à accomplir davantage de travail lorsqu’ils sont bien utilisés et utilisés volontairement
Le diagnostic d’Aaron Levie
- Le CEO de Box, Aaron Levie, bien qu’il soit lui-même un fervent partisan de l’IA, identifie avec justesse la cause de cette surchauffe chez les CEO
- Les CEO sont encore trop éloignés du dernier kilomètre opérationnel nécessaire pour produire l’essentiel de la valeur avec l’IA, ce qui les rend enclins à tomber dans une « AI psychosis »
- Quand ils manipulent l’IA, ils ne voient que le résultat fluide, sans prendre en compte les 10 à 20 tâches de suivi nécessaires pour obtenir un résultat durable
- « J’ai créé un superbe prototype produit » → mais il faut encore relire le code avant le déploiement en production et corriger divers problèmes
- « J’ai généré un contrat » → mais il faut encore vérifier toutes les clauses avant l’envoi à l’autre partie, ou le relier aux contrats passés
- Le mieux qu’un CEO puisse faire, c’est utiliser massivement l’IA afin de comprendre, en environnement enterprise, les implications réelles des agents, et d’appréhender à la fois leurs atouts et la quantité réelle de travail nécessaire
- Cela dit, le terme même de « AI psychosis » prête à confusion, et de nombreux psychologues et psychiatres le jugent inexact
Des CEO déconnectés et une pensée de type cargo cult
- Une grande partie du problème vient du fait que les CEO traditionnels sont déconnectés des personnes qui accomplissent réellement le travail
- À travers les équipes et les niveaux hiérarchiques, la réalité du travail opérationnel ne leur remonte que de façon fragmentaire, via l’organigramme
- Le problème apparaît quand un CEO reçoit un outil agentique comme Claude Code, voit qu’il peut créer quelque chose qui fonctionne, puis se dit : « si je peux le faire moi-même, pourquoi avons-nous besoin d’autant de personnel ? » — ce type de CEO est précisément un mauvais CEO
- Si l’on emploie des salariés, c’est pour gérer tous ces petits détails cruciaux peu visibles depuis le bureau du CEO : sécurité, conformité réglementaire, accessibilité, etc.
- « Faire fonctionner quelque chose », « bien le faire fonctionner », « bien le faire fonctionner à grande échelle » et « bien le faire fonctionner à grande échelle dans un environnement donné » sont quatre choses différentes
- Il existe un grand écart entre fabriquer quelque chose qui marche et construire un produit sûr et réellement utilisable pour le marché de masse
- Le raccourci « puisque j’ai pu le faire, tout le monde peut le faire » passe totalement à côté de la raison même pour laquelle on recrute des personnes qualifiées et expérimentées
- L’usage optimal n’est donc pas forcément de fabriquer un outil grand public, mais de créer des outils entièrement personnalisés qui aident sur des tâches précises
- Cela ressemble à une pensée de type cargo cult : le CEO voit Claude Code produire quelque chose qui marche et croit que cela équivaut au travail de ses employés, alors que toutes les étapes invisibles qu’ils prennent en charge restent indispensables
Les failles de la logique des réductions d’effectifs
- Voir des CEO s’enthousiasmer totalement pour l’IA puis conclure aussitôt qu’ils peuvent licencier la moitié de leurs employés est à la fois sombre et grotesque
- Les entreprises qui croient pouvoir réduire massivement leurs effectifs à cause des LLM découvriront vite qu’elles se trompent
- La puissance des LLM ne signifie pas qu’il faut moins d’humains ; elle consiste à accroître la productivité des employés quand ils s’en servent bien et volontairement — en réalité, il faut plutôt davantage d’humains capables de travailler de façon productive
- La plupart des entreprises qui mettent en avant les LLM pour justifier des licenciements de grande ampleur s’en servent surtout comme d’un prétexte
- Elles ont surrecruté, et le récit de « l’efficacité grâce à l’IA » passe mieux à Wall Street que celui de « mauvaises décisions de recrutement »
Conclusion
- Comme le recommande Levie, les CEO doivent apprendre comment fonctionne la technologie, mais cela doit inclure aussi ses limites
- Si un CEO pense que le prototype qu’il a bricolé en vibe coding est prêt pour la production, il faudrait le laisser le lancer lui-même et constater le résultat
- Si un CEO pense qu’un contrat rédigé en vibe coding est aussi solide qu’un contrat relu par un avocat, il découvrira ce que coûtent réellement les problèmes juridiques
- Les outils d’IA sont puissants, mais croire qu’ils remplacent le travail des employés fait simplement de leur CEO un mauvais CEO
3 commentaires
« Les outils ne sont efficaces que lorsqu’on choisit de les utiliser de son plein gré ; les utilisateurs qu’on y pousse de force ne les maîtrisent jamais vraiment. »
Je suis tout à fait d’accord avec ça.
svp
Avis sur Hacker News
Cette vieille blague me revient : « 90 % du code, c’est 90 % du travail. Les 10 % restants du code, c’est encore 90 % du travail »
Depuis 1986, j’ai passé la quasi-totalité de ma vie d’adulte à lancer des produits, et l’une des premières choses que j’ai apprises, c’est que le « lancement » pèse davantage que la « conception »
Il y a une quantité énorme de travail pour livrer un produit que l’on met sur le marché sous sa propre marque et qu’il faut ensuite supporter
C’est un peu comme avoir des enfants. La conception est agréable, l’accouchement est douloureux, et les élever, c’est l’affaire de toute une vie
Je pense que c’est pareil pour les produits lancés contre rémunération
Selon eux, une nuée d’agents parcourt GitHub, Slack et les wikis pour déterminer quoi faire ensuite, puis une autre nuée d’agents s’occupe des revues de code, des tests, des fusions, des déploiements, des tests A/B et même des rollbacks
Boris a fusionné à lui seul près de 300 PR sur les une à deux dernières semaines, donc les laboratoires de pointe donnent l’impression d’avoir brisé le sceau de la productivité
Et ils parlent d’une IA récursive d’auto-amélioration si puissante et autonome que toutes les entreprises devraient se préparer à « arrêter » leurs efforts
La model card de Fable/Mythos[1] contient aussi des restrictions disant en substance que le modèle est trop puissant pour être laissé à l’usage du grand public, et qu’ils refuseront les demandes de réglage et d’entraînement du modèle
[1] We’ve implemented new interventions that limit Claude’s effectiveness for requests targeting frontier LLM development (for example, on building pretraining pipelines, distributed training infrastructure, or ML accelerator design). Using Claude to develop competing models already violates our Terms of Service, but enforcing this restriction through our safeguards avoids accelerating the actors most willing to violate these terms. Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT)
Il faut d’abord construire un produit complet riche en fonctionnalités, puis en faire une présentation extrêmement condensée qui permette de faire apparaître toutes ces fonctionnalités sur une landing page
Si un visiteur ne peut pas comprendre l’ensemble d’un produit complexe en 10 secondes, c’est déjà perdu
Un produit doit être complexe. Le marché du logiciel est déjà comme ça, et les fruits les plus faciles à cueillir ont tous été ramassés au moment où on les découvre
Il y aura certainement des gens qui gagneront de l’argent grâce à de nouvelles opportunités faciles créées par les évolutions technologiques, mais il est peu probable que ce soit vous. Vous n’aurez pas le réseau business nécessaire pour que cela se concrétise
Ça me fait aussi penser à « 90 % du jeu, c’est à moitié mental »
Il y a vraiment beaucoup de mauvais CEO. C’est d’ailleurs assez comparable aux politiciens. Devenir CEO est assez difficile, mais les compétences nécessaires pour atteindre ce poste et celles requises pour bien faire le travail ne se recoupent pas toujours
Savoir qui flatter et qui ne pas flatter, puis avoir la chance d’être là au bon moment, ça compte beaucoup
Les cas où un CEO est réellement compétent dans son travail me semblent extrêmement rares
La plupart du temps, c’est la classe laborieuse qui porte l’entreprise, et dans certains cas les employés maintiennent même l’entreprise à flot contre la volonté du CEO
Je ne dis pas que les dirigeants veulent détruire l’entreprise, mais qu’ils sont incompétents et continuent à prendre des décisions lamentables
Au fond, ce qu’il faut pour devenir CEO, c’est convaincre quelqu’un que s’il te prête de l’argent, il sera remboursé
J’ai travaillé sous les ordres de personnes vraiment atroces, du genre qui n’auraient probablement réussi aucun entretien, mais elles étaient CEO parce qu’elles avaient le talent constant d’attirer toujours plus d’argent
La plupart avaient des parents riches pour les financer, et sont entrés dans des établissements prestigieux grâce au piston des anciens élèves
Beaucoup étaient plus intelligents que la moyenne, mais absolument pas des génies
Leur richesse leur a permis d’avoir accès à un ordinateur plus tôt que les autres
On dirait qu’ils ne comprennent pas, ou ne veulent pas comprendre, qu’en moyenne ce sont avant tout des « nepo babies »
Bien sûr, être CEO d’une entreprise comme Microsoft serait très difficile et très lourd à porter à bien des égards, mais la plupart des CEO n’occupent pas ce genre de poste
D’après ma seule expérience, la plupart des CEO et CTO étaient des imbéciles qui ne connaissaient rien à rien
Cela dit, je programme depuis 25 ans et je n’ai été CEO que pendant 3 ans, donc il faut prendre ça avec un certain recul
Je pense qu’on surestime beaucoup ces titres. Au final, tout dépend de ce que fait réellement l’entreprise et de ce que ce poste exige dans cette entreprise
Le CTO d’une boîte SaaS sans grand intérêt pourrait être un jeune diplômé tout juste sorti de l’université. Il est probablement en train de faire quelque chose de trivial que n’importe qui, y compris un LLM, pourrait assembler
À l’inverse, le CTO d’un service de streaming largement utilisé, fiable, et qui traite une part significative du trafic Internet mondial, résout des problèmes bien plus intéressants et difficiles, et ses décisions ont bien plus d’importance
J’ai vu passer sur Xitter l’idée que « tout CEO qui veut remplacer des emplois par l’IA devrait commencer par remplacer sa secrétaire par une IA », et je trouve que c’est une règle parfaite
Toutes les démos d’IA ne sont au fond que des variantes d’assistant personnel, donc l’IA devrait être capable de faire ce travail, non ?
Je parie qu’il n’y aurait zéro volontaire parmi les CEO qui ont une secrétaire
Je précise que ce n’est pas une attaque contre les assistants humains. Ils font un travail utile et ne devraient pas être remplacés par l’IA
Quelqu’un chez OpenAI a dit que c’était désormais meilleur qu’un médecin. Ce n’est pas moi qui l’ai dit, c’est lui. Donc j’imagine qu’il a remplacé son propre médecin, non ?
Une IA sur mesure serait probablement assez bonne pour remplacer un CEO. Il suffit de penser à tout ce que l’entreprise pourrait faire en réduisant autant les frais généraux
Le code sera produit par des humains + une IA, et la gestion sera assurée uniquement par l’IA
Les CEO comprennent que l’IA offre un potentiel de gain de productivité. Utiliser ce gain de productivité pour réduire les effectifs, c’est une approche qui manque d’imagination
Une approche plus audacieuse serait d’utiliser ce surplus pour dépasser les attentes des clients existants, ou pour augmenter le chiffre d’affaires sans accroître les effectifs dans les mêmes proportions
Il y a vraiment beaucoup de mauvais CEO
Il y a aussi vraiment beaucoup de mauvais développeurs logiciels
Quand les deux se rencontrent, c’est le développeur logiciel qui se fait licencier
Le CEO, lui, exerce ses stock-options quelque temps plus tard et s’en va
Le CEO moderne d’une société cotée ressemble souvent davantage à un gestionnaire de hedge fund qui cherche à extraire le dernier dollar possible de la main-d’œuvre. L’IA est pour eux un levier séduisant, mais peu efficace
Si l’IA vous rend plus compétent, c’est fondamentalement comparable au fait d’avoir reçu un apport en capital
Un CEO qui voit ça et pense qu’il faut réduire les effectifs montre aussi qu’il ne sait pas comment utiliser les ressources supplémentaires
Pourquoi ne peut-on pas créer des modèles d’IA pour remplacer ces CEO-là ? Ils ont l’air de pouvoir assez bien gérer une entreprise
Et les employés qui pensent que l’IA va remplacer leur propre CEO ?