Le délire collectif autour des LLM dans notre entreprise
(blog.avas.space)- Témoignage direct d’une situation paradoxale vécue dans une entreprise en difficulté financière, où les budgets des activités essentielles sont réduits alors que l’adoption de l’IA continue d’être financée
- Alors que les bonus sont supprimés depuis des années et que les effectifs, les licences et les bases de données sont amputés, les dépenses pour des consultants, ateliers LLM, licences ChatGPT et Copilot sont approuvées immédiatement
- Lors de réunions d’entreprise réunissant plusieurs centaines de personnes, diverses équipes ont tenté des projets LLM, mais pas un seul n’a abouti
- Les cas d’usage généraux présentés se limitent à des démonstrations inutiles ou risquées, comme demander au bot comment il va, résumer un menu de déjeuner d’une page, ou téléverser des e-mails suspects dans ChatGPT
- L’auteur qualifie ce phénomène de délire collectif incontrôlable et y voit un moment de rupture de confiance, révélant que des changements que le leadership aurait pu mettre en œuvre depuis longtemps avaient en réalité été bloqués délibérément
Une situation financière contradictoire et le contexte de l’adoption de l’IA
- L’employeur fait face à des difficultés financières chroniques, et les postes vacants ne sont pas remplacés mais simplement supprimés
- Il y a deux ans, les bonus des employés performants ont été définitivement supprimés
- Les ressources indispensables sont coupées, avec pour seul message : « débrouillez-vous »
- Plusieurs services sont en surcharge chronique faute de recrutements, et pour réduire les coûts, des licences critiques et des bases de données importantes ont été supprimées
- Malgré cela, les dépenses liées à l’IA bénéficient d’un traitement d’exception
- Le budget est trouvé pour embaucher des consultants recommandant de « tout miser » dessus
- Le budget est trouvé pour des ateliers et séminaires externes sur les LLM pendant plusieurs années
- Le budget est trouvé pour les licences à la fois de ChatGPT et de Copilot
- L’auteur souligne que les bonus des employés et les budgets de soutien au travail partent dans les poches d’escrocs, vers des risques de sécurité, des ateliers inutiles et des techno-fascistes
L’échec généralisé des projets LLM à l’échelle de l’entreprise
- Des réunions récurrentes sont organisées, où chaque département enregistre et pilote des projets LLM avant d’en présenter les résultats
- L’auteur a assisté à toutes ces réunions, mais aucun cas réellement réussi n’a jamais émergé
- Des centaines de personnes, plusieurs équipes, des profils très enthousiastes vis-à-vis de l’IA et toutes sortes de projets ont été mobilisés
- Tous les projets ont abouti aux mêmes conclusions : « ça ne fonctionne pas », « cela ne fait pas gagner de temps », ou « cela rend les choses encore plus compliquées »
- Malgré les ateliers, le « prompt engineering », les GPT personnalisés, les documents préparatoires et les modèles, il a été impossible d’obtenir un effet reproductible (hors domaine du code)
- À chaque fois, il s’agissait d’un pari brouillon, demandant beaucoup de temps pour ajuster, itérer, vérifier les sorties et corriger les erreurs
- Les principaux griefs étaient l’absence de prise en compte de certains documents, les hallucinations, et l’incapacité à remplir ou éditer correctement des documents
- Même avec des licences Enterprise, les limitations restaient trop importantes
Démonstrations de cas d’usage généraux sans intérêt
- Il existe aussi des réunions consacrées à des cas d’usage généraux pour le travail quotidien, sans lien avec un projet précis
- Une fonctionnalité permettant de demander au bot « Comment te sens-tu aujourd’hui ? » a été présentée très sérieusement
- Ce n’était ni une blague ni une satire, mais une démonstration supposée être tournée vers l’avenir et plus humaine
- L’auteur insiste sur le fait que, cinq ans plus tôt, proposer un abonnement à plusieurs milliers de dollars pour avoir des conversations creuses avec un bot aurait suscité des moqueries, et que cette réaction serait toujours la bonne
- Une démonstration montrait comment téléverser dans ChatGPT la feuille Excel d’une page du menu de la cantine sur l’intranet, puis demander « qu’y a-t-il au déjeuner mercredi ? »
- La réponse du bot était plus longue que la lecture complète de la feuille
- Télécharger, téléverser et rédiger le prompt prenait plus de temps que lire directement la feuille
- Pour une information visible d’un seul coup d’œil, le bot est inutile
- Dans un exemple présenté directement par un responsable IT, il était recommandé d’enregistrer sur le bureau des e-mails de spam, de phishing ou avec pièces jointes suspectes, puis de les téléverser dans ChatGPT pour vérification
- L’auteur souligne le danger qu’il y a à pousser des employés peu à l’aise avec la technique à enregistrer des fichiers suspects sur leur ordinateur portable professionnel
L’effet Dunning-Kruger amplifié par l’IA
- L’IA amplifie chez les gens l’effet Dunning-Kruger, en donnant à tout ce qu’ils essaient une apparence plus intelligente et plus légitime
- Elle permet de faire passer des tâches banales et sans valeur pour quelque chose d’important et de révolutionnaire
- Les évangélistes de la technologie ont l’impression de participer à une immense révolution et imaginent le jour où leurs critiques devront s’excuser
- L’auteur s’inquiète de voir des personnes responsables et compétentes se transformer, sans raison claire, en agents publicitaires des entreprises d’IA
- Des profils qualifiés se retrouvent rabaissés au niveau de vendeurs porte-à-porte vantant mensongèrement les vertus d’un détergent
Du pur hype et une rupture de confiance
- L’adoption est imposée alors qu’il n’existe pas de problème concret à résoudre et qu’au moins 90 % des employés n’ont pas un travail qui bénéficierait de Copilot ou d’outils similaires
- On invente des problèmes là où il n’y en a pas, en multipliant les tentatives pour consommer des tokens et justifier des abonnements
- L’auteur y voit un simple alibi de façade pour pouvoir dire à la hiérarchie : « au moins, on a essayé »
- Tous les usages sont justifiés au nom de « l’exploration » et du « jeu », ce qui minimise l’impact des pertes de temps, de l’argent gaspillé et des pouvoirs à l’œuvre en arrière-plan
- L’auteur s’interroge sur la vitesse de déploiement de l’IA
- Dans un environnement où l’on répétait sans cesse qu’il n’y avait jamais d’argent, une technologie instable aux coûts initiaux massifs a pourtant été validée immédiatement
- Une nouvelle technologie qui échappait jusque-là au secteur public capte soudain toute l’attention
- Une organisation à laquelle il fallait des années, voire une décennie, pour introduire un changement a acquis en un instant l’infrastructure IA et les capacités organisationnelles nécessaires
- C’est, selon l’auteur, le moment où le masque tombe : cela révèle que la lenteur du changement dans l’organisation n’était pas une fatalité, mais un choix délibéré de conception
- Les obstacles n’étaient pas essentiels, mais des faux-semblants arbitraires
- Pour les employés, cela devient un moment de destruction totale de la confiance
Les questions pour la suite
- L’auteur pose une question fondamentale : comment oublier et passer à autre chose après avoir vu les adultes respectés d’une organisation dite « progressiste » se ridiculiser eux-mêmes au nom du « progrès »
- Une culture s’est installée pendant des mois, au point de donner l’impression d’être gaslighté en permanence et de se demander si l’on n’est pas devenu fou
- L’auteur affirme ne pas pouvoir oublier cette expérience, qu’il décrit comme « mon deuxième Covid »
- En conclusion, il dit être sincèrement heureux pour ceux qui n’ont pas à vivre cela dans leur entreprise, et applaudit les secteurs et les personnes qui utilisent l’IA avec discernement pour obtenir de bons résultats
- Mais puisque des situations comme celle-ci existent réellement, il demande de ne pas nier cette expérience et de permettre à ceux qui l’ont vécue d’exprimer ensemble cette folie
3 commentaires
Même sans résultat, n’est-ce pas malgré tout un effort pour maintenir l’organisation et survivre…
Si cet effort se fait au final "reprocher de faire partir l'argent vers des escrocs, des risques de sécurité, des ateliers inutiles et des techno-fascistes", on ne peut sans doute pas dire que c'était un effort bien employé.
Avis sur Lobste.rs
Mon entreprise n’est pas aussi mauvaise que ça, mais la direction est la même. Il n’y a pas d’argent pour les nouvelles embauches ni pour les augmentations, mais il y en a toujours pour les consultants business, les énormes licences logicielles COTS d’entreprise et les abonnements à l’IA
Même en retirant un peu de sarcasme, il reste fréquent que, y compris dans des organisations moins rigides que l’administration, il soit plus facile d’obtenir un budget pour « acheter des choses » que pour « payer les employés »
Ce que l’auteur décrit, c’est une situation où la direction est presque fatalement incompétente dans la gestion de l’activité.
L’auteur devrait chercher un nouveau poste avec une direction moins incompétente. Si ce n’est pas possible, il faut prendre d’autres mesures pour survivre et préserver sa santé mentale
Ça ne veut pas dire que les FAANG sont à l’abri d’une incompétence fatale, mais plutôt que l’ambiance du genre « ah, ça résume les e-mails et les menus du déjeuner ?! » est bien plus répandue qu’on ne le pense
Dans l’ensemble, mon expérience est un peu plus positive.
Mais quand on passe dans un aéroport et qu’on voit les pubs sur l’IA visant les dirigeants, on se dit que, oui, la situation à l’extérieur est vraiment grave
L’usage des LLM me donne une impression très similaire sur ce point. Si l’on comprend ce que l’outil peut faire et comment l’appliquer efficacement, il fait réellement gagner du temps ; mais si l’objectif est juste de cracher du code le plus vite possible, on finit avec une confusion presque impénétrable