Si vous reparlez encore d’IA, je vous fais un piledriver
(ludic.mataroa.blog)« Les récentes avancées dans le domaine de l’IA, comme GPT-4, auront un impact considérable sur la société. Cela va de l’utopie où les tâches répétitives disparaissent à la dystopie où les moyens de subsistance des artistes sont menacés, jusqu’à une menace existentielle pour l’humanité elle-même. »
- L’auteur a reçu une formation formelle en tant que data scientist, et son niveau est suffisamment élevé pour avoir remporté une compétition de ML organisée dans l’une des meilleures universités d’Australie
- Mais il n’est pas le meilleur, et se situe plutôt au niveau de quelqu’un capable d’utiliser des bibliothèques développées par des institutions d’élite et d’implémenter des solutions connues dans des langages de haut niveau
- Mais la prochaine personne qui reparlera d’IA aura droit gratuitement à un ajustement chiropratique « qui lui brise le cou », donc l’auteur présente ses excuses sincères à l’avance
I. Mais on va réaliser d’énormes gains d’efficacité grâce au machine learning-
« Tu n’as pas entendu ce que je viens de dire ? »
- L’auteur travaille comme data scientist depuis 2019, mais en 2021 il a compris que le secteur était important, certes, mais rempli d’arnaques
- La plupart des dirigeants n’avaient même pas passé 30 minutes à lire quoi que ce soit sur l’IA, tout en affirmant qu’il fallait se concentrer dessus
- Le nombre d’entreprises lançant des initiatives IA dépassait de très loin le nombre de cas d’usage réels
- Le marché était plein d’escrocs et d’incompétents
- L’auteur s’est réorienté vers la data/software engineering
- Le battage médiatique n’est pas bon pour les développeurs
- On peut avoir des amis honnêtes et une âme, mais on ne peut pas changer de domaine facilement
- Les emplois en data science ont disparu, et le cycle de hype s’est déplacé vers la data engineering
- L’auteur a cru que l’IA était enfin terminée, mais...
- Puis quelqu’un a créé ChatGPT, et maintenant on déploie des efforts d’ingénierie énormes pour ajouter un support de chatbot à toutes les applications
- Alors que la moitié du secteur ne sait même pas comment tester régulièrement ses sauvegardes de base de données...
- S’il faut recourir à la violence contre le prochain idiot qui suggérera que l’IA est l’avenir du business, c’est parce qu’il est désormais impossible de le distinguer des centaines de millions d’imbéciles volontaires qui pensent la même chose !
II. Mais on a besoin de l’IA pour rester compétitifs-
« Ô Seigneur miséricordieux, s’il te plaît, arrête de parler. À moins que tu ne fasses partie du petit nombre d’entreprises qui savent exactement comment utiliser l’IA, tu n’en as pas besoin »
- Les intelligences artificielles actuellement existantes et utiles sont probablement déjà intégrées à la chaîne d’approvisionnement des logiciels métiers
- Les prestataires de sécurité managés utilisent probablement des algorithmes intégrés à leurs logiciels de labo pour détecter des anomalies de trafic
- Eux non plus n’ont sans doute pas fait beaucoup de travail en IA, ils ont simplement acheté un logiciel dans un petit segment de marché où il faut réellement embaucher des data scientists
- Vous avez peut-être envie de devenir le prochain Steve Jobs et de parler de capacités révolutionnaires, mais cela ne vous autorise pas à porter un col roulé
- Et même si c’était le cas, pour survivre à l’assaut de l’auteur, il vous faudrait une armure en plaques plutôt qu’un pull
- La plupart des entreprises sont incapables de développer et de déployer avec succès, dans les délais et le budget, ne serait-ce que les applications CRUD les plus simples
- En travaillant avec des gens intelligents et avec des exigences raisonnables, une équipe compétente peut pourtant y parvenir à chaque fois
- Les clients avec lesquels l’auteur travaille aujourd’hui, même quand ils ne sont pas du tout technophiles, respectent l’intelligence des autres, « parlent comme des adultes » et résolvent les problèmes ensemble
- Mais la plupart des entreprises sont opérationnellement et culturellement handicapées au point d’en être incapables
- La durée moyenne de présence des ingénieurs est d’environ 1 à 2 ans, si bien que l’organisation souffre d’une amnésie institutionnelle régressive
- Dès que quelqu’un propose de supprimer le privilège du télétravail pour l’équipe d’ingénierie, les meilleurs ingénieurs partent
- À chaque attaque par ransomware, on découvre que personne n’a testé les sauvegardes depuis 6 mois et qu’il est impossible de remettre en service la moitié des systèmes legacy
- L’auteur l’a vu arriver deux fois en quatre ans. Vous vous rendez compte à quel point c’est dingue ?
- La plupart des organisations sont incapables de livrer de manière fiable les applications les plus basiques, et vous êtes là à dire qu’introduire une technologie expérimentale est la meilleure façon de rester compétitif
- Une technologie à un niveau bien au-dessus de tout ce que votre département IT exploite, sans expérience de recrutement adaptée et sans même avoir déjà utilisé un GPU
- Et même si vous faisiez tout correctement, il est possible que la nature de vos données et de votre activité empêche quand même de résoudre le problème
- Ce n’est pas une recette pour le désastre, c’est un livre de cuisine pour quelqu’un qui veut préparer une catastrophe en 12 plats
- Et si vous restiez compétitifs simplement en « corrigeant correctement votre propre bazar » ?
- L’auteur a vu une entreprise autoriser un senior data scientist ayant accès à des dossiers clients sensibles à conserver ses mots de passe dans un fichier texte sur son ordinateur de bureau
- Et vous vous inquiétez de savoir si utiliser l’IA pour améliorer la sécurité, par un mécanisme que vous n’avez même pas encore imaginé, est ce qu’il y a de mieux pour vos clients ?
- Vous dites des choses « tellement stupides » que l’auteur va vous donner un coup de pied dans la mâchoire jusqu’à ce qu’un médecin vous la ligature avec du fil de fer, rassure tout le monde, et nous offre 10 secondes bénies de silence pour qu’on puisse « résoudre de vrais problèmes »
III. Pourtant, on a déjà vu des bénéfices massifs-
« Quand j’étais jeune, j’ai lu le roman de fantasy classique de R.A. Salvatore, The Crystal Shard. On y voit le héros Wulfgar défier un chef barbare en duel afin de conduire son peuple vers une guerre destinée à sauver le monde. Le combat se termine quand Wulfgar jette son arme, saisit la tête du chef à mains nues et le supplie de se rendre pour ne pas devenir un meurtrier »
- Voilà, c’est exactement moi. Je te supplie d’arrêter de mentir. Je n’ai vraiment pas envie de t’écraser le crâne.
- « Mais si tu m’y obliges, je le ferai ».
- Hier, l’auteur a vu le « rapport 2024 sur la préparation à l’IA » de Scale, et il y était indiqué que 8 % des entreprises n’avaient constaté aucun résultat productif de l’adoption de l’IA
- Il faudrait être assez idiot pour croire que seulement « 8 % » des entreprises ont échoué dans leurs projets IA ?
- Elles n’arrivent déjà pas à gérer correctement des applis CRUD de façon constante, et vous pensez que ce chiffre n’est pas ridicule ?
- Pendant la vague des LLM, « certaines » entreprises ont peut-être tiré des bénéfices, mais certainement pas « 92 % »
- 34 % des entreprises auraient déclaré que l’IA générative les aide dans la prise de décision stratégique ?
- Mais qu’est-ce que c’est que ce délire ? GPT-4 n’arrive même pas à produire de l’Elixir cohérent avec le niveau qu’il a en Python
- Et vous reconnaissez que vous confiez des décisions à ce truc qui « dit parfois à des gens de préparer des toxines mortelles que leur famille va ingérer » ?
- L’auteur n’y croit pas. Aucune personne saine d’esprit n’y croit.
- Si votre conseil d’administration croit ce que vous avez écrit dans cette enquête, il devrait vous virer
- L’auteur comprend enfin pourquoi certains de ses amis estiment qu’ils « doivent absolument » occuper des postes de direction
- Parce qu’avant que vous ne nous poussiez tous collectivement du haut d’une falaise, quelqu’un doit bien arracher les rênes du pouvoir à vos griffes de lézard
- Il y a quelques années, un ami de l’auteur a été invité dans une organisation FAANG et s’est rendu aux États-Unis, où de nombreuses présentations étaient des démonstrations techniques de produits d’IA impressionnants
- Ingénieur logiciel, il a passé du temps en coulisses avec les développeurs et a découvert que « la plupart des démos étaient truquées »
- Les produits ne fonctionnaient pas, et ils n’arrivaient pas à résoudre des problèmes mineurs comme « prédire ce qu’ils étaient censés prédire »
- Cela ne les a pourtant pas empêchés de débiter pendant une heure un non-sens absolu devant un public captivé !
- Ingénieur logiciel, il a passé du temps en coulisses avec les développeurs et a découvert que « la plupart des démos étaient truquées »
- Un autre ami examinait un logiciel destiné aux services d’urgence, et les commerciaux ne s’attendaient pas à ce que l’acheteur côté services d’urgence soit un programmeur passionné
- À cause de cette culture de la sécurité déplorable, ils ont « révélé par accident que le service n’était au final qu’un type en Inde »
- L’auteur le prendrait personnellement avec philosophie, puisqu’en échangeant sa place avec ses cousins indiens il ne serait lui aussi qu’un type en Inde
- Mais « vendre le travail de gens qui me ressemblent à un gouvernement étranger en utilisant le mot IA », c’est ignoble, et vous êtes un monstre immoral
- Si vous continuez à tenter
try { thisBullshit(); }, vous finirez par recevoircatch (theseHands)
IV. Mais il faut se préparer pour l’avenir-
« Je vais demander à ChatGPT comment préparer une laisse, puis je vais t’étrangler avec. Et toi, tu n’auras plus qu’à 'prier' pour que ChatGPT pète un câble avec 10 % de probabilité et dise qu’une laisse doit être faite uniquement de papier et de malveillance. »
- J’ai vu des dirigeants débattre de la nécessité d’adopter immédiatement l’IA générative pour préparer le travail de demain
- Même si tous les discours sonnent pareil, à les voir gesticuler, parler et s’efforcer de ne pas baver, il est évident qu’ils se sont beaucoup entraînés !
- Parlons sérieusement un instant :
- L’auteur ne fait pas partie du camp, tout aussi peu sérieux, qui pense que l’IA générative n’a aucun potentiel pour bouleverser brutalement le monde
- Il se souvient avoir été à moitié convaincu que les premières démos de GPT-2 étaient truquées d’une manière ou d’une autre, avant de constater qu’il avait tort
- Du coup, il n’est plus vraiment certain de quoi que ce soit sur ce qui est en train de se passer
- Mais il a la formation technique nécessaire pour comprendre les principes fondamentaux de la technologie, et il semble que nous nous dirigions vers l’une de trois directions
- Une explosion de l’intelligence se produit, l’IA s’améliore elle-même de façon récursive, et nous finissons moissonnés comme matière première
- Parce que l’algorithme du marché découvre que les humains pourraient être convertis en un nouvel époxy appelé « gloobna » pour des extraterrestres ayant une forte demande en réparation de machines à café
- Dans un tel scénario, l’auteur se soucie assez peu des revenus de l’entreprise
- Il s’avère que l’approche actuelle ne passe pas à l’échelle autant qu’espéré, pour diverses raisons : manque de données, problèmes d’architecture, etc.
- Dans cet univers, « certains » secteurs, comme le support client, seront fortement perturbés
- Si l’on continue simplement à engranger des gains incrémentaux de cette manière, alors l’entreprise n’a tout simplement pas besoin d’IA générative. Si elle en a vraiment besoin, elle saura « exactement » pourquoi
- Un truc comme la conversion des filtres en langage naturel de Todoist vers son langage de filtrage interne est réellement utile. Mais « sans cas d’usage », ce genre de fonctionnalité large n’est en pratique pas très utile
- La seule chose à faire, c’est « améliorer les opérations et la culture », et vous aurez alors les capacités nécessaires pour utiliser l’IA quand elle deviendra pertinente
- Tout le monde parle de génération augmentée par récupération, mais la plupart des entreprises n’ont en réalité même pas de documentation interne qui vaille la peine d’être recherchée. S’il vous plaît, « faites correctement votre boulot ».
- Ces problèmes fondamentaux sont résolus et cela débouche sur quelque chose qui remplace la programmation telle qu’on la connaît aujourd’hui, ou qui peut être identifié plus largement comme une intelligence générale
- Si l’IA générative décolle comme une fusée, « fabriquer un chatbot au hasard ne vous préparera pas à l’avenir »
- Taper « import openai » ne signifie pas que vous êtes à la pointe de l’intelligence artificielle
- L’entreprise sera dans la confusion à un niveau « exactement identique » à celui où elle serait si elle n’avait rien fait, et bien pire encore que si elle était restée fidèle aux fondamentaux
- Apprendre aux employés à utiliser ChatGPT pour écrire des e-mails aux parties prenantes ne va « pas permettre à l’entreprise de survivre à ça »
- Si l’on réussit à passer par le chas de l’aiguille entre un impact modéré et un impact du niveau d’un astéroïde qui extermine les dinosaures, alors tout sera « changé pour toujours », et votre préparation tiède n’aura pas plus d’effet qu’une fourmi qui « résiste péniblement » dans l’ombre d’un tsunami géant
- Si l’IA générative décolle comme une fusée, « fabriquer un chatbot au hasard ne vous préparera pas à l’avenir »
- Une explosion de l’intelligence se produit, l’IA s’améliore elle-même de façon récursive, et nous finissons moissonnés comme matière première
- Si un autre imbécile débarque pour dire qu’il faudrait implémenter une revue de code basée sur des LLM « pour relever le niveau » au lieu d’enseigner aux gens un minimum de discipline, j’apprendrai assez de judo pour l’envoyer dans le soleil
- Je ne saurais trop insister sur le fait qu’il faut soit être « à l’absolue pointe du progrès et produire de nouvelles recherches », soit, à part quelques concessions mineures consistant à intégrer des LLM, faire exactement ce qu’on faisait il y a cinq ans
- « Ce qu’il y a entre les deux n’a absolument aucun sens ». Sauf si vous travaillez dans l’un des rares secteurs qui sont « en train d’être complètement bouleversés en ce moment même ».
V. Mais tout le monde dit l’utiliser-
« Vous imaginez combien de politiques publiques sont réellement rédigées par ChatGPT avant qu’un bureaucrate ennuyeux ne rentre chez lui toucher de l’herbe ? Combien de services ont des LLM qui tournent en rond entre eux pendant que des gens, lassés des conneries, collent des échanges d’e-mails dans des fils sans fin ? Je “garantis” qu’il y a un médecin dans un rayon de 10 km autour de moi qui a balancé des symptômes dans un chatbot et a mal diagnostiqué un patient »
- En tant que société, qu’est-ce qu’on est en train de « faire », au juste ?
- Il a demandé à un dirigeant d’un organisme qui délivre des certifications importantes — utilisées pour vérifier l’aptitude à exercer des métiers potentiellement vitaux et à se conformer au droit de l’immigration — s’il était possible de détecter la triche des étudiants
- Il allait répondre « Non, probablement pas », mais un doute lui est venu, alors il a dit à la place :
« Je pense que ce serait possible, mais comme plus de 50 % des étudiants trichent actuellement, il faudrait les suspendre, ce qui aurait un effet sérieux sur les revenus. On regarde quand même ? »
- Depuis, ils n’en reparlent plus
- Il a demandé à un mentor qui travaille actuellement dans le secteur public ce qu’il pensait d’une conversation particulièrement gênante à laquelle il avait assisté
Moi : question sérieuse, les gens croient-ils vraiment à des idioties pareilles ? Ou bien est-ce que c’est en majorité une mise en scène sophistiquée, dans une triste tentative de soutirer de l’argent aux escrocs de l’IA ?
Mentor : pour répondre de la manière la plus politique possible… il y a des gens qui ont bu le Kool-Aid. Il y en a qui ne l’ont pas bu. Et puis il y a ceux qui essaient d’en mélanger autant que possible. À toi de voir qui va dans quelle catégorie.
- J’ai pris ma décision, et même si je ne peux pas distinguer ceux qui boivent le Kool-Aid comme une arme de ceux qui le produisent en masse, j’en attraperai « certains d’entre eux » avant que les autorités ne m’arrêtent
- Avec un peu de chance, ils perdront des mois à demander à un LLM où je me trouve
- Alors que je passais des vacances à Fidji, au dernier petit-déjeuner au resort, une serveuse a apporté un formulaire d’inscription
- C’était totalement gratuit et il y avait même des cadeaux. Tout le monde dans le restaurant signait immédiatement
- En parcourant les conditions d’utilisation, j’ai vu qu’elles donnaient le droit d’utiliser toutes les données que je fournissais pour entraîner des modèles d’IA, et de partager ces modèles avec un nombre indéterminé d’entreprises affiliées
- Moi, je veux juste manger mes pancakes tranquillement, bande d’idiots
VI.
« Si je suis furieux, ce n’est pas parce que je “déteste” les LLM ou la mode de l’IA générative en elle-même. Je me suis amusé avec Copilot, mais j’ai fini par conclure que ça me rendait plus bête. C’est impressionnant, mais à part recracher du code passe-partout, ce n’est pas vraiment “adapté”. Programmer, c’est concevoir, et comme ces outils ne sont pas encore assez bons pour aider sérieusement sur ce point, ils n’ont pas apporté le gain de productivité massif auquel je m’attendais. »
- Ce que je déteste, ce sont les gens qui se sont accrochés à l’IA comme des sangsues aveugles qui se tortillent en suçant le sang
- Les mêmes qui, quand ce n’était pas populaire, adoraient disserter du potentiel de la blockchain pour le business
- Et quand j’ai assisté récemment à une conférence, ils débattaient à bout de souffle du « potentiel du quantique » sans sembler avoir la moindre idée claire de ce que c’était
- Sous un article que j’ai lu la semaine dernière, il y avait un petit sondage destiné aux responsables sécurité, et j’ai cliqué vite fait pour voir la question
- Alors, la voici. Cher dirigeant, qu’est-ce qui vous intéresse le plus ? L’intelligence artificielle, la blockchain ou l’informatique quantique ?
- Ils savent exactement quel est leur marché cible : des puissants à qui l’on confie « l’argent des autres », qui ont appris à sourire à tout et qui savent qu’ils peuvent imprimer de l’argent en surfant sur la prochaine mode spéculative
- Aucun des professionnels de la sécurité compétents que je connais ne s’intéresse à ça. Eux sont occupés à vérifier si les pare-feu sont correctement configurés et si l’organisation est en train de commit des mots de passe dans les dépôts
- Il faut des gens capables de comprendre l’impact de l’informatique quantique sur la cryptographie, mais ce n’est pas « Greg Synergie »
- Le genre de type dont la seule compétence identifiable, à part parler très vite et gonfler les effectifs, est inexistante
- Il ne faut jamais demander conseil à Greg Synergie sur quoi que ce soit d’important, de la MLOps à la meilleure façon de lacer rapidement ses chaussures
- La dernière fois que j’ai parlé à l’un des avatars de Greg Synergie, il m’a soutenu qu’il fallait mettre l’essentiel de son argent dans une cryptomonnaie appelée Monero, en disant que « la plupart des coins iront à zéro, mais l’un d’eux deviendra le dollar »
- « Voilà le visage de l’IA d’entreprise ». Regardez cette face atroce avec effroi : des yeux injectés de sang comme le diable lui-même, en train de faire semblant d’apprécier un cigare
- Dans mon cabinet de conseil, j’ai trois data scientists « vraiment excellents ». En vérité, à part les groupes qui font de la recherche expérimentale, on pourrait sans peine dire que deux d’entre eux font partie des meilleurs du pays, mais ils sont trop modestes pour le dire eux-mêmes
- Et malgré ça, nous ne vendons « aucun » service d’IA, quel qu’il soit. Le marché est tellement déformé que c’est « presque » aussi mauvais que de tremper un orteil dans l’univers crypto
- Je n’en suis pas encore à penser que toute personne ayant un jour tapé « import tensorflow » est un salaud, mais « on s’en approche »
- Ce genre de personnes est, en bref, répugnant pour quiconque a les idées droites
- En pratique, ce sont des gens honteux pour ceux qui font réellement avancer le domaine, et déshonorants pour ceux qui savent employer la technologie avec discernement pour améliorer le monde
- Ce sont aussi d’ennuyeux connards ignares qu’il faudrait jeter en prison pour leaders d’opinion jusqu’à ce qu’ils apprennent la leçon. Une prison pour laquelle je suis en train de lever des fonds
- Chaque matin, une silhouette encapuchonnée de noir, avec une voix rauque comme si elle gravait des épitaphes, donne pendant 60 minutes un TEDx aux managers détenus sur la façon dont cette institution révolutionne les châtiments corporels, avant de révéler que cette innovation consiste à leur coller chaque jour un énorme coup de pied dans le ventre
- Je suis dégoûté par le fait que la profession que j’ai choisie me mette si près de ces gens, et par le fait que j’étudie avec tant d’acharnement pour empêcher leurs syllabes nauséabondes de souiller mes oreilles
- Je dois fuir désespérément pour fréquenter les justes, ceux qui contribuent à l’OSS et pensent que parler d’agile toute la journée est une activité pour extraterrestres qui ont lu un livre sur la productivité humaine
- Je reviens tout juste d’un voyage dans un pays bien moins développé, et j’ai pu « voir », ne serait-ce qu’un instant, en y « vivant » vraiment, à quel point cet argent pourrait améliorer tant de vies
- Et pourtant, on le déverse de façon hallucinante dans les égouts de Microsoft Fabric, au point que j’ai l’impression d’entendre mes engrenages grincer
- Je le jure, je vais étudier, écrire, réseauter et, d’une manière ou d’une autre, « mettre de la force sur le problème »
- Jusqu’à ce que ces ressources aillent vers des endroits capables d’accomplir quelque chose pour la société, plutôt que dans le portefeuille d’un clown au sourire béat !
VII. Ah, donc vous faites partie de ces pessimistes de l’IA-
« Par Dieu, si vous vous remettez à parler d’IA une seule fois sans avoir personnellement écrit un système de machine learning, je vais vous envoyer par la poste une brique et une feuille marquée “prompt injection”, et je vous dirai de vous frapper le visage avec. Puis je resterai assis à attendre que vous la chargiez dans ChatGPT, puisque vous êtes probablement incapable de lire seul désormais, espèce d’imbécile monstrueux. »
PS
- Il y a beaucoup de nouveaux lecteurs, alors vous apprécierez peut-être aussi les textes ci-dessous :
- J’ai aussi un podcast, « Est-ce qu’une grenouille a une nature de scorpion ? », où je parle franchement de sujets tech avec des amis. J’espère que ça vous a plu !
3 commentaires
On peut difficilement dire que l'IA est surcotée quand la fréquence d'utilisation de la recherche Google a déjà chuté de plus de moitié.
"Nous sommes récoltés comme des éléments constitutifs"
Avis Hacker News