Le « Merci, IA ! » de Rich Hickey : l’immense benne à ordures créée par l’intelligence artificielle
(gist.github.com/richhickey)[Essai] Le « Merci, IA ! » de Rich Hickey : l’immense benne à ordures créée par l’intelligence artificielle
(Source originale : https://gist.github.com/richhickey/ea94e3741ff0a4e3af55b9fe6287887f)
Rich Hickey, créateur de Clojure, adresse une critique cinglante à la tendance de l’IA générative et aux entreprises qui la portent. Rédigé sous la forme d’une réponse à un e-mail flatteur envoyé par une IA, ce texte examine de manière critique l’impact destructeur de cette technologie sur la société moderne et l’écosystème technique.
Points clés :
- Pillage des créations : critique des pratiques consistant à entraîner des modèles sur les résultats historiques de la créativité humaine sans autorisation, puis à en revendiquer la propriété.
- Destruction de l’éducation et de l’emploi : l’IA sape le système éducatif et supprime les emplois d’entrée de carrière des développeurs juniors, coupant ainsi la voie de formation des futurs talents qualifiés.
- Gaspillage des ressources d’ingénierie : pour obtenir des résultats utiles, on perd du temps à se battre avec un « générateur de bullshit » au lieu de le consacrer aux échanges et à la transmission avec des collègues ou des stagiaires.
- Problèmes environnementaux et coûts : dénonciation de la hausse des coûts des services publics due à une consommation électrique massive, ainsi que des dégâts environnementaux.
- Transformation d’Internet en slop : les résultats de recherche sont remplacés par de fausses informations résumées, et Internet se remplit de données vides de sens, rendant plus difficile la découverte de contenus humains authentiques.
- Choix court-termistes des entreprises : critique des CEO qui sacrifient la qualité des produits, leur intégrité et la satisfaction client pour des économies minimes.
Enseignement :
L’auteur avertit que l’IA remplit les canaux de communication humains de fausses informations et détruit la confiance dans les échanges. En particulier, la question « Pourquoi n’appelle-t-on pas un échec une technologie qui crée plus de problèmes qu’elle n’en résout ? » envoie un message puissant à l’industrie IT actuelle, fascinée par le solutionnisme technologique.
3 commentaires
https://news.ycombinator.com/item?id=46415945
Voyons aussi les réactions sur Hacker News.
Le billet a également été partagé sur le Slack des Clojuriens. Et les Clojuriens semblaient, dans leur grande majorité, exprimer des avis en accord avec la position de Rich Hickey.
Je fais partie de la commission sciences et technologies des Verts. Je me suis dit que les développeurs Clojure avaient une façon de penser proche de celle des membres des Verts. Puis je me suis demandé si, à l’inverse, ce n’était pas parce qu’on est développeur Clojure qu’on finit par rejoindre les Verts. ;)
Le développement piloté par le hamac... vient d’une présentation de Rich Hickey. C’est une manière de développer qui consiste à formuler clairement les contraintes en profondeur, à les laisser mûrir dans le subconscient, puis à concevoir et valider. Rich Hickey lui-même dit qu’on ne peut pas remplacer la conception par le TDD ou par des systèmes de types complexes.
https://secondb.ai/summary/11593/?tab=my
Même parmi les développeurs qui utilisent des LLM, ceux qui prêtent attention au discours de Rich Hickey sur la simplicité (Simple Made Easy) semblent tenir un propos similaire. On pourrait dire que cela ressemble au Spec Driven, mais il vaudrait peut-être la peine de s’intéresser aux différences, ne serait-ce que pour mieux utiliser les LLM.
https://secondb.ai/summary/11587/?tab=all