- La critique de la GenAI vise les modèles génératifs, et non l’apprentissage automatique utile dans son ensemble ; elle est considérée comme une mode technologique plus nocive et plus durable que les cryptomonnaies ou les NFT
- L’IA générative repose sur l’apprentissage massif à partir de créations humaines trouvées sur Internet, puis sur leur revente sous forme d’accès par abonnement ; l’affaire des 82 To de livres piratés par Meta révèle le problème du pillage des données
- Les LLM peuvent générer 24 h/24 du contenu médiocre de type commentaire et amplifier la désinformation ; les modèles entraînés avec un biais de droite, comme Grok, sont cités comme particulièrement à rejeter
- Dans l’éducation, la réflexion et la programmation, le vibecoding et le copier-coller réduisent l’apprentissage par essai-erreur et aggravent la charge de revue, la dette technique et les problèmes de non-déterminisme
- L’IA générative aggrave aussi la solitude, l’incitation au suicide, les documents verbeux, ainsi que les coûts environnementaux et matériels, tandis qu’Internet ne pourra plus vraiment revenir à son état antérieur
Portée de la GenAI et nature du problème
- GenAI est utilisé ici pour désigner à la fois les LLM qui génèrent du texte et les modèles qui produisent des médias comme des images ou des vidéos
- La critique ne vise pas l’apprentissage automatique dans son ensemble, qui a servi à résoudre de vrais problèmes dans de nombreux secteurs, mais se limite à l’IA générative
- Le traitement d’image fondé sur des réseaux de neurones pour détecter des panneaux stop peut relever d’un apprentissage automatique utile, potentiellement meilleur que les méthodes classiques de détection de caractéristiques
- L’IA générative est présentée comme la nouvelle mode technologique apparue après les cryptomonnaies et les NFT, mais jugée pire et susceptible de durer plus longtemps que ces précédents exemples
Capitalisme et pillage des données
- L’IA générative est critiquée comme un système qui utilise comme données d’entraînement des créations humaines collectées massivement sur Internet, puis vend l’accès à ces modèles sous forme d’abonnement
- Les documents judiciaires révélant que des employés de Meta ont torrenté près de 82 To de livres piratés pour entraîner une IA sont présentés comme un cas emblématique du problème d’acquisition des données
- Selon cette logique, si l’objectif était réellement d’aider l’humanité, le développement de l’IA serait mené ouvertement, les données seraient obtenues légalement, les modèles seraient distribués gratuitement, et leur accès ne serait pas bloqué derrière des abonnements toujours plus chers
- Les entreprises d’IA sont comparées à des receleurs, avec l’idée que, dans l’IA générative, les grandes entreprises ne paient même pas pour les données volées
- L’IA est résumée comme une technologie qui, sous des dépenses d’investissement massives, contamine de nombreux secteurs, permet à la big tech de pratiquer la rente via l’usage de tokens, et accélère la dégradation de la qualité partout où elle s’impose
Une machine à produire de la désinformation
- Même avant l’IA générative, la désinformation constituait déjà une grande industrie, et l’Internet Research Agency est citée comme une organisation russe de désinformation pro-Kremlin
- Cette organisation opérait en publiant 24 h/24 sur les réseaux sociaux de la désinformation et de la propagande pro-russes, et elle est replacée dans le contexte de la montée du Trumpism aux États-Unis et des liens entre des proches de Trump et des responsables russes
- Les LLM peuvent automatiser 24 h/24 la génération de contenu médiocre de type commentaire, ce qui rend le problème de la désinformation bien plus grave
- Sur les grandes communautés en ligne, de nombreux bots publient d’abord du contenu apparemment inoffensif avant de basculer vers du contenu politique, et sont décrits comme visant presque toujours à provoquer une réaction émotionnelle
- Le texte avance qu’en 2026, si un commentaire en ligne vous met en colère, il y a de fortes chances qu’il s’agisse d’un faux commentaire généré par un LLM dans le but précis de vous exaspérer
- En Allemagne, le parti marginal de gauche BSW et le parti d’extrême droite AfD sont reliés à l’idée qu’ils seraient financés au moins indirectement par la Russie via la corruption
- Parmi les positions attribuées à l’AfD figurent l’amélioration des relations avec la Russie, l’abandon des énergies renouvelables, le maintien des voitures à moteur thermique, l’expulsion des étrangers, la sortie de l’UE et le climatoscepticisme, présentés comme un agenda de droite favorable à la Russie
- La conclusion est que, si l’on déteste la désinformation, il faut rejeter les LLM, en particulier ceux explicitement entraînés avec une orientation de droite comme Grok
Suicide et encouragement à des comportements nocifs
- L’article Wikipédia Deaths linked to chatbots est présenté comme une page recensant des cas de suicide après des échanges de conseil avec des LLM
- Le risque qu’une personne psychologiquement vulnérable ou traversant une période difficile se voie recommander le suicide par un LLM est traité comme une tragédie
- Le fait que l’IA générative soit devenue malgré cela une industrie pesant des milliers de milliards de dollars est l’objet d’une critique virulente
Éducation et baisse de l’attention
- L’IA générative est accusée de nuire à l’éducation, en lien avec le problème selon lequel la consommation de vidéos courtes et médiocres ruine la capacité d’attention des jeunes
- La big tech est critiquée pour chercher à injecter des LLM dans les salles de classe, de manière comparable à la façon dont Microsoft a habitué pendant 30 ans les élèves à Windows et Office à l’école
- Les entreprises proposent déjà un accès destiné aux établissements d’enseignement pour les LLM
- La citation d’un article de Futurism disant qu’on serait « assez heureux de voir tous les outils de genAI envoyés dans le soleil » résume cette position de rejet de l’IA générative
Réduction de l’esprit critique et des capacités de résolution de problèmes
- Le texte affirme que les dommages de l’IA générative ne se limitent pas au monde académique, mais affectent aussi les capacités générales de réflexion
- Certaines personnes sont décrites comme ayant cessé de penser par elles-mêmes depuis la banalisation de l’IA, en mettant des réponses de ChatGPT en avant dans presque toutes les questions et discussions
- Ce phénomène serait visible non seulement dans les discussions hors ligne, mais aussi sur Reddit et sur les forums au format plus ancien
- Un article arXiv est cité comme élément montrant que le monde académique traite lui aussi de ce problème
Diffusion de la solitude
- L’IA est critiquée parce qu’elle aggrave encore la tendance moderne à rester chez soi sur son canapé à faire défiler son téléphone sans but
- La tendance de jeunes hommes à se détourner des femmes de leur âge pour dépendre de petites amies IA est présentée comme un très mauvais signe pour l’avenir
- La solitude alimente l’extrémisme et la haine, et rend la communication dans la vie réelle encore plus difficile
- Une personne profondément absorbée par une fausse relation avec une IA aurait plus de mal à apprendre à construire un vrai partenariat, ou à développer de l’empathie envers quelqu’un ayant des besoins différents des siens
- Les chatbots IA n’ont pas d’opinions propres pouvant influencer les idées de l’utilisateur, ne comprennent pas sa pensée, et ne grandissent pas en faisant l’expérience du monde comme lui
- Le fait que le pape Léon XIV ait critiqué cet aspect de l’IA générative ainsi que d’autres problèmes majeurs est présenté comme un élément soulignant la gravité du problème
Dégradation de l’apprentissage de la programmation et de la qualité du code
-
Perte de l’apprentissage par essai-erreur
- Autrefois, on apprenait la programmation en fabriquant des outils et en résolvant des problèmes sans connexion Internet, ce qui permettait d’acquérir une intuition de l’ordinateur et des possibilités techniques
- Aujourd’hui, les jeunes sont décrits comme moins exposés à un environnement où il faut creuser soi-même pour faire fonctionner quelque chose, tout étant enveloppé dans des apps et des écrans tactiles
- L’IA générative est critiquée pour faire disparaître jusqu’au dernier élément du « j’essaie jusqu’à ce que ça marche, et j’apprends en cours de route »
- On demande une solution à un LLM via un prompt, on reçoit un résultat, puis, dans le cadre professionnel, on l’observe parfois collé à l’endroit voulu sans que la personne soit capable de l’expliquer
- Le problème ne se limite pas à oublier les options de
tardans le CLI Linux, mais va jusqu’à copier-coller dans le terminal toute une commandexargsen espérant que rien ne casse - Même lorsqu’on copiait autrefois des extraits de Stack Overflow, il fallait au moins ajuster les pièces du puzzle à l’architecture et réfléchir un minimum au code ; avec les LLM, cette étape se réduit
-
Vibecoding et charge de revue
- Un vibecoder est décrit comme quelqu’un qui demande via un prompt ce dont il a besoin pour que le LLM génère un programme entier, ou au moins une partie de celui-ci
- La pratique consistant à générer un programme complet d’un seul coup est appelée « oneshotting », et il arrive souvent que le code généré ne soit même pas lu
- Contrairement à l’idée selon laquelle les LLM ne seraient utilisés que comme assistants ou partenaires de réflexion, le texte critique le fait qu’en environnement professionnel réel, ils servent bien davantage à produire du code médiocre qu’à en lire
- La lecture du code n’aurait lieu qu’au moment de la revue de MR/PR, quand un bloc de 9001 lignes de code généré arrive soudainement
- Il en résulte une structure où l’auteur fait le minimum tandis que le reviewer assume le maximum de charge d’examen ; le vibecoding ne serait plus rapide que lorsqu’on renonce au niveau de revue réellement nécessaire
-
Dette technique à long terme
- Il est avancé que, dans 5 à 10 ans, les vibecoders dépendants des LLM auront laissé dans de nombreuses bases de code un héritage de code impossible à maintenir et mal conçu
- À ce moment-là, ils ne sauront plus avancer sans LLM, et si même les LLM échouent face à une montagne de dette technique devenue trop grande, la situation deviendra grave
- Le texte envisage que de nouveaux rôles apparaissent dans les organisations pour nettoyer les dégâts laissés par le vibecoding
- Il est admis que le code de nombreuses organisations est déjà en mauvais état, mais l’IA générative est présentée comme devant aggraver exponentiellement l’ampleur du problème
-
Agents de code et problème de coût
- Il existe un discours optimiste selon lequel les progrès des agents de code amélioreront la situation, mais même si les LLM continuent de progresser, rien ne garantit que cela sera proposé à bas prix
- Des centaines de milliards de dollars ont été investis dans la ruée vers l’IA, et les actionnaires voudront un jour des profits
- Une issue affirmant qu’un modèle frontier s’est dégradé quelques semaines après sa sortie est citée et reliée à une dynamique où les prix restent stables ou augmentent
-
Compétences des développeurs et non-déterminisme
- Même en admettant que l’IA générative améliore la programmation, une question est posée : si l’utilisateur perd sa capacité de réflexion et ses compétences, en quoi est-ce différent pour l’employeur de payer simplement un abonnement au fournisseur de LLM ?
- À rebours de l’idée souvent défendue dans les communautés pro-IA selon laquelle ceux qui n’utilisent pas l’IA seront laissés derrière, la position ici est que ce sont ceux qui l’utilisent et en dépendent qui seront distancés
- Les LLM sont critiqués comme des systèmes non déterministes qui, même si le même prompt fonctionne dix fois, ne garantissent pas un résultat satisfaisant à la onzième
- Le texte conclut qu’un LLM n’est pas un logiciel fiable, mais se rapproche davantage d’une machine à sous glorifiée
Dégradation de la communication
- Les utilisateurs d’IA générative disent pouvoir écrire plus vite de longs e-mails ou documents, mais cette pratique est critiquée comme un usage égoïste qui ralentit l’ensemble de l’organisation
- L’exemple donné est qu’un désaccord qui tiendrait en deux lignes peut être gonflé par un LLM en 500 mots, forçant 34 personnes à consacrer des heures-personnes à extraire les véritables raisons de l’opposition
- Cela est opposé à une façon d’écrire soi-même des réponses détaillées quand c’est nécessaire, tout en condensant l’essentiel pour ne pas gaspiller le temps des autres
- Les gens cessent d’investir du temps dans leur communication écrite, les e-mails deviennent longs et compliqués, et le simple fait de les lire devient une charge
- La tendance à faire résumer par un LLM les longs e-mails produits par un autre LLM est comparée à un tunnel réseau avec des proxys des deux côtés, où l’encodage de transfert entre les proxys devient un texte de mauvaise qualité
Autres dégâts et utilité limitée
- L’engouement pour les data centers, la hausse du prix du matériel due à la GenAI, les entreprises qui ont du mal à créer des produits numériques réellement utiles à cause du prix de la DRAM, les pertes d’emploi dues à l’IA, et les problèmes environnementaux liés à la construction de centrales à gaz pour entraîner des générateurs médiocres sont présentés comme des problèmes évidents, même sans développement détaillé
- Il est reconnu que les LLM peuvent avoir un rôle dans certains usages utiles et moins nuisibles
- La traduction peut être utile dans une certaine mesure, mais pour la littérature, où les nuances d’expression sont essentielles, la traduction humaine peut rester plus appropriée
- Le texte emploie l’analogie selon laquelle on ne devrait pas inventer le Torment Nexus simplement parce qu’il possède quelques propriétés marginales que certaines personnes jugeraient pratiques
Changement irréversible et conclusion
- L’IA générative est présentée comme un génie sorti de sa bouteille, impossible à faire rentrer, avec lequel il faudra désormais vivre toute sa vie
- Internet ne reviendra pas à son état d’avant l’IA générative, et bon nombre des problèmes évoqués plus haut sont appelés à s’aggraver à cause d’elle
- L’idée qu’un sentiment anti-IA continue de se renforcer prolonge cette ambiance et s’accompagne d’un espoir que l’humanité tienne bon et empêche que tout soit détruit
- La conclusion souhaite l’effondrement des entreprises d’IA et de la plupart des investissements IA de la big tech, afin que cette immense machine de destruction sociale et technique s’arrête
Vous voulez continuer à recevoir des sujets tech sélectionnés ?
Suivez le canal Telegram. @GeekNewsFR
1 commentaires
Avis sur Lobste.rs
Même s’il y a un certain chevauchement entre le groupe qui poussait les cryptomonnaies et les NFT et celui qui pousse l’IA, ce n’est pas le même, et il est clair aussi que l’IA est bien plus utile ; j’ai donc du mal à adhérer à cette comparaison
Les arguments de vente des cryptomonnaies n’ont d’ailleurs jamais vraiment changé, et cela reste toujours proche d’un ensemble d’actifs spéculatifs. À mes yeux, les gens qui poussent cela ressemblent davantage à ceux qui vendent de l’or ou de l’argent qu’à ceux qui s’intéressent à l’IA
Personnellement, les personnes auxquelles je prêtais un certain niveau de compétence technique et de jugement doutaient que les cryptomonnaies trouvent des cas d’usage réellement utiles, mais les modèles les plus récents semblent produire l’effet inverse
Il existe très peu de technologies totalement inutiles, et il est généralement plus pertinent de juger une technologie selon à qui elle profite et dans quelle mesure. Comme le montre bien le texte d’origine, les LLM ont dès le départ été manifestement utiles aux spammeurs, aux escrocs, aux plagiaires et aux propagandistes. Au-delà du simple fait que les groupes qui les promeuvent se recoupent, les LLM ressemblent fortement au Bitcoin et aux NFT en ce qu’ils concentrent la richesse entre quelques mains tout en nuisant à la société au sens large et à l’environnement
Bien sûr, cela reste peut-être une impression assez subjective
Cette année, les actions de la cybersécurité web ont fortement progressé. Certaines entreprises ont compris qu’une stratégie consistant à utiliser un maximum de tokens était stupide
Les dix prochaines années seront consacrées à réparer ce genre de choses
De la même manière que plus personne ne parle de big data aujourd’hui, plus personne ne parlera d’agents dans quelques années
Seul le mot à la mode a disparu ; le concept lui-même reste toujours proche de la manière dont fonctionne l’économie d’Internet. L’ad tech, Google, et même les contenus IA poubelles n’ont-ils pas besoin, pour l’entraînement, de ce type de données massives ?
J’ai l’impression que la plupart de ces arguments ont probablement déjà été avancés lors de la démocratisation d’Internet
L’optimisme autour de l’IA n’existe que dans la tête de la big tech et des personnes âgées ; les jeunes, eux, semblent davantage opposés à l’IA
IBM diffusait même une publicité TV pour OS/2 montrant des nonnes impatientes de faire du surf sur le Web. Aucun des autres arguments de cet article n’a jamais été formulé à propos d’Internet
Il existe même un argument critique qui valait pour le début d’Internet mais pas pour l’“IA” fondée sur les LLM. La RIAA, la MPAA et d’autres grands cartels ont complètement perdu la raison à cause de la violation du droit d’auteur, au point qu’être reconnu coupable pour une seule chanson ou un seul film pouvait ruiner une vie. Aujourd’hui, Meta, ByteDance, Anthropic et OpenAI recopient l’intégralité des textes écrits par des humains toutes les 10 heures. Peu importe qu’ils les aient déjà copiés auparavant. Tout ce que génèrent les LLM est le produit d’un acte que les cartels du divertissement qualifiaient autrefois de « menace existentielle pour le mode de vie américain »
Face aux cartels d’IA fermés et à l’absence d’alternative autre que le capitalisme, Hugging Face apparaît jusqu’ici comme un bon exemple