- Les grands modèles de langage et le machine learning reconfigurent les structures sociales, transformant l’ensemble de la vie humaine comme l’automobile a autrefois remodelé les villes
- La désinformation générée par l’IA et les contenus automatisés ont déjà profondément pénétré les domaines du quotidien comme la recherche, les e-mails et le service client
- Il faut cesser d’utiliser les outils d’IA et restaurer une pensée centrée sur l’humain : écrire soi-même et penser dans un langage humain
- Les individus peuvent ralentir la diffusion de ces technologies par des actions concrètes comme le refus de la dépendance à l’IA, la syndicalisation et l’exigence de régulation politique
- Ces choix peuvent conduire à atténuer les effets juridiques et sociaux indésirables et à préserver une paix éthique, et si ce jugement s’avère erroné, il sera toujours possible de recommencer
Choix à l’ère de l’intelligence artificielle
- Compare l’impact des progrès des grands modèles de langage (LLM) et du machine learning (ML) sur l’ensemble de la société aux transformations historiques provoquées par l’automobile
- De la même manière que l’automobile a profondément modifié la structure des villes, les transports, l’environnement et les relations sociales, l’intelligence artificielle pourrait elle aussi reconfigurer la vie humaine et les structures industrielles
- L’accent est mis non sur la vitesse ou la commodité de la technologie, mais sur la manière dont la forme des villes et la vie humaine vont changer
- La désinformation fondée sur l’IA et les contenus automatisés ont déjà profondément pénétré le quotidien
- Dans les résultats de recherche, le service client, les e-mails, les sites web et ailleurs, des informations inexactes ou mensongères générées par des LLM se diffusent
- La hausse de la consommation électrique des centres de données entraîne des augmentations de tarifs et une pression environnementale
- On observe aussi une extension du phénomène consistant à déléguer à l’IA son travail, son art et même ses relations humaines
- Souligne la nécessité d’arrêter d’utiliser les outils d’IA
- L’assistance du ML affaiblit la capacité d’apprentissage et la faculté de pensée théorique des humains, et conduit à la perte de la « metis » de James C. Scott (savoir pratique maîtrisé)
- Il faut continuer à écrire soi-même, à résoudre directement les problèmes et à maintenir sa pensée par la conversation avec d’autres humains
- Recommande de minimiser la consommation de contenus générés par l’IA et de chercher à lire des contenus créés par des humains
- Présente des actions concrètes que les individus et la société peuvent entreprendre
- Appelle à écrire dans sa propre langue et à ne pas dépendre de productions générées par l’IA
- Propose de résister à l’imposition de l’IA au travail, de former des syndicats et de réclamer une régulation politique
- Suggère des actions concrètes comme renforcer la responsabilité des entreprises d’IA en matière d’émissions carbone et numériques, s’opposer aux allégements fiscaux pour les centres de données ou envisager une démission pour des raisons éthiques
- Même si cette résistance ne peut pas arrêter complètement le développement de l’IA, elle peut en ralentir le rythme
- Cela peut faire gagner du temps aux technologies, aux industries et aux gouvernements pour s’adapter, et atténuer les effets juridiques et sociaux indésirables
- Cela laisse davantage de marge pour répondre à des problèmes comme les contenus d’exploitation sexuelle d’enfants générés par l’IA (CSAM), les escroqueries et les failles de sécurité
- Le texte se conclut sur l’idée qu’un choix éthique permet de préserver la paix de la conscience et que, si le jugement était mauvais, « on pourra toujours le refaire plus tard »
Et pourtant, la tentation demeure
- Répulsion envers l’IA et tentation pratique coexistent
- L’auteur évoque par exemple la possibilité d’utiliser la génération de code par LLM pour piloter un éclairage dont les couleurs changent
- Dans des situations limitées où le risque de sécurité est faible et où le résultat peut être vérifié directement, l’utilité de l’IA est reconnue
- Mais la conclusion, « Quel mal cela pourrait-il faire ? », met en évidence les limites de l’usage de l’IA et cette contradiction intérieure
Processus d’écriture
- Ce texte a été rédigé manuellement dans Vim, mis en page avec Pandoc et corrigé deux fois sur papier
- Un brouillon a été partagé avec des amis pour recueillir leurs retours, et il est précisé que toutes les erreurs et toutes les opinions relèvent de la seule responsabilité de l’auteur
- Il est souligné que l’ensemble du processus d’écriture et d’édition a été réalisé par des mains humaines, sans l’aide de l’IA
1 commentaires
Avis Hacker News
J’ai l’impression que des compétences fondamentales comme lire, réfléchir et écrire entrent dans la zone d’influence des grands modèles de langage
Pendant la majeure partie de l’existence humaine, ces capacités ont été des compétences précieuses permettant l’ascension sociale
Mais historiquement, avant 1800, elles n’étaient pas très utiles à un paysan
Ce n’est qu’après la Seconde Guerre mondiale que les emplois pour les « gens intelligents » ont commencé à dépasser la demande, et c’est alors qu’a commencé l’âge d’or de la mobilité sociale
Avant cela, des facteurs comme la force physique, l’honnêteté, la lignée ou l’ordre de naissance comptaient davantage
Si l’on entre dans une époque où l’IA pense à notre place, ces valeurs pourraient peut-être redevenir centrales
Il n’y a aucune raison de revenir à des « valeurs fondamentales » comme le droit d’aînesse ou le sexisme
L’époque où l’« intelligence » était rare n’avait rien d’anormal ; c’était au contraire le résultat du progrès humain
Nous ne sommes pas prisonniers de l’histoire, et nous n’avons pas à revenir sous la domination d’une petite minorité possédant les datacenters ou les systèmes d’exploitation
Même un agriculteur intelligent pouvait gérer une exploitation plus efficace grâce à ces aptitudes
Même des modèles avec des billions de paramètres ne savent pas distinguer la gauche de la droite
La pensée humaine n’est pas finie ; il reste encore beaucoup de chemin, tout comme la machine à vapeur n’a pas complètement mis fin à l’ère du cheval
Depuis les débuts de l’agriculture, la capacité à planifier et à gérer les ressources a toujours été importante
Mais l’idée que les années 1800 représentaient l’état normal de l’humanité est étrange
Expliquer les transformations sociales par la seule existence des « nerds riches » est aussi un raccourci excessif
Les textes de Kyle forment une série qui vaut vraiment la lecture
La comparaison entre l’arrivée de l’automobile et la diffusion de l’IA est frappante
Ce n’est pas parce qu’une technologie est utile qu’elle n’a qu’un impact positif sur la société
À mon avis, il faut n’utiliser les LLM que dans des environnements limités, quand les risques peuvent être maîtrisés
Dans les années 1920, au lieu de dire « ne montez pas en voiture », il aurait fallu anticiper les effets négatifs et les atténuer par des politiques publiques
Il faut que des experts interviennent de façon responsable, avec une bonne compréhension des limites de la technologie
C’est un peu comme les tentatives d’interdire les smartphones à l’école pour restaurer des interactions humaines spontanées
Il faut former les gens plutôt que bloquer la technologie
Les progrès de l’IA peuvent aussi s’appliquer à la simulation physique, au repliement des protéines, etc.
J’ai l’impression que cette technologie est parfaitement alignée sur les intérêts de 0,001 % d’élites
Pour elles, la baisse de la population et le contrôle social sont plutôt avantageux
Si l’on n’a aucune responsabilité envers les générations futures, on peut se contenter de penser à sa survie personnelle ; mais si on en a, alors il faut une révolution mondiale
Dire qu’elle remplacera l’humain est exagéré, et l’automatisation créera au contraire de nouveaux emplois
Quand les CEO parlent de remplacer le travail humain, c’est surtout un prétexte pour justifier des licenciements
Le problème, c’est que trop de gens adorent l’IA
Ce sont les personnes ayant un emploi stable qui devraient agir les premières
La conclusion de In the Beginning Was the Command Line de Neal Stephenson me revient en tête
Une vie fournie par défaut comme un système d’exploitation, où les gens n’ont plus qu’à appuyer sur le bouton « LIVE »
Et si l’on se plaint, on nous répond seulement : « ce sera mieux à la prochaine mise à jour »
Au final, un véritable ingénieur dira ceci : « la vie est fondamentalement complexe, et il faut faire soi-même ses choix »
Voici un récapitulatif des principaux textes de cette série
En raison du principe de HN visant à éviter les répétitions, les articles en série sont en général moins mis en avant, mais cette fois-ci, une exception a été faite
Par exemple, une série sur la restauration de machines antiques pourrait traiter de sujets totalement différents à chaque épisode
Faire des prédictions catégoriques sur l’avenir n’est qu’une manière d’apaiser sa peur
Personne ne sait où va l’IA
On ignore si cela ressemblera à l’automobile ou si cela suivra une trajectoire complètement différente
Donc des affirmations du type « les ingénieurs d’Anthropic devraient démissionner immédiatement » relèvent d’un jugement précipité
Quand je repense à mes années d’université, ce sont la mémoire musculaire et la profondeur théorique acquises par essais et erreurs qui ont fait de moi ce que je suis aujourd’hui
Si j’étais étudiant aujourd’hui, il me serait sans doute difficile de résister à la tentation des LLM
Entre les deadlines, les examens et le temps passé avec les amis, je finirais probablement par utiliser l’IA
La dégradation du climat, les inégalités économiques, la défiance envers les institutions et l’insécurité professionnelle liée à l’IA s’additionnent
Quand ma fille réfléchit à sa spécialisation universitaire, je suis incapable de lui donner un conseil avec assurance
Dès que l’IA le fait à notre place, cet apprentissage par l’expérience disparaît
Il faut avoir accumulé du contexte en supportant la difficulté pour vraiment comprendre les réponses de l’IA
Des milliers d’heures de travail manuel m’ont donné une intuition du code
Il sera difficile pour la nouvelle génération de remplacer cela par l’IA
Des incitations apparaissent où ceux qui veulent apprendre en profondeur se retrouvent désavantagés dans la compétition
Il est certain que les structures sociales vont changer, mais j’ai l’impression qu’il est en pratique difficile de choisir de ne pas participer
Si l’on n’utilise pas l’IA, on prend du retard, et les RH exigent de l’expérience
Qui ferait volontairement un choix qui lui nuit ?
Nous pourrions atteindre l’AGI avec une seule percée technologique
Par exemple, si l’on découvrait un supraconducteur à température ambiante, on pourrait avoir des puces à vitesse THz et des batteries se rechargeant instantanément
L’IA est aujourd’hui à un stade semblable à celui de l’informatique des années 1980, juste avant l’explosion
Au cours des six derniers mois, je suis moi-même devenu complètement optimiste
Si la technologie continue de progresser, il ne restera plus aucun métier sûr
Si l’on avait déjà pu fabriquer ce genre de puces avec des supraconducteurs refroidis, cela aurait été fait depuis longtemps
L’auteur dit qu’il n’utilisera pas les LLM, mais c’est parce qu’il en a les capacités
La plupart des gens ne peuvent pas se le permettre
Il y a déjà beaucoup de développeurs qui n’écrivent même pas de tests ; pour eux, l’IA est un moyen de survie
Ils n’ont pas le temps de réapprendre les fondamentaux tout en suivant la tendance des LLM
En fin de compte, une époque viendra où il y aura plus de “sorcières” que de vrais ingénieurs
Les nouvelles générations de développeurs finiront elles aussi par savoir créer des logiciels performants pour gagner la compétition
Qu’on code avec l’IA ou non, si le résultat est bon, alors c’est cela, la compétence
L’humanité a toujours produit des discours pessimistes de fin du monde, mais elle a fini par bien s’adapter