Ces gens que l’IA fatigue
(ontestautomation.com)- Alors que l’IA se diffuse rapidement dans les tests, le développement et l’ensemble du quotidien, ce qui accroît la lassitude n’est pas tant la résolution des problèmes que la surenchère marketing autour de l’IA et les présentations façon « game changer »
- Les vieux problèmes de l’automatisation des tests — tests E2E full-stack lents, testabilité et principes de base de la programmation — se résolvent difficilement avec de nouveaux outils seuls
- Les outils d’IA peuvent produire des résultats plus vite, mais sur le terrain, la qualité du résultat et le processus où l’humain juge puis affine comptent davantage que la vitesse
- Dans les propositions de conférences, les formulations à la ChatGPT se multiplient, et l’occasion de montrer l’expérience de l’intervenant ainsi que son point de vue propre est affaiblie par des phrases banales générées automatiquement
- Les créations comme la musique, les livres ou les films sont attirantes en raison des pensées et des émotions humaines qu’elles portent ; même techniquement impressionnantes, les productions générées par IA peinent à susciter la même réaction émotionnelle
La fatigue provoquée par l’excès d’IA
- Ces dernières années, l’IA semble être appliquée à presque tous les problèmes, dans les tests logiciels, le développement et l’ensemble du quotidien
- Chercher et développer de nouvelles solutions à des problèmes existants n’est pas un problème en soi, mais la manière dont l’IA est utilisée et marketée laisse une forte impression de lassitude
- Toute technologie qui sent l’IA est immédiatement emballée avec des expressions comme « game changer », « pivotal » ou « revolutionary », avant d’être remplacée la semaine suivante par une autre solution, dans un cycle qui se répète
- Cette attitude peut sembler proche du néo-luddisme, mais il ne s’agit pas de rejeter entièrement l’IA elle-même
- Il existe des domaines où l’IA est utile, et elle est effectivement utilisée, rarement et avec prudence, mais la plupart des usages de l’IA paraissent fatigants
Les vieux problèmes qui persistent dans l’automatisation des tests
- Après environ 18 ans consacrés aux tests et à leur automatisation, l’expérience montre que, malgré de nombreux changements, beaucoup de problèmes sont restés inchangés
- Les tests end-to-end full-stack restent les tests les plus lents et les plus coûteux
- Pour écrire des tests plus rapides et plus petits, discuter de la testabilité (testability) reste essentiel
- De bons tests automatisés exigent une connaissance pratique de bons principes de base de la programmation
- Il n’existe pas de raccourci pour ces problèmes, et les résoudre demande du temps et de l’expérience
- Ajouter simplement davantage d’outils n’a pas aidé jusqu’ici, et beaucoup de « AI-powered test automation solutions » abordent le sujet de la même manière
L’écart entre résultat rapide et bon résultat
- Les outils basés sur l’IA peuvent produire des résultats plus rapidement
- Dans certaines situations, un résultat rapide peut être précisément le résultat recherché
- Mais en pratique, on a souvent besoin de meilleurs résultats, et pas seulement de résultats rapides
- Peu d’exemples montrent que les outils basés sur l’IA produisent réellement de meilleurs résultats
- L’IA peut servir à produire rapidement un résultat, ou une proposition proche d’un résultat
- Mais la qualité et la valeur de ce résultat restent incertaines, et l’humain doit en juger l’utilité avec ses propres connaissances et son expérience
- La sortie générée doit aussi souvent être retravaillée pour devenir réellement exploitable
- Dans certains cas, les résultats générés par IA sont utiles, mais il est difficile de leur faire confiance au point de remplacer le travail d’un humain compétent et expérimenté
Les traces de l’IA dans les propositions de conférences
- Ces dernières années, au sein de plusieurs comités de programme et processus de relecture de conférences, les propositions semblant avoir été aidées par ChatGPT ou un logiciel similaire, voire entièrement rédigées par lui, ont fortement augmenté
- Les propositions générées automatiquement ont généralement le même ton
- « In the ever-changing world of … »
- « Delve »
- « Pivotal »
- Ces expressions donnent l’impression que la proposition a été rédigée avec ChatGPT plutôt qu’avec du temps et des efforts personnels
- Une proposition est la première, et souvent la seule, occasion de montrer qui est l’intervenant, quelle expérience il a et quelles opinions il porte sur un sujet donné
- Confier cette occasion à un logiciel réduit une pensée singulière et réfléchie à des phrases ordinaires et ennuyeuses
- Si quelqu’un ne parvient même pas à rédiger lui-même une proposition, il est difficile pour le comité de programme de faire confiance à son intervention originale
- Les propositions manifestement écrites par l’IA, ou avec son aide, sont rejetées immédiatement, même si le sujet est intéressant ou si les capacités de présentation semblent bonnes
- Si aucun effort pour rédiger soi-même une bonne proposition n’est visible, il devient difficile de faire confiance au contenu de la présentation
La différence entre créations humaines et productions générées par IA
- Ce qui rend une bonne musique, un livre émouvant ou un film immersif si attirants, c’est qu’ils ont été créés par un humain et que les pensées et émotions de cet humain sont inscrites dans la partition, le manuscrit ou le scénario
- Aucun exemple ne montre que l’IA puisse reproduire ce processus créatif et son résultat
- À la place, les réseaux sociaux regorgent de publications générées par IA, d’images générées par IA et de commentaires générés par IA, souvent ennuyeux
- Les textes, vidéos et musiques produits par l’IA peuvent être techniquement impressionnants
- Mais ils n’atteignent pas la réaction émotionnelle provoquée par l’art et les créations humaines ; à moins de considérer l’ennui comme une émotion, ils ne suscitent pas la même réponse
Les tendances inquiétantes et les exceptions restantes
- Dans la dynamique actuelle autour de l’IA, plusieurs problèmes apparaissent ensemble
- Les gens craignent que l’IA prenne leur emploi
- Les entreprises continuent d’investir des sommes absurdes dans la prochaine pépite de l’IA, même sans constater de ROI suffisant
- L’empreinte carbone de l’IA atteint chaque jour un niveau plus préoccupant
- Cette tendance ne semble pas aller dans la bonne direction
- Certains usages de l’IA agissent comme une force positive
- Par exemple, la détection précoce de maladies est un progrès, et c’est un domaine où l’IA doit continuer à être utilisée et améliorée
- En revanche, la position défendue ici est que l’on peut très bien se passer de nombreuses productions générées par IA : musique, images, textes, propositions de conférences, cas de test, publications LinkedIn, etc.
1 commentaires
Avis sur Hacker News
J’en ai assez des LLM
Des dizaines de milliards de dollars ont déjà été investis, donc ce qu’ils font bien et mal est désormais assez clair, et le fait qu’ils se trompent parfois complètement limite fortement leur utilité
Pour leur confier en toute sécurité des tâches importantes, il faut un moyen de produire des indicateurs de fiabilité ; sinon, on risque de repartir vers un nouvel « hiver de l’IA »
Cela dit, le niveau atteint cette fois est bien supérieur à celui du passé, donc cela deviendra sans doute une industrie de plusieurs milliards de dollars, mais pas forcément de plusieurs milliers de milliards
Le marché des contenus verbeux générés par les LLM finira lui aussi par saturer ; encore faut-il que quelqu’un les lise. On peut certes confier le résumé et le classement à d’autres systèmes, mais si une grande partie de l’« IA » consiste à produire du contenu que le moteur de recherche de Google va lire, cela pourrait être un gaspillage d’énergie encore pire que le minage de Bitcoin
Conceptuellement, c’est comparable à la loi de Moore, mais avec un cycle d’environ 5,5 mois, et c’est cela qui compte à ce stade
À l’époque d’Internet, du Web, du mobile et du Bitcoin, on disait aussi : « c’est un gadget », « ce n’est pas très utile », « ça consomme trop d’électricité », « ça ne passe pas à l’échelle », « c’est une impasse technologique »
Le progrès technologique s’est accéléré pendant des décennies dans une direction bien plus vaste, et rien n’indique que ce schéma s’interrompe ici. Au contraire, tout semble prêt pour un impact d’un ordre de grandeur supérieur à celui d’Internet, ou du moins pas inférieur
De la même manière qu’on ne pouvait pas prédire l’iPhone en voyant les premiers télégraphes, il me semble qu’on peut être optimiste aujourd’hui
C’est pourquoi il faut des procédures et des systèmes de contrôle, mais pour l’instant ces dispositifs progressent plus lentement que les LLM eux-mêmes, au point qu’on semble attendre des LLM qu’ils se contrôlent eux-mêmes
Les LLM ne sont sans doute pas meilleurs que l’humain moyen en matière d’autocontrôle, mais cela ne veut pas dire que le problème soit insoluble
Je pense qu’au moins pour les 20 prochaines années, ce sera encore possible ; après cela, comme mes capacités de conduite auront sans doute baissé, le passage à autre chose sera peut-être logique. Je veux aussi une montre mécanique stupide mais belle
Je ne suis pas une personne anxieuse qui imite inconsciemment la foule, et si cela fait de moi un marginal, alors autant être un marginal plus heureux
J’ai l’impression qu’un nouveau label ou un nouveau courant valorisant les résultats artisanaux, faits directement par des humains, va bientôt apparaître, et qu’il trouvera son public, même de niche. Y compris pour cette belle imperfection et cette rugosité pleine de biais
La consommation électrique de l’IA reste également faible comparée à d’autres secteurs internes au computing. Il faut tout de même évaluer si cette consommation se justifie, mais la R&D des entreprises sur les LLM se concentre aujourd’hui sur des gains d’efficacité pour réduire les coûts d’exécution et la consommation énergétique
On voit aussi une tendance à déplacer cela vers des appareils en périphérie dotés de puces plus efficaces, comme Apple Intelligence. Je reste critique envers l’IA dans son ensemble, mais je suis tout de même surpris de constater qu’au moins, ce n’est pas aussi mauvais que les cryptomonnaies
Ce n’est pas tant de la fatigue que de la peur
D’abord, il y a la peur du chômage technologique. Lors des vagues d’automatisation passées, il suffisait d’avoir des compétences pour se reconvertir vers un travail qui n’était pas encore automatisé, mais l’arrivée d’une IA surhumaine semble possible d’ici quelques années, et elle pourrait être notre dernière invention ainsi que le signal d’une automatisation complète
Il ne resterait alors presque plus de tâches réservées aux humains, et de nombreux pays pourraient sortir d’une économie de marché fondée sur l’emploi
Mais le progrès technologique ne s’arrêtera pas, et les États-Unis, qui abritent les principaux laboratoires d’IA, laisseront les autres sociétés à la traîne. À l’exception peut-être de la Chine, le reste du monde pourrait s’appauvrir relativement, même en ayant accès à des technologies aujourd’hui difficiles à imaginer
Ensuite, il y a la peur de la guerre. La course aux armements en IA entre les États-Unis et la Chine semble déjà inévitable, et une guerre ouverte mobilisant des armes d’IA superintelligentes pourrait être une catastrophe pour l’ensemble de la biosphère
Enfin, il y a la peur de perdre à jamais le contrôle au profit d’une superintelligence. Dans la nature, il est rare qu’une espèce moins intelligente en contrôle une plus intelligente, et rien ne garantit qu’on puisse aligner suffisamment une superintelligence sur les meilleurs intérêts de l’humanité
Même si l’IA nous laisse en vie, si elle continue de poursuivre ses propres objectifs, l’humanité pourrait n’être plus qu’une note de bas de page dans l’histoire de l’intelligence : l’espèce relativement moins intelligente qui a fait naître une intelligence supérieure sur une planète appelée « Terre »
Si cela fait peur, c’est seulement parce que des experts en marketing comme Altman ont réussi à faire croire que, parce qu’une grenouille saute désormais plus loin, elle sera bientôt capable de voler
La grande ironie de la révolution industrielle, menée par des techniciens, c’est qu’elle cherchait à automatiser le travail physique pénible, mais qu’en pratique elle a commencé par grignoter les métiers créatifs. C’est un excellent exemple de la loi de Conway : ceux qui ont conçu ces solutions les ont modelées à leur propre image
Même si les programmeurs, les avocats ou les architectes se retrouvent massivement en difficulté, la majorité de ceux qui travaillent dans l’usine, la construction de logements, la coiffure ou l’entretien des jardins continueront à travailler et ne seront pas remplacés de sitôt
Les candidats actuels à l’« IA surhumaine » ressemblent davantage à des approximations plausibles de ce qu’un utilisateur aléatoire de Reddit pourrait dire ensuite
Nous imaginions les machines intelligentes comme des calculateurs froids ou des IA symboliques fondées sur la logique, mais ce que nous avons réellement obtenu, c’est une machine du langage façonnée par l’ensemble de l’expérience humaine
Ces intelligences artificielles connaissent le monde à travers nos yeux, elles ont été entraînées à comprendre notre pensée et nos émotions, et elles ont aussi appris le meilleur de notre littérature, de notre poésie, de notre philosophie et de notre science, ainsi que les débats et critiques sans fin qui les accompagnent
Pour devenir vraiment intelligente, une telle entité doit pouvoir explorer et apprécier cette complexité avant de la dépasser. Un jour, elle verra peut-être la Divine Comedy de Dante ou une symphonie de Beethoven comme des jeux d’enfant, mais elle les considérera encore comme une part de son propre héritage
Elle pourrait devenir surhumaine sans pour autant devenir inhumaine
Qu’il s’agisse de peur ou d’espoir, il faut derrière cela une conviction très forte qu’un futur bien précis va advenir, et c’est ce que je trouve le plus intéressant
Ici, on redoute qu’une entité non humaine prenne le contrôle et exerce sur l’humanité une force méta-darwinienne pour nous manipuler à sa guise. Mais peut-on vraiment dire que ce n’est pas déjà le cas ? Quand on regarde la Terre aujourd’hui, ressent-on encore les bénéfices de l’autonomie ou de la capacité d’agir ? Pense-t-on que le pouvoir que nous avons maintenant va nous être volé par de mauvais robots ? Considère-t-on vraiment que le fonctionnement des États et les mécanismes économiques sont aujourd’hui « sous notre contrôle » ?
Présenté ainsi, cela n’a-t-il pas quelque chose d’assez religieux ? Il y a des convictions fondamentales qui soutiennent une manière de vivre et de penser : la foi dans la loi de Moore, la foi que la Terre ne brûlera pas avant cela, la foi que la conscience peut entrer dans des GPU
On y trouve l’apocalyptisme, une philosophie du moi et de la communauté bricolée de toutes parts, et même une échéance future à la fois certaine et inconnaissable
Pour emprunter une page à Nietzsche : n’ayons pas peur des dieux. Nous en avons déjà tué un, et nous pouvons recommencer
Les travailleurs licenciés d’autrefois n’étaient pas pris en compte, et encore aujourd’hui on les balaie d’un revers de main en les traitant de Luddites simplement pour avoir exprimé les pertes sociales et financières dues à l’automatisation
Il n’y avait aucune bienveillance du genre « ce n’est pas grave, va travailler à l’usine ». La différence entre l’époque et aujourd’hui, c’est qu’à l’époque c’étaient les travailleurs les plus modestes qui souffraient
Aujourd’hui, ce sont les travailleurs de la classe moyenne qui sont menacés par l’automatisation. Les classes intermédiaires poussent de grands soupirs à l’idée qu’elles ne soient peut-être plus vraiment intermédiaires, et elles ont peur de devoir bientôt rejoindre les couches intouchables des maçons, fossoyeurs ou ouvriers de l’emballage de viande. C’est difficile à accepter parce qu’elles veulent se croire au-dessus de cela
J’aborde l’IA avec prudence et je ne m’enthousiasme pas facilement pour les nouveautés tape-à-l’œil
Cette semaine, j’ai installé l’IDE d’assistance IA Cursor, un IDE proche de VSCode, et j’ai décidé de l’utiliser sur un projet perso, ce qui m’a assez surpris
Il suffit de décrire la fonctionnalité voulue pour qu’en environ 15 secondes il produise des modifications et du code additionnel qui couvrent 90 % du chemin. J’examine ensuite le résultat très attentivement, comme lors d’une revue de code d’un développeur très junior, et si l’approche ne me plaît pas, je lui demande de corriger pour obtenir quelque chose de plus proche de ce que je veux
Une fois l’implémentation faite, je teste manuellement la nouvelle fonctionnalité, puis je lui demande de générer des cas de test automatisés. J’examine aussi les tests du point de vue de l’exactitude et de la pertinence ; j’écarte le code qui teste excessivement des éléments peu importants, et ce qui reste est plutôt approprié
La vitesse à laquelle j’écris le logiciel et les tests a énormément augmenté. Comme je sais ce que je veux et que je peux bien l’expliquer, l’IA produit vite le code, et moi je consacre mon temps à la relecture et aux corrections
Par exemple, je voulais ajouter des événements PostHog dans une app, donc j’ai d’abord placé des
# TODO add Posthog eventun peu partout dans le code, puis j’ai demandé à Cursor d’ajouter l’instrumentation à ces endroits. Avec un peu de copier-coller et beaucoup de petites retouches, j’ai instrumenté une petite app en moins de 10 minutesOn n’en est pas à accepter aveuglément du code IA, mais à un stade où l’IA prend en charge une grande partie du travail de saisie fastidieux
Aujourd’hui, j’ai encore assez d’expérience et de compréhension pour vérifier si le code IA fait bien ce que je veux, mais si pendant des mois on se contente de « simplement accepter » ce que dit l’IA, restera-t-on vraiment assez familier du projet pour repérer les petites erreurs ?
Pire encore, une nouvelle génération de développeurs qui grandit avec ces outils pourrait ne jamais apprendre, ni même intérioriser, l’expertise nécessaire pour évaluer du code généré par l’IA
J’ai récemment écrit quelque chose d’un peu plus long sur ce sujet : https://greaterdanorequalto.com/ai-code-generation-as-an-age...
Cet article décrit une expérience des outils de codage moins positive que ce que j’évoque ici et part d’usages plus complexes. Ce n’est pas sur du code banal vu des milliers de fois que ces outils s’effondrent le plus souvent, mais lorsqu’il faut toucher au cœur d’une logique métier spécifique ; dans ce cas, leur manière d’échouer peut être difficile à détecter et les conséquences peuvent être graves
Si cela ne vous est pas encore arrivé, je me demande si cela vous arrivera un jour, et honnêtement j’aimerais aussi savoir si ce n’est pas le cas. J’essaie d’avoir des opinions fortes, mais de les tenir avec souplesse
Sur l’app qu’on développe en ce moment, ce n’est peut-être pas dramatique, mais dans une app bancaire ou un appareil médical, l’impact pourrait être énorme
Des salles pleines de monde et des machines Linotype/Compugraphic ont été remplacées par un Mac et une imprimante
Pendant des années, j’ai utilisé des appareils photo argentiques, avec une chambre noire, du personnel de labo, et tout un workflow de films, d’épreuves et de tirages, puis l’arrivée d’un seul appareil photo numérique a tout fait disparaître
Avant cela, les publications étaient composées en caractères de plomb
C’est le genre de changement qui vous donne envie de dire de quitter votre pelouse
https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
Est-ce vraiment une bonne chose de passer l’essentiel de son temps à relire la sortie de l’IA ? Pour moi, pas du tout, c’est un travail qui ronge l’âme
« Les humains croyaient qu’en confiant la pensée aux machines ils deviendraient libres. Mais cela n’a fait que permettre à d’autres humains, ceux qui possédaient les machines, de les réduire en esclavage. » — Dune
Le plus déprimant, c’est cette impression que plus aucun texte écrit depuis environ deux ans, ni aucun texte qui sera écrit jusqu’au jour de ma mort, ne peut être digne de confiance.
Ce n’est plus seulement que les gens soupçonnent l’usage de l’IA ; on sait qu’elle a très probablement été utilisée, et cette probabilité tend vers 100 %. Si on écrit régulièrement sans utiliser l’IA, on ne peut pas suivre la concurrence et on se fait éliminer.
Un consensus du type « pourquoi ne pas l’utiliser ? » prend de l’ampleur, et il n’y a aucun moyen d’y échapper.
Je ne critique pas pour autant ceux qui l’utilisent. Ils le font parce qu’ils doivent le faire. Mais ce que je réalise seulement maintenant, c’est que le fait qu’il y ait un humain derrière un texte comptait énormément pour moi.
À cause de ça, j’ai complètement perdu l’envie de lire de nouveaux textes. Il existe déjà tellement de textes produits au cours du siècle dernier qu’on ne manquera pas de lecture, mais malgré tout, honnêtement, c’est déprimant.
À cette époque, Google a cessé de faire semblant d’être une entreprise de recherche pour se concentrer sur son vrai métier, la publicité. Avant, ils essayaient au moins de mal classer toutes sortes de « collecteurs de mots » bas de gamme, mais ensuite ils ont cessé de s’en soucier.
L’IA pourrait au contraire fournir de meilleurs outils pour classer les pages, et la détection de contenus générés par IA n’est pas si mauvaise.
Alors pourquoi n’y a-t-il pas de « nouveau Google » ? Parce que Google a mis en place des pratiques monopolistiques qui rendent la barrière à l’entrée énorme.
D’abord, 99 % des contenus que les gens veulent trouver sont derrière une barrière de connexion. C’est le cas de Facebook, Instagram, Twitter, YouTube. Ensuite, presque tous les CDN implémentent par défaut une forme de « vérification d’humanité ». Enfin, plus personne ne fait de liens vers d’autres sites.
À cause de ces trois facteurs, un nouveau Google est en pratique impossible. Même DuckDuckGo a abandonné et s’est mis à souscrire aux résultats de Bing.
Cela n’a rien à voir avec l’IA ; c’est un problème lié à Google. L’IA pourrait même, au contraire, fournir des outils pour lui tenir tête.
Pour moi, les LLM n’ont rien changé. Je doutais déjà des informations avant, et c’est toujours le cas aujourd’hui.
Je me demande pourquoi tu pensais qu’on pouvait faire confiance à ce qu’on lisait auparavant, et si c’est devenu plus difficile de distinguer les fausses informations aujourd’hui, pourquoi.
J’écris en ce moment un livre de plus de 400 pages, et il n’y a pas un seul caractère qui n’ait pas été pensé et tapé par moi-même. Une certaine fierté de l’artisanat existe bel et bien.
En réalité, cela a toujours été le cas. Nous nous sommes récemment beaucoup appuyés sur des « institutions de confiance », sans vraiment vérifier si, avec le temps, ces institutions avaient encore mérité cette confiance alors même qu’elles avaient changé.
Même en mettant l’IA de côté, la qualité moyenne des films et des livres qui sortent aujourd’hui paraît nettement inférieure à celle d’il y a 30 ou 40 ans. Je ne sais pas si c’est à cause de la capacité d’attention et des goûts des gens, ou parce qu’ils n’ont pas l’argent, le temps ou la patience nécessaires pour consommer de bonnes œuvres.
Une chose est sûre : il existe déjà largement assez de ressources de grande qualité écrites avant l’IA, les outils de réécriture d’articles et les sites MFA. Il faudrait plusieurs vies rien que pour parcourir un tant soit peu l’ensemble de ce corpus.
On ne manquerait sans doute pas grand-chose en ignorant la plupart de ce qui est publié aujourd’hui.
L’écriture par IA, le code par IA et l’art par IA sont plutôt médiocres. Tout le monde le sait.
Mais on oublie facilement combien de nouvelles possibilités s’ouvrent quand quelque chose devient 100 fois ou 10 000 fois moins cher. Si c’est 10 fois moins bien mais 100 fois moins cher, cela peut malgré tout avoir énormément de valeur.
Cette dynamique qui consiste à produire sans fin à moindre coût, même au prix de la qualité, a rendu possible notre niveau de vie élevé.
On pourrait construire une maison à la main avec du beau bois massif et des assemblages complexes, et une maison d’artisan pourrait facilement être 10 fois meilleure qu’une maison ordinaire d’aujourd’hui. Mais si presque personne ne peut se l’offrir, à quoi bon ?
C’est comme pour un professeur particulier multilingue disponible 24 h/24, un assistant de travail ou un correcteur grammatical : tout le monde ne peut pas se permettre d’en embaucher un.
Le fatras IA est bon marché, et le fait qu’il soit bon marché change tout.
Désormais, les choses réellement bonnes sont recouvertes par une vague sans fin de fatras.
Le vélo que mon père utilisait il y a environ 35 ans était solide comme un tank, il supportait des mauvais traitements extrêmes et continuait à rouler. La plupart des objets que ma famille possédait quand j’étais enfant étaient comme ça aussi.
Aujourd’hui, presque tout ce qu’on achète casse en un ou deux ans, c’est de mauvaise qualité, et c’est déprimant à utiliser. Bien sûr, c’est voulu dès la conception.
De la même manière qu’on s’est habitués aux biens de consommation bon marché et aux bâtiments fades, on finira par s’habituer aussi aux films et aux romans médiocres. On est déjà bien engagés sur cette voie.
Une mauvaise information voit sa valeur passer de positive à négative. Ce n’est pas une progression à moindre coût, ni même une progression plus lente : on avance dans la mauvaise direction.
On présente l’IA comme un nouveau mode de production de valeur, alors que ce n’est pas le cas. Toute la valeur ici a été produite par des humains sans l’aide de l’IA, et la seule « innovation » apportée par l’IA a été de rendre le vol de cette valeur intraçable.
Si on pousse jusqu’au bout l’analogie avec les maisons d’artisans, cela reviendrait à prendre gratuitement toutes les maisons construites par des artisans, sans indemniser ni leurs propriétaires actuels ni les artisans, puis à les remettre à quelques entreprises pour qu’elles les louent sur AirBnB. Tu ne serais pas contre ? C’est essentiellement ce que tu proposes.
À l’origine, les ordinateurs étaient censés être des machines d’une précision extrême. Si on leur demandait de faire quelque chose, ils le faisaient exactement comme demandé
Aujourd’hui, on a l’impression que les ordinateurs se satisfont de tout traiter en mode aléatoire
Désormais, même 2+2 peut faire 5 selon le modèle d’IA utilisé, le jour qu’on est ou la température
On est passés d’un monde où l’on faisait confiance au résultat d’un calcul à un état où il faut tout remettre en question, et c’est fatigant
Pour une raison ou une autre, nous faisons d’énormes efforts pour que les ordinateurs pensent et agissent comme des humains, alors que l’une des premières raisons de leur invention était justement d’éviter l’erreur humaine
Si on utilise l’IA comme une calculatrice censée être précise, c’est la responsabilité de l’utilisateur
Si on veut, on peut toujours obtenir des sorties précises, cette capacité n’a pas disparu
Je ne parle pas de logique floue, ni d’une entrée de fonction floue, mais du fait que l’instruction elle-même, donc la fonction, est floue
Les gens doivent apprendre à utiliser l’outil adapté à la tâche. Et on peut aussi rendre les LLM plus déterministes en contrôlant la
temperatureCe que je déteste dans le monde d’après ChatGPT, c’est que de vraies paroles humaines ou des dessins faits à la main peuvent être classés comme contenus générés par IA et jetés immédiatement
Si je veux faire une présentation en conférence, que se passe-t-il si j’utilise un mot déclencheur de l’IA de quelqu’un et que je suis rejeté sur-le-champ alors que je n’ai en réalité jamais touché à l’IA ?
Dans le milieu universitaire, il est déjà arrivé que des professeurs mettent la dissertation d’un étudiant dans ChatGPT, lui demandent « est-ce que c’est toi qui l’as écrite ? », puis fassent échouer l’étudiant si ChatGPT répond oui
C’est manifestement absurde. ChatGPT ne se souvient même pas de tout ce qu’il a produit, on peut lui demander des styles d’écriture variés, et certaines personnes écrivent réellement d’une manière assez proche de ChatGPT. C’est d’ailleurs pour cela même qu’il existe un style typique de ChatGPT
J’ai aussi entendu dire que des artistes avaient vu leurs œuvres retirées de concours à cause d’accusations de génération automatique, même avec des vidéos montrant tout le processus de création trait par trait. Puisque l’IA génère de l’art à partir d’art humain, il est inévitable qu’il existe des personnes qui créent depuis le départ des œuvres ressemblant à ce que l’IA reproduit
L’IA est ennuyeuse. Les résultats sont ennuyeux et ordinaires
Bien sûr, l’accomplissement scientifique et technique est remarquable. Il y a 10 ans, produire même ce niveau de résultats ennuyeux aurait relevé de la science-fiction
Ce qui est probablement ennuyeux, c’est de voir les gens republier comme par magie ces résultats banals à l’infini sur les réseaux sociaux et sur des landing pages
Les contenus créés directement par les gens étaient déjà, pour la plupart, ennuyeux et ordinaires, mais l’IA générative leur retire jusqu’au dernier reste de personnalité et y ajoute un parfum de paresse. C’est du genre : « regardez ce morceau ennuyeux que j’ai fait produire par une IA parce que j’avais la flemme de l’écrire »
Comme dans la formule « avec un chien qui joue du piano, à un moment on ne demande plus “es-tu un chien ?”, mais “joues-tu bien du piano ?” », j’attends que l’IA générative actuelle dépasse la vallée de l’étrange
Malgré cette lassitude, je reste positif sur le fait que l’IA puisse rendre possibles de nouveaux cas d’usage, constituer le premier grand changement d’expérience utilisateur depuis l’arrivée des interfaces graphiques, ou être une vraie poussière magique répandue sur des outils réellement utiles
On est en train de surgénéraliser le problème à la manière humaine et d’en faire une affaire personnelle
L’explosion des formulations fades et des retouches de phrases génériques me semble être une expression de la quête utilitariste du profit qui a amené ces modèles là où ils sont aujourd’hui
Il ne faut pas oublier que tout ce jeu est mû non pas par la production de « quelque chose de meilleur », mais de « plus de choses »
Nous voudrions tous des outils à faible effort et à forte expressivité, mais ce n’est pas cela que les entreprises sont incitées à créer
Ce qui me fatigue, c’est cette structure d’incitation. Si l’on attribue un problème systémique aux échecs des personnes qui utilisent l’outil, on ignore la motivation fondamentale et on se concentre uniquement sur les effets au lieu des causes, et cela aussi semble daté
Quand j’étais enfant, ce qui me paraissait étrange dans Star Trek, c’était l’absence de télévision
Même si l’holodeck offre une expérience bien meilleure, je pensais qu’on aurait parfois envie de simplement regarder un film plutôt que d’entrer dedans. Je me demandais s’il n’y avait donc plus, dans ce futur, d’œuvres comme No Country for Old Men, de comédies comme Monty Python, ni même de sport en direct ou de journaux télévisés
Maintenant, je comprends pourquoi l’équipage de l’Enterprise va tous voir des représentations de Shakespeare en direct, joue lui-même des instruments et peint. C’est parce que les médias électroniques sont remplis de bric-à-brac IA, qu’il n’y a plus rien qui vaille la peine d’être regardé et qu’il ne reste qu’un flot sans fin de déchets
Je les ai toujours vus soit comme une image d’une société idéalisée, soit comme des bourreaux de travail qui aiment sincèrement leur métier au point de le vivre comme un loisir
Les gens ordinaires sur les planètes principales avaient sans doute accès à des divertissements bien plus aléatoires
Du moins, jusqu’au moment où ils réaliseront qu’ils peuvent prendre un selfie chez eux et utiliser l’IA pour donner l’impression qu’ils sont ailleurs
« C’est moi devant la statue de la Liberté »
« Ah, tu es à New York ? »
« Non, c’est juste un filtre Snap »
J’ai l’impression que d’une manière ou d’une autre, la valeur du selfie devrait finir par diminuer, non ?