ai;dr — faut-il lire des textes écrits par l’IA ?

> "(ai; didn't read)"

• L’écriture est une fenêtre directe sur la manière dont une personne comprend et perçoit le monde
• Mais dès qu’on sous-traite l’écriture à un LLM, je ne vois plus vraiment pourquoi il faudrait prendre la peine de lire ce texte
• Y a-t-il une raison de lire un texte que son auteur n’a même pas eu envie d’écrire lui-même ?

Ne vous énervez pas..

• Vous pouvez me traiter de détracteur de l’IA, mais j’utilise énormément les LLM dans mon travail
• Claude Code continue de consommer mon budget de tokens, et l’usage des LLM pour écrire du code, en particulier pour la documentation, les tests et le scaffolding, est indispensable

En ce qui concerne le contenu..

• Le code généré par l’IA montre des progrès et des gains d’efficacité, mais à l’inverse, les textes et publications générés par l’IA donnent l’impression d’être des produits à faible effort
• Je pense que l’intention et l’effort pour essayer d’ordonner soi-même des idées confuses ont plus de valeur qu’un texte développé à partir d’une simple liste à puces
• Le processus d’écriture lui-même est un acte qui organise et façonne la pensée
• À mesure que le contenu généré par l’IA se multiplie, j’ai le sentiment qu’il devient difficile de rejeter complètement la Dead Internet Theory

Est-ce que le dysfonctionnel est désormais meilleur ?

• Autrefois, les fautes de frappe et les erreurs grammaticales étaient des signaux négatifs ; aujourd’hui, plus un texte est moins poli et grammaticalement maladroit, plus il me semble avoir de la valeur
• Cela dit, même un anglais cassé et l’usage des minuscules peuvent désormais être corrigés facilement sur le plan technique, alors est-ce vraiment un problème majeur ?

[roxie]

> Est-ce qu’un truc cassé est désormais meilleur ?

😮 👍

> Cela dit, même un anglais approximatif et l’usage des minuscules peuvent être facilement corrigés techniquement, donc est-ce vraiment un gros problème ?

😞

[GN⁺]

Réactions sur Hacker News

• Je trouve intéressante l’approche d’Oxide vis-à-vis de l’IA pour l’écriture. Comme le dit le document RFD 576, il existe en général un contrat social où lire est plus facile qu’écrire, et l’IA rompt cet équilibre. Du coup, une réaction comme « ai;dr » se comprend. Mais il arrive aussi souvent que des textes écrits par des humains soient pris à tort pour des textes générés par IA. C’est pour ça que j’ai créé seeitwritten.com, une expérience qui enregistre les frappes au clavier pour montrer qu’un texte a bien été écrit par une vraie personne. Cela dit, le fait de rendre visibles les corrections et les hésitations donnait un côté un peu intrusif

  • Ce qui me désole le plus en ce moment, c’est que l’em dash (—), que j’utilise depuis des décennies, soit pris pour un signe d’écriture IA. Maintenant, je m’interromps un instant chaque fois que je veux l’utiliser
  • Le problème de l’écriture par IA, c’est qu’elle gaspille le temps de tout le monde. C’est comme l’inverse de gzip : une manière de gonfler inutilement le contenu. Comme un étudiant qui force son devoir à atteindre 500 mots pour demain
  • Je pense que chaque moyen de communication repose sur un contrat social implicite. Par exemple, un cours au tableau a de la valeur parce qu’on y écrit vraiment à la main, tandis qu’avec PowerPoint cet effort disparaît, et la qualité moyenne des présentations baisse énormément
  • Au début du Covid en 2020, j’ai lancé le « Project 35 ». Pendant 35 jours, j’ai écrit trois fois par jour pendant 10 minutes, puis publié directement sans édition. Le résultat était moins parfait, mais une écriture beaucoup plus humaine et vivante. Il y a aussi les archives du projet
  • Ce serait bien de mettre seeitwritten.com en lecture à 5x environ. Je ne pense pas que qui que ce soit le regarderait en vitesse 1x

• Le « code généré par IA » donne une impression d’efficacité et de progrès, mais le « texte généré par IA » paraît bâclé. Les gens estiment que leur propre usage de l’IA est légitime, mais considèrent celui des autres comme des « déchets ». Dans le jeu vidéo en particulier, ce double standard est très marqué

  • L’IA pour le code s’adresse à des machines ou à l’auteur lui-même, alors que l’IA pour l’écriture s’adresse aux autres, et c’est une différence majeure
  • Aujourd’hui, avec la généralisation de l’upscaling IA comme DLSS, la plupart des graphismes de jeux dépendent déjà indirectement de l’IA. Prétendre faire un « jeu totalement sans IA » ressemble à de l’hypocrisie. La créativité humaine est importante, mais il faut aussi respecter la liberté d’utiliser des outils
  • Je considère que le code, comme l’écriture, relève aussi de l’expression personnelle. Quand on utilise un LLM, la personnalité du programmeur disparaît, et même les schémas d’échec deviennent plus difficiles à prévoir
  • En ce moment, il y a un effet de vallée dérangeante dans l’écriture. On a pris mon code review, trop fluide, pour un texte écrit par IA. Du coup, j’essaie volontairement d’y laisser des traces humaines
  • Un ingénieur junior a remis un document de recherche de 27 pages produit avec l’IA, sans aucune profondeur de fond. Le problème, c’est la verbosité des documents générés par IA. Contrairement à du code exécutable, ce genre de document n’a aucune valeur

• On dirait que la fin de l’internet humain est arrivée. La recherche a été ruinée par les pubs et les contenus générés automatiquement, et les gens se mettent à demander directement aux LLM. Au final, les textes de mon site ne servent plus qu’à nourrir les données d’entraînement des LLM. On entre donc dans une époque où l’on écrit pour les LLM, autrement dit un nouvel âge du SEO

  • C’est une tragédie de l’économie de l’attention. Des pages poubelles produites par IA pullulent pour capter les revenus publicitaires. Par exemple, si on cherche « Ford Focus wheel nut torque », on tombe sur des tas de phrases inutiles
  • Malgré tout, je continue de croire que la curation communautaire peut encore sauver les écrits humains. Rien qu’en regardant HN, on trouve encore beaucoup de textes humains sérieux
  • Autrefois, tous les dessins étaient faits à la main ; le changement est donc naturel. La diminution de la communication humaine est regrettable, mais on ne pourra pas éviter l’usage de nouvelles boîtes noires pour transmettre l’information efficacement

• Un ami s’est vanté d’avoir écrit 10 textes avec Claude, et ça a brisée notre amitié. C’était à l’origine un excellent auteur, mais maintenant c’est l’IA qui écrit à sa place. Qu’il fasse ses recherches avec l’IA ou non m’importe peu, mais un texte doit porter les traces d’une écriture directe. C’est aussi pour ça que les posts LinkedIn me paraissaient déjà peu sincères avant

• Depuis l’IA, internet est devenu moins intéressant. Tous les textes donnent l’impression d’avoir le même ton et la même structure. Avant, chaque texte portait l’émotion de son auteur ; aujourd’hui, cela disparaît. Même les messages d’adieu d’athlètes ou les hommages à des proches finissent par sembler écrits par IA, et c’est triste

  • Avant, je rêvais d’un « dark web réservé aux humains », mais aujourd’hui il y a tellement de triche collaborative entre humains eux-mêmes que ça semble impossible
  • En réalité, les messages de retraite des célébrités étaient déjà écrits depuis longtemps par des équipes RP. L’IA pourrait même casser cette illusion de relation avec les célébrités. Mais voir même les gens ordinaires parler dans un style uniformisé, c’est une vraie perte

• Quand je fais une revue de code et que je vois un commit qui réimplémente en 300 lignes une fonctionnalité déjà présente dans le framework, j’ai une forte impression de ai;dr. Il n’est pas normal que je doive devenir plus familier avec son code que lui-même

• Je suis d’accord avec l’idée que « tout texte auquel on n’a pas consacré du temps soi-même ne mérite pas d’être lu ». Ça vaut aussi pour les textes dont l’IA n’a fait que lisser la forme. Mais, ironiquement, les gens disent qu’il ne faut pas utiliser l’IA pour écrire, tout en l’utilisant pour le code ou la documentation

  • Pour ma part, je trouve au contraire que la documentation générée par IA peut être utile. Il suffit qu’elle explique correctement la fonction du code et la manière de l’utiliser, et l’IA peut la rendre plus lisible

• Dire que « l’IA écrit la documentation, les tests et le scaffolding à ma place » est contraire à l’esprit de ai;dr. Ce que je veux voir, ce n’est pas ce que pense Claude, mais l’intention de l’auteur

  • D’ailleurs, dans le texte, on dit d’abord « pourquoi devrais-je lire quelque chose que quelqu’un d’autre a écrit sans y mettre de soin ? », puis juste après « la documentation, je la fais écrire par l’IA » : c’est contradictoire

• Au début de ChatGPT en 2023, un manager peu à l’aise en anglais s’est soudain mis à envoyer des e-mails parfaits, dignes d’un copywriter. Mais pour trouver le message essentiel, toute l’équipe devait lire des phrases inutiles, ce qui faisait perdre du temps à tout le monde

  • Au final, dans ce genre d’époque, les LLM vont devenir un nouveau format de transmission des données. Si je donne 4 points clés à un LLM, il produit un e-mail verbeux, puis le destinataire demande à son tour à un LLM de le résumer. C’est une boucle infinie d’inefficacité
  • La solution est simple : demander à ChatGPT de résumer. Au bout du compte, l’IA résout les problèmes créés par l’IA

• Le fond du problème, c’est qu’on a commencé à appeler tout ça du « contenu ». Dès lors qu’on ne voit plus l’information ou l’art que comme un simple bien de consommation, on finit par trouver suffisantes aussi les productions de l’IA. Mais si ce que l’on cherche, c’est de l’art, alors c’est une toute autre histoire